Mae hanes Mali yn cychwyn tua'r 4g OC. O'r amser yna ymlaen bu Mali yn rhan o sawl ymerodraeth yn olynol, yn cynnwys Ymerodraeth Ghana, Ymerodraeth Mali (Mansu Musa oedd ei hymerodr galluocaf) ac Ymerodraeth Gao.
O'r 11g ymlaen roedd Tombouctou (Timbuktu) yn ganolfan masnach a dysg bwysig. Erbyn y 14g roedd ei phrifysgol yn atynu ysgolheigion o bob cwrdd o'r byd Islamaidd, o'r Maghreb dros y Sahara yn y gogledd i'r Dwyrain Canol.
Yn ystod y 19g cafodd Mali ei meddiannu gan Ffrainc a'i hymgorffori yng Ngorllewin Affrica Ffrengig, oedd yn cael ei rheoli o'r brifddinas wladfaol yn Saint-Louis (ar arfordir Senegal). Llwyddodd y Maliaid i ennill hunanlywodraeth fewnol yn 1958 fel aelod o'r Gymuned Ffrengig. Ffurfiwyd gwladwriaeth newydd gyda Senegal yn 1959 dan yr enw Ffederasiwn Mali, ond aeth Mali ei ffordd ei hun ar 22 Medi 1960 fel gwladwriaeth annibynnol.