Fieldsmedaljen instiftades av den internationella matematikorganisationen International Mathematical Union enligt en resolution vid den internationella matematikkongressen 1924. Den uppkallades efter matematikern John Charles Fields (1863–1932), professor i matematik i Toronto, Kanada, som hade varit sekreterare vid kongressen 1924 och vid sin död 1932 testamenterade 47 000 dollar till priset. Medaljen är av guld och bär Arkimedes bild på åtsidan.
Medaljen, som delas ut var fjärde år vid de av unionen arrangerade internationella matematikkongresserna, har ibland kallats "matematikens nobelpris". I syfte att vara en sporre för framtida insatser inom matematiken delas dock medaljen endast ut till personer under 40 år. Från 1936 till 1962 utdelades vid varje kongress två medaljer, men sedan 1966 har fyra medaljer delats ut vid kongresserna.