武功建县始于秦孝公十二年(公元前350年)。王莽新朝天凤二年(公元15年),改为新光县。东汉初,废入眉县。永平八年(65年),复置武功县。北魏太和十一年(487年)置武功郡。建德三年(574年),废郡设县。五代后晋时,置武功郡,后周改郡为县。金大定二十九年(1189年),改县名为武亭。元代复名武功县。
据说是因为汉朝时的武功人(那时候叫什么不知道)苏武出使匈奴立下功劳,所以叫武功,意思是苏武有功。