1956年11月中共马鞍山市委成立后，设立全市性教育管理机构。1957年3月成立文教科。1958年3月成立马鞍山市文教局。1960年文教局合并到市委宣传部办公，对内称文教组，对外称教育局。1965年市文教局分离为教育局和文化局。1986年，市教育局撤销，建立马鞍山市教育委员会，简称市教委；内设机构有纪委、视导室、办公室、组织科、宣传科、计财科、人事科、保卫科、普教科、成职教办公室、教研室、体卫科、师训部（市师范学校）、工会、团委、招生办、电教馆、勤俭处（含劳服公司、教学仪器站）；下设建安公司、育才商店。1989年，内设机构增加德育办、教科所、监察审计室、职教研究室（市职教中心）、督导室（更名）。2002年市教委更名为市教育局，内设职能科室l0个，行政编制48人。2010年3月，根据《马鞍山市教育局主要职责内设机构和人员编制规定》（马机编[2010]4号）精神，调整内部机构设置，将组织科与宣传科合并为组织宣传科，保卫科改为学校安全科，德育办和团委合署办公，新成立政策法规科、高等教育办公室。