淮南市第二中学创办于1946年秋，是淮南市最早的一所中学，原名淮南路矿员工子弟中学，后数易其名，1956年正式定名为淮南市第二中学，1959年省政府批准为首批省重点中学，1979年被省教委确定为新时期首批办好的重点中学，2000年底通过省示范高中的评估验收，成为全省基础教育示范学校，现于2013年所有学生已搬至新山南的新二中。