Миллионы лет назад на месте современного города Марганец было море. При вскрытии пластов земли во время добычи руды были найдены кости китов, других морских животных, всевозможные морские ракушки, которые уже не водятся в современных морях. Именно отложения морского дна на основе гранитных пластов и спровоцировали образование марганцевой руды.

Более 2 500 лет тому назад эта территория была центром великой Скифии и входила в состав священной скифской земли Геррос. На левом берегу Борисфена (Днепра) находилась столица Скифии — город кузнецов и гончаров. До сих пор сохранились скифские курганы, которые использовались казаками как ориентиры на местности. 

Именно на месте современного города Марганец образовалась первая Запорожская Сечь. Располагалась она на острове Томаковка (часть острова сейчас затоплена Каховским водохранилищем, а часть сохранилась, она находится между рекой Томаковкой и водохранилищем в районе Острова). Остров имел ещё несколько названий: Буцкий, Днепровский, Городище, Остров. Занимал площадь около 300 га. Его омывали речки Бугай, Русло, Ревун. Томаковская Сечь образовалась в 40-60-х годах XVI века и существовала до 1593 года. Это место считалось одной из лучших крепостей на Днепре.

Запорожские казаки под руководством Ивана Подковы боролись против турецкого притеснения в Молдавии. Также остров был базой казацко-крестьянского восстания под руководством Криштофа Косинского (1591—1593). В последний период восстания, когда казаки штурмовали Киев, татары напали на Томаковскую Сечь. После героической обороны казакам всё-таки пришлось оставить остров. Ночью они вышли на лодках из окружения и перебрались на остров Базавлук. По преданию, перед нападением татар казаки зарыли на острове свою казну — слиток золота в виде коня.

Также на острове Томаковка 12 или 15 декабря 1647 года побывал Богдан Хмельницкий с сыном Тимофеем и отрядом единомышленников, где собрал и сконцентрировал повстанческие силы для освободительной борьбы украинского народа 1648—1654 гг. Отсюда он в январе 1648 года напал на Никитинскую Сечь, где разгромил польский гарнизон и взял власть в свои руки.

Атаман Иван Сирко тоже связан с марганецкой землей. Прославился кошевой атаман тем, что не проиграл ни одной битвы. Он изображен на картине Ильи Репина «Письмо запорожцев турецкому султану». Похоронен Иван Сирко в селе Капуловка, недалеко от Марганца.

В 1880 году житель села Городище копал колодец и нашёл необычную чёрную землю. Впоследствии он узнал, что это руда марганца. Это открытие заинтересовало геологический комитет горного департамента и собственников металлургических заводов. Летом 1883 года геолог Валериан Александрович Домгер в долине речки Солёной находит большие залежи марганцевой руды. Таким образом, он открывает самое большое в мире месторождение марганца.

В 1886 году открывается первая шахта по добычи руды, а в 1910 году предприятие становится самым крупным поставщиком руды на мировой рынок. В 1926 году село Городище переименовывается в Коминтерн, а в 1938 году, когда в состав села входит ещё несколько населённых пунктов, он приобретает статус города и получает название Марганец.

В 1942 - 1944 гг. город находится в фашистской оккупации. Ведётся партизанская война. В центре города сохранились здания, которые помнят эти страшные годы. Рядом с Вечным огнём, в здании бывшей детской поликлиники располагалось Гестапо, где были замучены и убиты сотни людей, тела которых скидывали рядом с домом в яму (сейчас на этом месте братская могила в виде мемориала с вечным огнем), а через дорогу в здании музыкальной школы было казино, где фашисты отдыхали и развлекались.

В период  19551958 гг. часть острова Томаковка и близлежащих сёл, плодородных земель и таинственных пещер были затоплены Каховским водохранилищем, уничтожив много исторических ценностей и изменив климат региона.

В 1970 году на левом берегу Днепра началось строительство Запорожской ГРЭС, а в 1979 году Запорожской АЭС, что серьёзно сказалось на экологии Марганца и прилегающих районов. Обе станции можно увидеть невооружённым глазом, стоя на берегу Каховского водохранилища со стороны Марганца.

В 1970 году на левом берегу Днепра началось строительство Запорожской ГРЭС, а в 1979 году Запорожской АЭС, что серьёзно сказалось на экологии Марганца и прилегающих районов. Обе станции можно увидеть невооружённым глазом, стоя на берегу Каховского водохранилища со стороны Марганца.

С 1991 года (после развала СССР) Марганец переживает не лучшие времена. Прекратили своё существование лентоткацкая фабрика, мебельная фабрика, цветочное хозяйство, пять детских дошкольных учреждений и многое другое. Не в полную силу работают рудоремонтный завод, швейная фабрика и МГОК. Это привело к серьёзной нехватке рабочих мест.

Прекратилось строительство многоэтажных домов. Одно из недостроенных зданий до сих пор стоит в центре района Ворошиловка.

28 июня 2009 года на берегу Каховского водохранилища гражданином армянской национальности был убит милиционер, что вызвало погромы армянских автомобилей. Убийца задержан и арестован. На похороны милиционера Сергея Бондаренко собралось значительное количество горожан. 5 августа 2009 года была открыта мемориальная доска, посвящённая погибшему, расположенная на здании спортивного комплекса «Надежда», где занимался Сергей.

12 октября 2010 в городе Марганце произошла ещё одна трагедия. В 9:00 на железнодорожном переезде столкнулись льготный маршрутный автобус и локомотив. В результате столкновения погибли 45 из 53 человек, находившихся в автобусе. Данное ДТП стало самым крупным за всю историю Украины.