Деревня Mannenheim, на основании которой был построен город, впервые упоминается в историческом документе Lorscher Codex в 766 году. В 1607 Мангейм стал городом, и в последующие годы был отстроен исторический центр города в форме подковы, с дворцом и перпендикулярными друг к другу улицами, делящими центр на квадраты и прямоугольники. Отсюда произошло название центра: «квадраты».
В 1720 году в город была перенесена из Хайдельберга резиденция пфальцских курфюрстов, благодаря чему Мангейм получил политическое значение. В XVIII веке был построен мангеймский замок в стиле барокко, один из крупнейших замков Европы. Во Вторую мировую войну центр города был практически полностью разрушен в процессе бомбардировок, затем отстроен заново.

Мангеймский дворец (нем. Schloss Mannheim) — дворец в стиле барокко, расположенный на берегу Рейна в городе Мангейме в Германии. C 1720 по 1777 год — резиденция рейнских курфюрстов (перенесена в 1720 году из Гейдельберга). На данный момент (2007) здание используется, в частности, Мангеймским университетом. Начиная от дворца и до реки Неккар простирается исторический центр города — так называемые «квадраты» — прямоугольные блоки зданий, разделённые улицами, перпендикулярными и параллельными стенам дворца Квадраты носят названия, состоящие из буквы и числа (например, «A1» или «M7»), которые распределены относительно дворца и главной улицы города, проходящей от фасада дворца до моста через Неккар. Эта улица носит название Kurpfalzstrasse, но горожанами именуется исключительно как Широкая улица (нем. Breite Strasse). Она находится наполовину в пешеходной зоне, в которой расположены многочисленные магазины и административные здания. В 2007 году Мангейм (как город) отметил свой 400-летний юбилей.

История нескольких важных изобретений связана с Мангеймом. В этом городе Карл Дрез построил в 1817 году первую дрезину, в 1880-м первый электрический лифт был представлен на выставке Вернером фон Сименс, в 1886-м первый автомобиль Карла Бенц проехал по городским улицам, и в 1921-м — первый трактор. В XVIII веке, среди жителей и гостей города были Гёте, Шиллер и Моцарт. В январе 1782 года в городском театре состоялась премьера «Разбойников» Шиллера — драмы, принёсшей ему успех. В академической музыке выделяют движение, известное как Мангеймская школа, в числе которой Мангеймская капелла (симфонический оркестр — один из лучших в Европе оркестров середины XVIII века). Мангеймская школа явилась переходным стилем от барокко к Венскому классицизму (Гайдн, Моцарт, Бетховен).