По легенде, идея основать город возникла у маркграфа Карла Вильгельма в 1715 г., когда он, утомившись от охоты, заснул под деревом на одном из местных лугов и ему приснился собственный город, который был «Карловой тишиной» (нем. Ruhe «тишина, покой»). Город начал строиться на территории между тремя древними (старше X века) населёнными пунктами: Мюльбургом, Дурлахом и Эттлингеном, из которых первые два по мере расширения города стали его частями.

В Карслсруэ присутствует транспортное и электротехническое машиностроение, нефтеперерабатывающая, металлообрабатывающая, химическая, полиграфическая, пищевая промышленность. Карлсруэ является вторым по величине речным портом Германии. В городе находится крупнейший в Германии нефтеперерабатывающий завод. В Карлсруэ находится штаб-квартира энергетического концерна EnBW.

Университет Карлсруэ (основан в 1825 году, 18 245 студентов на 30 ноября 2005 г.) является старейшим в Германии техническим высшим учебным заведением и входит в число лучших высших учебных заведений по таким направлениям, как машиностроение, информатика и электротехника. В 2009 году он был объединен с находящимся в 10 км к северу от Карлсруэ научно-исследовательским центром (нем. Forschungszentrum Karlsruhe), основанным в 1956 году. Объединенное высшее учебное заведение получило название Технологический Институт Карлсруэ (KIT, нем. Karlsruher Institut für Technologie, англ. Karlsruhe Institute of Technology) по аналогии с Массачусетским технологическим институтом.
В Карлсруэ расположена Государственная академия изобразительных искусств, Музей земли Баден (коллекция древностей), художественный музей Кунстхалле, а также Музей мультимедийного искусства с весьма богатой коллекцией (нем. Zentrum für Kunst und Medientechnologie (ZKM)).