DaLI Ringvorlesung: "Are We Ready? The Urgent Need for an AI-Resilient Society"

Im Rahmen der DaLI-Ringvorlesung „Zukunft durch Daten – KI gestalten, gesellschaftlichen Wandel fördern“ spricht Prof. Dr. Thomas Bartz-Beielstein über eine zentrale Frage unserer Zeit:

„Are We Ready? The Urgent Need for an AI-Resilient Society“

Während die Publikation „Why we need an AI-resilient society“ von 2019 [Bartz-Beielstein, 2019] den Fokus auf „Generative Adversarial Networks“ (GANs) und die Gefahr von „Deep Fakes“ legte, hat sich die technologische Landschaft 2026 fundamental gewandelt. Es ist zu befürchten, dass sich die vor sieben Jahren identifizierten „Unknown Knowns“ (blinden Flecken) von isolierten Täuschungen zu einer Erosion menschlicher Fähigkeiten ausweiten: Die Gefahr liegt heute in der systemischen Erosion menschlicher Kompetenz durch unzuverlässige, aber allgegenwärtige Systeme. Aktuelle Analysen zeigen, dass die reine Skalierung von KI-Modellen an ihre Grenzen gestoßen ist und wir es statt mit Superintelligenz oft mit „Inselbegabten mit Amnesie“ zu tun haben.
Eine KI-resiliente Gesellschaft definiert sich daher neu: Sie ist nicht mehr nur defensiv (Erkennen von Fakes), sondern aktiv gestaltend. Dies erfordert drei Säulen:

1. Kognitive Souveränität: Widerstand gegen das blinde Auslagern des Denkens („Cognitive Offloading“), um die eigene Urteilsfähigkeit zu bewahren.
2. Messbare Kontrolle: Abkehr von abstrakter Ethik hin zu mathematisch überprüfbaren Kriterien und unverhandelbaren „Roten Linien“ für KI-Systeme.
3. Partielle Autonomie: Einsatz von KI als „Exoskelett“, bei dem der Mensch die letzte Instanz bleibt, statt der Vision vollautonomer Agenten zu folgen.

Thomas Bartz-Beielstein ist Professor für Angewandte Mathematik an der TH Köln sowie Geschäftsführender Direktor des Institute for Data Science, Engineering, and Analytics (IDE+A) und Sprecher des Forschungsclusters THK-AI. Seine Forschungsinteressen umfassen künstliche Intelligenz und maschinelles Lernen, Hyperparameter-Tuning sowie experimentelle Methoden und deren Anwendungen u. a. in Automotive, Wasserwirtschaft, Produktionsoptimierung und Gesundheit. Für seine wissenschaftlichen Leistungen wurde er 2020 mit dem Forschungspreis der TH Köln ausgezeichnet. Er ist Associate Editor führender Fachzeitschriften und arbeitet – mit über 7.000 Zitationen – eng mit internationalen Industrie- und Forschungspartnern zusammen, insbesondere in der Förderung des wissenschaftlichen Nachwuchses.