Menu Der säkulare Blick auf die Welt.

Eine künstliche Intelligenz löst hunderte der anspruchsvollsten mathematischen Probleme. Gleichzeitig finden KI-Modelle bei der Erfüllung alltäglicher Aufgaben Wege, die rechtliche und moralische Grenzen übertreten. Und große Tech-Unternehmen fordern eine Regulation – wohl eher aus strategischen Gründen als aus Altruismus.

Die rasante Entwicklung der KI sowie ihre Chancen und Risiken standen im Zentrum des Kortizes-Symposiums, organisiert von Rainer Rosenzweig und Helmut Fink. Fast 400 Teilnehmer diskutierten vor Ort in Nürnberg und im Livestream intensiv mit den renommierten Referenten.

Zehn Jahre ist es her, seit das KI-System „AlphaGo“ den weltbesten Spieler im Brettspiel „Go“ besiegte. Seitdem hat sich die Entwicklung beschleunigt. Was die nächsten zehn Jahre KI bringen? Das könne man beim besten Willen nicht voraussagen, meint der Psychiater und Hirnforscher Prof. Manfred Spitzer. In seinem Auftaktvortrag am 2. Oktober spannte er den Bogen von den ersten Sprachsystemen der 1960er Jahre bis zur Gegenwart. Dank künstlicher Intelligenz kennen wir heute die räumliche Struktur aller bekannten Proteine, Grundlage für neue Medikamente und Impfstoffe. KI-Systeme vervollständigen verlorene Inschriften auf jahrtausendealten Keilschrifttafeln und unterstützen Ärzte bei Diagnosen, wie Spitzer zeigte.

Insbesondere die Kombination von Mensch und Maschine erweise sich hier als fruchtbar, so der Referent weiter. In der Dermatologie liefere etwa eine KI-Erstdiagnose, kombiniert mit anschließender ärztlicher Zweitmeinung, die besten Ergebnisse. In der Radiologie wiederum leiten KI-Systeme aus Röntgenbildern Prognosen zur Mortalität ab, indem sie Muster erkennen, auf die ein menschlicher Arzt kaum achten würde. Beim Röntgenbild des Brustkorbs kann dies etwa der Bereich der mitabgebildeten Schultern sein, der Rückschlüsse über das Alter der Person erlaubt.

Trotz dieser Erfolge kam Spitzer zu einer kritischen Würdigung, was vor allem in den Auswirkungen auf das menschliche Denken begründet liegt. Eindringlich warnte er vor dem Einsatz generativer KI im Schulunterricht (siehe dazu auch sein Interview mit dem hpd). Der Prozess des Schreibens, etwa beim Zusammenfassen von Texten, sei mit Transformationsprozessen im Gehirn verbunden, die das tiefere Verständnis fachlicher Inhalte und damit erfolgreicheres Lernen ermöglichten. Werde hier die Textproduktion an Sprachmodelle ausgelagert, untergrabe dies möglicherweise den Lernprozess. Spitzers Vergleich: „Wir integrieren ja auch keine Aufzüge und Rolltreppen in den Sportunterricht.“

Auch die gesellschaftlichen und ökonomischen Risiken sparte er nicht aus: diskriminierende KI-Entscheidungen auf Grundlage von vorurteilsbehafteten Trainingsdaten, Umwälzungen auf dem Arbeitsmarkt, Missbrauch durch Kriminelle. Dennoch sei die globale Herausforderung des Klimawandels ohne den Einsatz intelligenter Systeme kaum mehr zu bewältigen.

Menschliches Gehirn versus maschinelle Mustererkennung

Wie sehr sich KI-Systeme vom menschlichen Gehirn unterscheiden, legte Prof. Christoph von der Malsburg zum Auftakt des zweiten Veranstaltungstages am 3. Oktober dar. Der Neuroinformatiker erläuterte bereits im Interview mit dem hpd, warum Maschinen ohne Verankerung in einer realen und sozialen Umwelt keine echte Autonomie entwickeln können. Diese Gedanken führte er auf dem Symposium weiter aus. Die KI lerne durch Training mit Daten. Dagegen trete das Gehirn mit der realen Umwelt in direkte Interaktion und erkenne Schemata – etwa ein Gesicht anhand der typischen Anordnung von Augen, Nase und Mund. Zudem verfügen Menschen und Tiere über angeborene Antriebe wie Hunger, Fortpflanzung und die Vermeidung von Gefahren. Von der Malsburg vertritt die Ansicht, dass im Gehirn Aktionsschemata eng mit sensorischen Schemata verknüpft sind, was sich schon beim Säugling zeige, der das Gesicht der Mutter erkennt. Aber wie kommt nun der Geist ins Gehirn? Über 99 Prozent der Informationen in unserem Denkorgan seien emergent: Neuronen bilden unter wechselseitigem Einfluss Muster, woraus Interaktion, Empathie und gegenseitiges Verstehen erwachsen.

Obgleich eine KI kaum versteht, was sie tut, hält Prof. Elisabeth André (Lehrstuhl für menschenzentrierte KI, Universität Augsburg) sie in sozialen Kontexten für hilfreich. Studien zeigten, dass die Simulation menschlicher Kommunikation insbesondere für Alltagsnutzer Vorteile brachte: Sozial interagierende Roboter können demnach die Stimmung aufhellen und Einsamkeit lindern – Menschen lassen sich auch von einem lächelnden Robotergesicht anstecken. Zudem verwies André auf KI-gestützte Anti-Mobbing-Trainings, bei denen betroffene Kinder ermutigt wurden, Hilfe zu suchen, und sich Mitläufer eher auf die Seite der Opfer stellten.

Den technischen Mechanismen in Bild- und Sprachverarbeitung widmeten sich die beiden folgenden Vorträge. Prof. Daniel Cremers von der TU München sprach über die visuelle Orientierung bei Maschinen. Die Gesamtentwicklung beurteilt er optimistisch: Gewiss, KI werde uns gewaltige Umstrukturierungen und den Verlust von Arbeitsplätzen bescheren, räumte er ein. Aber das sei schon immer so gewesen, man denke an die Erfindung der Waschmaschine. Die Abwägung, wie stark der Einsatz künstlicher Intelligenz reglementiert werden sollte, ohne den Fortschritt auszubremsen, sieht Cremers als gesamtgesellschaftliche Aufgabe.

Das Verhältnis von Sprachverständnis und Kognition stand im Mittelpunkt der Ausführungen von Patrick Krauß, Neurowissenschaftler an der Universität Heidelberg. Dort zeigten sich bei großen Sprachmodellen (Large Language Model, LLM) und menschlichen Versuchspersonen gleiche Verhaltensweisen: Beide sagten in Versuchen jeweils kontinuierlich voraus, welche Wortklasse jeweils als Nächstes folgen würde, etwa ein Verb oder ein Adjektiv. Krauß schließt daraus, dass Mensch und Maschine dieselben Kategorien erfinden. Allerdings fehle Sprachmodellen eine Semantik, während Menschen Wortbedeutungen durch soziale Kommunikation erlernen.

Was jedoch genau innerhalb der Systeme geschieht, bleibt uns verborgen. Daran knüpft die Frage an, in welchem Maß eine solche „Black Box“ ein zuverlässiges Instrument für Forscher darstellt. Damit befasste sich Prof. Claus Beisbart, Wissenschaftstheoretiker an der Universität Bern. Zwar könne maschinelles Lernen neues Wissen hervorbringen, erklärte er. Doch die dahinterstehenden Gedankengänge könnten nicht nachvollzogen werden, weshalb durch KI gewonnene Erkenntnisse auf reiner Induktion beruhten.

Währenddessen werden in Publikumsmedien reale und vermutete Bedrohungen durch KI intensiv diskutiert – einige Szenarien befürchten sogar, die künstliche Intelligenz plane die Auslöschung des Menschen. Eine differenzierte Perspektive lieferte Prof. Ute Schmid, Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg. Gefährlich seien nicht die KI-Modelle selbst, sondern die dahinterstehenden Geschäftsmodelle und -praktiken. Hier sieht Schmid eine Chance für Europa mit seinem humanistischen Menschenbild. Zudem sprach sie sich anders als Manfred Spitzer dagegen aus, KI aus den Schulen zu verbannen. Stattdessen müsse ein Grundverständnis für die Konzepte und Methoden vermittelt werden. Allerdings sei das Bildungssystem derzeit noch nicht auf der Höhe der technischen Entwicklung. „Wichtig ist es zu erfahren, dass Selbstlernen etwas Gutes ist“, so ihr Fazit. 

Beim Menschen ist das Erleben eines Selbst eng an den physischen Kontakt mit der Umwelt und dem eigenen Körper geknüpft – davon geht die Embodiment-Hypothese aus. Grundlegende Konzepte wie der Sense of Agency („Das war ich“) und der Sense of Body Ownership („Das gehört zu mir“) seien auch bei autonomen Robotern unerlässlich, so Prof. Verena Hafner von der Berliner Humboldt-Universität in ihrem Vortrag. Die Maschine müsse unterscheiden können, ob ein Ereignis durch ihre eigene Handlung oder durch die Umwelt verursacht wurde. Ob solche Roboter auch über ein Selbst verfügen? Vielleicht sei die Frage falsch gestellt, sagte Hafner. Es gehe vielmehr darum, wie die Existenz künstlicher Selbstmodelle unser Verständnis von Selbst verändert. 

Noch etwas weiter in der Herausforderung konventioneller Vorstellungen ging Prof. Holger Lyre. Der theoretische Philosoph von der Universität Magdeburg wandte sich im abschließenden Vortrag des Tages gegen die Vorstellung von LLMs als bloße „stochastische Papageien“, die lediglich die wahrscheinlichsten Wortfolgen aneinanderreihen, ohne Sprachverständnis zu besitzen. Nach seiner Ansicht verfügen sie bereits über eine elementare Semantik, auch wenn ihre Anbindung an die Welt völlig anders strukturiert ist als beim Menschen.

Haftung, Ethik und die Bewahrung menschlicher Autonomie

Am letzten Tag der Veranstaltung, dem 4. Oktober, standen eine juristische Betrachtung und zwei Plädoyers für die Selbstermächtigung von KI-Usern auf dem Programm, ehe die abschließende Podiumsdiskussion bedeutende Themenstränge der Debatte bündelte und einordnete.

„Wer haftet, wenn KI mich schädigt?“ – unter diesem Titel widmete sich zunächst Prof. Eric Hilgendorf dem weiten Feld der Regulierungsfragen rund um Künstliche Intelligenz. Der Jurist leitet die Forschungsstelle KI- und RobotRecht an der Universität Würzburg und ist Mitglied im Beirat der Giordano-Bruno-Stiftung sowie des Instituts für Weltanschauungsrecht. Rechtliche Lücken entstünden vor allem, wenn sich KI vom Werkzeug zum autonomen Partner entwickelt. Wie komplex die Lage ist, veranschaulichte Hilgendorf am Beispiel autonomes Fahren: In einer engen Gasse springen drei Kinder in verschiedene Richtungen vor dem Fahrzeug auf die Fahrbahn. Weicht es nach rechts aus, so trifft es ein Kind, beim Steuern nach links die beiden anderen. Fährt es geradeaus, werden alle drei überfahren. Die Ethikkommission konnte sich bei diesem Fall nicht auf eine Lösung einigen, so Hilgendorf. Probleme sah er auch beim umstrittenen Provider-Privileg, das Anbieter aus der Haftung entlässt. Insgesamt zeigte sich der Jurist jedoch optimistisch, dass die Entwicklung der KI zum Partner des Menschen gelingt.

Ob Werkzeug oder Partner – an die Nutzung von KI knüpft sich die Hoffnung auf Entlastung. Doch es will gut überlegt sein, welche Tätigkeiten wir den Maschinen übertragen, betonte Prof. Gyburg Uhlmann. Die Philologin und Gründungsdekanin der TU Nürnberg warnte in ihrem Vortrag vor einer kognitiven und emotionalen Abhängigkeit von den Systemen: Wenn wir zu viele Aufgaben delegierten, drohe der Verlust eigener Urteils- und Argumentationsfähigkeit. Geistige Anregung entstehe außerdem erst durch die Zumutung, selbständig zu denken. Ebenso wichtig sei der Austausch mit anderen Menschen, wie Ullmann mit Blick auf Denktraditionen seit der Antike betonte. Sie verwies auf Sokrates, der in seinen Gesprächen die Widersprüche in den Ansichten der Gesprächspartner aufzeigte und ihnen damit den Weg zu Einsicht und Erkenntnis ebnete – während die heutigen Chatbots zu gefälligen, schmeichlerischen Antworten neigen und kritische Perspektiven ausblenden.

Die Grenzen der KI-Anwendung betrachtete auch Prof. Katharina Anna Zweig, Leiterin des Algorithm Accountability Lab am Fachbereich Informatik der Rheinland-Pfälzischen Technischen Universität (RPTU) Kaiserslautern-Landau. In ihrem Vortrag ordnete sie KI-Systeme als bloße Werkzeuge ein und zog ein Konzept der Wissenschaftstheoretikerin Lorraine Daston heran. Demnach unterscheidet man „dünne Regeln“, also feste, formale Vorgaben, und „dicke Regeln“, die an Kontexte gebunden und erheblich flexibler sind. Laut Zweig verlangt die komplexe Welt des Menschen dicke Regeln, während künstliche Intelligenz mit dünnen Regeln arbeitet. Gerade das mache sie gefährlich, so die Referentin weiter. Wo gesunder Menschenverstand und Kontrolle durch den Menschen fehlten und die Systeme leichten Zugang zur Welt hätten, „wird es zu verheerenden finanziellen Schäden und vielleicht auch zu Verletzten und Toten kommen“. Hier sieht Zweig die Provider und Betreiber in der Pflicht.

Mit diesem Fazit leitete sie über zur abschließenden Podiumsdiskussion. Moderiert von Helmut Fink diskutierte Katharina Zweig gemeinsam mit Christoph von der Malsburg, Gyburg Uhlmann, und Holger Lyre über die Grenzen heutiger Systeme, ethische Verantwortung und die Wahrung menschlicher Souveränität in Zeiten der KI.

Ein zentraler Punkt war das Verhältnis von KI und Ethik. Ist es eine verwegene Hoffnung, ethische Kriterien in die KI zu implementieren? Katharina Zweig bezeichnete derartige Versprechen als reines Marketing. Ethik erfordere grundsätzliche Handlungsrichtlinien und Wertesysteme anstelle von einfachen Rezepten, ergänzte Uhlmann. Immer wenn es schwierig werde, müsse der Mensch reflektieren, warum es diese Regeln gebe – eine Transferleistung, die Maschinen nicht erbringen könnten.

Hierzu brachte Holger Lyre eine spannende These ein: Demnach seien wir womöglich Zeugen einer neuartigen, eigenen Form von Kognition – einer „Spezies“, deren Art zu denken sich völlig von unserer unterscheidet. Aber da wir nicht wüssten, was sich da entwickelt, sei es schwierig, die Kontrolle zu behalten.

Hinsichtlich der praktischen Nutzung bestand Einigkeit darin, dass KI ein Werkzeug bleiben muss. Eine Entlastung durch Technik dürfe nicht dazu führen, dass der Mensch Entscheidungsgewalt abgibt. In diesem Zusammenhang machte sich Gyburg Uhlmann für eine „Ethik by Design“ stark: Statt eines Gegeneinanders von technischem Fortschritt und bremsenden Regulierungen müsse sich von Anfang an ein kontinuierlicher Dialog zwischen Technik- und Geisteswissenschaften etablieren. In einem solchen Klima könne sich eine Technologie entfalten, die Innovation, Qualität und die Souveränität menschlicher Entscheidungen nachhaltig sichert.

Wie steht es aber mit der öffentlichen Debatte über angeblich unaufhaltsame und übermächtige „Superintelligenzen“? Katharina Zweig wies darauf hin, dass dieses Narrativ den Herstellerfirmen oft als Vorwand diene, um die Verantwortung für fehlerhafte oder schädliche KI-Produkte von sich abzuwälzen. Auffällig sei, dass große Tech-Unternehmen gerade jetzt Regulation fordern. Vielleicht, weil sie ihre Geschäftsmodelle in Gefahr sähen, mutmaßte Zweig. Auch von der Malsburg erinnerte daran, dass die Einnahmen der Firmen nicht den Investitionen entsprechen – vielleicht gebe es deshalb bald ein Umdenken –, „hoffentlich“.