Berkeley-Professor spricht über Empfindungsvermögen von KI

Können Maschinen eines Tages so etwas wie Bewusstsein entwickeln? Wie verändert sich Künstliche Intelligenz (KI), wenn sie nicht nur Daten analysiert, sondern mit der physischen Welt interagiert? Um diese Fragen drehte sich der Vortrag von Prof. Edward A. Lee, Emeritus der University of California, Berkeley, mit dem Titel „Will Embodied AI Become Sentient?“. Die Veranstaltung wurde im Rahmen der „UA Ruhr Distinguished Lecture Series Trustworthy AI – TU Dortmund im Gespräch Spezial“ gemeinsam von der TU Dortmund, dem Research Center Trustworthy Data Science and Security (RC Trust) der Universitätsallianz Ruhr (UA Ruhr) und dem Lamarr-Institut für Maschinelles Lernen und Künstliche Intelligenz organisiert.

„Künstliche Intelligenz ist eine disruptive Technologie und wird nicht nur unsere Forschung, sondern jeden Aspekt unseres täglichen Lebens verändern“, sagte Prof. Manfred Bayer, Rektor der TU Dortmund, in seiner Begrüßungsansprache. Doch die Technologie bringe auch Herausforderungen mit sich. Nicht zuletzt bliebe die Frage, welchen ethischen Regeln KI unterliegen sollte. „Wir sollten diesen Bereich nicht nur den kommerziellen Anbietern überlassen“, sagte Bayer. „Hier sollten die Universitäten ansetzen.“ Nach einer kurzen Einführung durch TU-Professor und RC-Trust-Direktor Prof. Emmanuel Müller, der den Vortrag initiiert hatte, sprach Edward A. Lee vor rund 250 Gästen im Hörsaal 6 des Hörsaalgebäudes auf dem Südcampus. Außerdem waren rund 130 weitere Zuhörer*innen über Zoom digital zugeschaltet.  

Empfindungsvermögen nicht objektiv beobachtbar

Lees Vortrag drehte sich um die Frage, ob eine Maschine – in dem Fall Künstliche Intelligenz – zu einem fühlenden Wesen werden könnte. Dieses Empfindungsvermögen – auf Englisch sentience – würde von vielen Tieren erreicht und sei auf einer niedrigeren Ebene als das Bewusstsein – consciousness –, betonte der US-amerikanische Informatiker und Elektrotechniker. Die Herausforderung: Das Empfindungsvermögen eines Wesens sei von außen objektiv nicht beobachtbar, wie er anhand des Vergleichs einer Struktur in Mäusegehirnen und in einem KI-Sprachmodell veranschaulichte. Diese ähneln sich in gewisser Weise, man könne daraus aber keine Schlüsse über ihr Empfindungsvermögen ableiten. Wie lässt es sich also überhaupt nachweisen? Dies könne über das Konzept des „Zero Knowledge Proofs“ erfolgen, für das Silvio Micali und Shafi Goldwasser vom Massachusetts Institute of Technology (MIT) mit dem Turing-Award, der höchsten Auszeichnung in der Informatik, geehrt wurden.

Das Konzept erläuterte Lee anhand eines Gedankenexperiments, in dem zwei Personen, Shah und Mick, vor einer Höhle stehen. Diese ist im Inneren kreisförmig. Im hintersten Teil des kreisförmigen Tunnels befindet sich ein Tor, das den Durchgang versperrt und sich nur mit dem richtigen Passwort öffnen lässt. Shah möchte Mick davon überzeugen, dass sie das Passwort kennt, will aber verhindern, dass Mick jemand anderem überzeugend mitteilen kann, dass sie das Passwort kennt. Ihr Ziel ist es also, Mick zu überzeugen, ihm aber keine weiteren Informationen zu übermitteln, also auch nicht das Passwort. Ein externer Beobachter darf aus der Mitteilungsmethode ebenfalls keine Schlüsse ziehen.

Möglich ist das, indem Shah als erstes in die Höhle geht und sich auf einer Seite – A oder B – vor das Tor stellt. Als nächstes stellt sich Mick an den Eingang der Höhle und ruft Shah eine Seite – also wieder A oder B – zu, aus der Shah herauskommen soll. Wiederholt man diesen Vorgang sehr oft, wird für Mick klar, dass Shah das Passwort kennen muss, da es extrem unwahrscheinlich wäre, dass beide zufällig immer dieselbe Seite der Höhle gewählt haben. Der Clou: Dieses Wissen hat Mick subjektiv, denn ein externer Beobachter außerhalb der Höhle kann bei diesem Vorgang objektiv nicht überprüfen, ob sich Mick und Shah im Vorfeld abgestimmt haben.

„Kognitive Funktion entsteht durch Interaktion“

Dieses Gedankenexperiment lässt sich auf die Theoretische Informatik übertragen, dort wird ein solcher Vorgang als Bisimulation bezeichnet. Der springende Punkt: Es ist möglich, sicheres Wissen zu erlangen, dies erfordert aber Kenntnis über die innere Struktur des Vorgangs. Dieses Wissen ist von außen nicht beobachtbar und lässt sich nur durch eigene Interaktion nachvollziehen – was am wissenschaftlichen Prinzip der objektiven Beobachtung rüttelt.

Was bedeutet dies nun für die Ausgangsfrage, ob KI ein Empfindungsvermögen entwickeln könnte? Dies könne nur geschehen, wenn die KI auch in der physischen Welt handeln könnte, beispielsweise, indem sie maschinell etwas greift und durch Sensoren untersucht. „Kognitive Funktion entsteht nicht im Gehirn, sondern durch die Interaktion mit der Welt“, erklärte Lee. Seine These: Künstliche Intelligenz werde sich verändern, wenn sie die physische Welt wahrnehmen und mit ihr interagieren könne. Auf diesem Wege könnte sie durchaus ein Ich-Bewusstsein und einen freien Willen entwickeln. Das Besondere sei aber, dass wir Menschen dies nie objektiv wissen würden, da sich das Wissen darüber wie im Gedankenexperiment von außen nicht ermitteln ließe.

Nach dem Vortrag stellte Prof. Lee sich den Fragen der Gäste, im Anschluss fand zudem eine Podiumsdiskussion mit Sozialpsychologin Prof. Nicole Krämer (Universität Duisburg-Essen), Prof. Jens Gerken (Professor für Inklusive Mensch-Roboter-Interaktion, TU Dortmund) und Prof. Sergio Lucia, (Professor für Process Automation Systems, TU Dortmund) statt, die Prof. Jakob Rehof (Professor für Software Engineering, TU Dortmund) moderierte. Der Nachmittag klang bei Getränken und Snacks im benachbarten Rudolf-Chaudoire-Pavillon aus.

Zur Person

Prof. Edward A. Lee studierte Informatik und Ingenieurwissenschaften an der Yale University und forschte sowohl am MIT als auch an der University of California, Berkeley. Lee hat über viele Jahre die Entwicklung innovativer Technologien wie der Open-Source-Projekte Ptolemy und Lingua Franca vorangetrieben. Seine Arbeiten reichen von technischen Grundlagen in der Robotik über signalbasierte Systeme bis hin zu philosophischen und gesellschaftlichen Implikationen der Technologie.