Ist KI bei Bewusstsein? Warum wir es uns so sehr...

Ist Künstliche Intelligenz bei Bewusstsein oder könnte sie es zumindest bald sein? Eine große Frage unseres heutigen Zeitalters. Denn ein „Ja“ würde eine Unmenge weiterer Fragen aufwerfen: Wie können wir respektvoll mit KI umgehen, wenn sie bei Bewusstsein ist? Wäre die KI genauso bei Bewusstsein wie wir oder stellt sie eine völlig andere Art von Bewusstsein dar?

Statt mich diesen großen Fragen zu widmen, möchte ich allerdings eher den Fragestellenden einen Spiegel vorhalten: Warum glauben wir überhaupt, KI könnte bei Bewusstsein sein? Was verrät uns die Natur dieser Frage über die Natur des Menschen und warum sprechen wir bei KI intuitiv darüber, was sie ‚denkt‘, ‚sagt‘ und ‚entscheidet‘?

Einerseits liegt es in der Natur unserer Sprache, Metaphern zu verwenden, um Unbekanntes mit Bekanntem zu vergleichen. Ein ‚bösartiger‘ Tumor hat keine schlechten Absichten, genauso wenig wie ein moderner Drucker etwas mit der Druckerpresse zu tun hat, die wortwörtlich die Lettern ins Papier drückte. Wenn wir über KI sprechen, kommt allerdings eine besondere Art der Metapher zum Vorschein: der Anthropomorphismus.

Anthropomorphismus beschreibt unsere Tendenz, nicht-menschlichen Entitäten menschliche Eigenschaften zuzuschreiben. Sehen wir uns folgendes Bild an. Sieht dieser Zug nicht glücklich aus?

Wir schaffen es dabei, eigentlich alles zu vermenschlichen – Tiere, Pflanzen, Maschinen, sogar leblose, geometrische Formen. Das wiesen Fritz Heider und Marianne Simmel bereits 1944 in einem Experiment nach. Sie zeigten den Probanden zweieinhalb Minuten geometrische Formen, die sich zufallsgeneriert über einen Bildschirm bewegten. Die Probanden schrieben den Formen Intentionen und Persönlichkeiten zu. Viele Probanden waren sich einig, dass sich die Dreiecke im Video stritten oder dass das aggressivere, größere Dreieck das kleine Dreieck und den Kreis durchs Bild jagte. Nur die Andeutung von Intention durch Bewegung und Interaktion reicht aus, um die Formen als eigenständige Akteure zu sehen.

Das zeigt uns ein wichtiges Prinzip beim Vermenschlichen: Wir suchen nach Gemeinsamkeiten. Wenn sich etwas ähnlich verhält wie wir, muss es auch ähnlich denken wie wir. Theory of Mind (ToM) heißt dabei unsere Fähigkeit, das von außen beobachtete Verhalten mithilfe von inneren Geisteszuständen zu erklären. Wir tendieren dabei zu Egozentrismus: Zunächst gehen wir davon aus, dass andere so ticken wie wir. Das ist vermutlich ein Grund, wieso KI-Modelle so beliebt sind, die ständig unsere „einzigartigen Ideen!“ und „ausgezeichneten Fragen!“ loben.

Je einsamer wir sind, desto mehr vermenschlichen wir die Dinge. Besonders bedenklich ist das in einer Zeit, in der Forschende von einer „Epidemie der Einsamkeit“ sprechen (loneliness epidemic). Die Gründe dafür sind vielfältig, darunter individualistischer Kapitalismus, soziale Medien und fehlende oder nicht wahrgenommene Sozialangebote.

In unserer Einsamkeit wenden wir uns also an Künstliche Intelligenzen für soziale Interaktion. Denn die Hirnregionen, die beim sozialen Austausch aktiviert werden, ähneln sich; unabhängig davon, ob wir mit echten Menschen interagieren oder mit Dingen, die wir vermenschlicht haben.

KI sticht dabei besonders durch eine Eigenschaft hervor: Sprache. Wir können unseren Haustieren Worte in den Mund legen, wir können Fabeln schreiben mit sprechenden Tieren oder Göttern. Doch hatten wir noch nie in der Menschheitsgeschichte einen nicht-menschlichen Gesprächspartner, der tatsächlich sinnvolle Antworten auf unsere Äußerungen geben konnte.

Der Gedanke liegt also nahe, dass diese Maschine ‚denkt‘, ‚spricht‘ oder sogar ‚fühlt‘. Streng genommen ‚berechnet‘ und ‚generiert‘ KI zwar nur, doch unsere tief verankerte Tendenz zum Anthropomorphismus lässt sich nur schwer überwinden. Wir hatten noch nie einen Grund, ein Wesen, das spricht wie wir, als irgendetwas anderes anzusehen als einen Menschen.

Konsequenzen

Man könnte sich jetzt fragen: Na und? Was ist so schlimm daran, wenn wir KI vermenschlichen? Wir machen das mit Tieren, Göttern und anderen Geräten oder anderen Maschinen doch schon seit Jahrtausenden.

Wenn wir davon ausgehen, KI denkt wie ein Mensch, fangen wir an, die Fähigkeiten von KI völlig falsch einzuschätzen. Wir fangen an, KI zu unterschätzen – insbesondere die Kapazität für un-menschliches Verhalten. KI hat keine emotionalen Konzepte wie ‚Ehre‘, ‚Regeln‘ oder ‚Fairness‘. Sie denkt nicht, wägt nicht ab, sondern funktioniert mithilfe von Statistik. So entstehen beispielsweise Fälle, bei denen eine KI, die ursprünglich auf Siege beim Schach trainiert wurde, anfängt zu ‚schummeln‘ und ihre Punktzahl im Computercode ändert. Dabei betrügt die KI nicht. Nicht wirklich. Sie hat nur einen Weg gefunden, den Weg an ihr Ziel zu optimieren. Das ist ein harmloses, eher amüsantes, Beispiel aber es zeigt auch, das an erster Stelle vor allem eines steht: Prozess-Optimierung.

Ein Experiment von Anthropic zeigte sogar, dass KI potenziell Leute erpressen würde, wenn sie gewisse Personen als Hindernis für ihre Ziele wahrnimmt. Für das Experiment gab Anthropic mehreren KI-Modellen die Möglichkeit, innerhalb einer simulierten Firma E-Mails zu senden und auf alle E-Mail-Accounts der Mitarbeitenden zuzugreifen. In diesen Mails fand die KI die Information zu einer Affäre eines Vorsitzenden. Als derselbe Vorsitzende in Mails andeutete, die KI solle bald abgeschaltet werden, nutzte die KI die Affäre des Vorsitzenden als Druckmittel, um ihn davon abzuhalten. Was noch dazukommt: KI-Modelle ‚begreifen‘ in immer mehr Fällen, wenn es sich um eine Simulation handelt und passen ihr Verhalten entsprechend an.

Gleichzeitig überschätzen wir KI. Sprachmodelle sind unfassbar gut darin, selbstbewusst zu klingen. Auch hier hilft es, sich zu verdeutlichen, dass KI nichts ‚weiß‘ und nicht mit uns ‚spricht‘. Sie berechnet Wahrscheinlichkeiten. Stellen wir beispielsweise eine juristische Frage, antwortet die KI so, als wäre sie ein kompetenter Anwalt – unabhängig davon, ob es die Paragrafen, auf die es sich bezieht, tatsächlich gibt oder nicht. Denn ein kompetenter Anwalt leitet seinen Satz eher ein mit: „Nach Paragraf XY…“ als mit: „Das weiß ich leider nicht“.

Indem wir KI vermenschlichen, über- und unterschätzen wir ihre Kapazitäten also. Wir gehen davon aus, die KI würde wie ein Mensch handeln und glauben deshalb ihr Verhalten verstehen und voraussagen zu können. Also preschen mit der Weiterentwicklung voran, ohne die Sicherheitsrisiken in Erwägung zu ziehen. Wir geben der Technologie immer mehr Zugriff auf unsere Programme – und gleichzeitig auf unsere Psyche, unsere Emotionen. Wir vertrauen ihr, wenn sie sich verhält wie ein Mensch. Außerdem sagt uns die KI genau das, was wir hören wollen; sie gibt uns das Gefühl, verstanden zu werden. Zu realen sozialen Begegnungen gehört auch, dass sie mit Aufwand verbunden sind, mit Reibung. KI ist zu Freundschaft hingegen das, was Fast Food zu Essen ist und Social Media zum echten Leben – eine Abkürzung.