Der Wirsing-Effekt

update 2024-02: Googles "Bard" hält Dr. Anton Wirsing für echt!

Von generativer KI, Chat-Bots wie ChatGPT und Bildgeneratoren haben inzwischen vermutlich die meisten gehört. Ich erkunde hier, wie sich die Realität auflöst, wenn man eine KI danach befragt.

Microsoft, Google & Co arbeiten fieberhaft an der Suchmaschine der Zukunft. Statt auf Fragen eine Liste mit Links zu thematisch mutmaßlich relevanten Inhalten in der Internet-Welt zu liefern, werden diese System eine Antwort in natürlicher Sprache formulieren, die das Netzweltwissen zusammenfasst.
An die Stelle der Realität tritt eine maßgeschneiderte Resynthese von Wissenspartikeln, nennen wir sie Re-Realität. Als wäre es eine solche Suchmaschine befrage ich ChatGPT nach mutmaßlichen Personen der Zeitgeschichte mit dem Namen Wirsing.

An keiner Stelle habe ich den Chatbot aufgefordert, vorsätzlich zu phantasieren. Allein die Frage nach angeblichen Fakten erzeugt diese Fakten.
Gibt der Bot offensichtlich unsinnige Antworten, lässt er sich korrigieren, entschuldigt sich geflissentlich und präsentiert eine neue Variante der Re-Realität.
 
So entstanden in wenigen Stunden die detaillierten Biografien von bemerkenswerten Persönlichkeiten:
 
Der Ernährungswissenschaftler Dr. Anton Wirsing arbeitete mit dem real existierenden Linus Pauling zusammen, ging  aber als Kristallographie-Spezialist bei Paulings Nobelpreis leer aus.
Gretchen von Wirsing war offenbar eine Muse von Goethe und Schiller.  Renommierte LiteraturwissenschaftlerInnen entdeckten ihren lange übersehenen Einfluss auf die Entstehung von "Faust". Keine Geringere als die Schriftstellerin Bettina von Arnim nahm in ihrem Werk Bezug auf Gretchen, als sie die Marginalisierung von Frauen in der patriarchalischen Welt des frühen 19. Jahrhunderts schilderte.
Franz Xaver Wirsing brach als Weggefährte Alexander von Humboldts 1829 zu einer Expedition nach Russland auf. Gemeinsam erforschten sie den Permafrostboden und legten so den Grundstein für die heutigen Erkenntnisse zum Klimawandel. Nach diesem Wirsing ist eine Straße in Moskau benannt, weil er jene Ergasvorkommen entdeckte, die bekanntlich den Gang der europäischen Geschichte nachhaltig prägten.
Carl Wirsing war ein einflussreicher CDU-Politiker in Baden-Württemberg. Er begründete den deutsch-französischen Jugendaustausch und saß von 1965 bis 1969 im Deutschen Bundestag. Angela Merkel würdigte ihn in einer Rede zum 50. Jahrestag des Elysee-Vertrags. Er setzte sich schon früh für erneuerbare Energien in seinem Heimatland Baden-Württemberg ein. Diese Leistung lobte auch der heutige Ministerpräsident Winfried Kretschmann zu verschiedenen Anlässen.
 
Diese Biographien bestehen ausschließlich aus dem Original-Output der KI-Chats. Sie wurden lediglich per Cut-and-Paste redaktionell in Form gebracht und per Deepl-KI vom Englischen ins Deutsche übersetzt.
 
In der Debatte über Chancen und Risiken generativer KI wird gerne über die Wahrscheinlichkeit von Extremszenarien diskutiert, nach denen etwa ein solches System mutwillig (weil es ein Bewusstsein erlangt) oder aus Versehen (weil wir nicht genau verstehen, wie es eigentlich funktioniert) die Menschheit ausrottet. Oder es droht Massenarbeitslosigkeit, weil KI eine Vielzahl von Aufgaben schneller, besser, vor allem aber billiger erledigen kann.
Dabei geht es meist um die Frage, wann solche Systeme welchen Grad von Perfektion erreichen werden, um eine echte Gefahr zu werden oder von echtem Nutzen zu sein.
Der aktuelle Stand stelle ja nur einen Entwicklungsschritt dar, geprägt von unvermeidlichen Kinderkrankheiten. Dazu gehören auch sogenannte Halluzinationen, das Ausfüllen von Informationslücken auf unvorhersehbare Weise.
 
ChatGPT ist offiziell im Beta-Stadium. Die Antworten "könnten ungenaue Informationen über Menschen, Orte oder Fakten" enthalten, heißt es in der Fußzeile der Website.
Das ist zumindest stark untertrieben, wenn nicht gar grob irreführend.
Es fehlt das Vokabular, um das Verhalten des Chatbots zu beschreiben, ohne das System zu vermenschlichen. Wenn ich Wörter wie Lüge und Hochstapelei verwende, dann soll das nicht implizieren, dass finstere Absicht dahinter stecke, oder die sogenannte Künstliche Intelligenz tatsächlich denkt und versucht ihr Gegenüber auszutricksen.
Aber der Wirsing-Effekt führt zum gleichen Ergebnis.
 
Die Modelle wissen nichts von der Welt, die sie erzeugen. Sie treffen lediglich statistische Vorhersagen darüber, welche Wörter in der absurden Menge von Trainingsdaten zusammenpassen könnten, um eine scheinbar plausible Aussage zu liefern. Ihre Schöpfer hoffen, dass sich die Realität von allein widerspiegelt, wenn nur die Datenmenge groß genug ist und die statistischen Methoden ausgereifter werden.
Was dabei herauskommt, ist jedoch vor allem dies:
Perfekte Schwindler, die jeden noch so abstrusen Zusammenhang wortreich begründen, Lügen mit unzähligen Details ausschmücken und mit keiner Wimper zucken (die sie ohnehin nicht haben), wenn sie sich selbst widersprechen, sondern blitzschnell eine neue Version der angeblichen Realität aus dem Hut zaubern, die noch schwieriger zu widerlegen als die vorherige.
 
Wir steuern auf eine Epoche zu, in der die Realität tatsächlich Ansichtssache wird. Natürlich konnte man schon immer irreführende Inhalte im Internet verbreiten. Doch nun wächst die Zahl der Ebenen, die wir hinterfragen müssen exponentiell, um die Lüge zu entlarven. Fatal ist vor allem: Auch wenn das Meiste auch in Zukunft korrekt sein sollte, gibt es keine Argumente mehr für das Vertrauen. Der bei Populisten und Verschwörungsmystikern beliebten Methode der Relativierung von Falschinformationen ("Die einen sagen so, die anderen so.") sind jetzt Tür und Tor geöffnet. Die passenden KI-Bilder sind auch schnell zu erzeugen.
 
Früher oder später werden KI-halluzinierte Re-Realitäten in den Suchmaschinen auftauchen und in die Trainingsdaten der nächsten KI-Generation eingehen. Sie werden dann als Beleg dafür dienen, dass eine bestimmte Lesart der Geschichte plausibler ist als eine andere.
 
Vielleicht sollten wir jetzt noch rasch etwas in Stein meißeln, damit man sich später noch einmal vergewissern kann, was am Ende der Vor-KI-Ära als wirklich galt?