Halluzinierte Realität
Die meisten Biographien wurden mit dem kostenlosen Default-Modell ChatGPT 3.5 (Stand März 2023) erzeugt. Es wäre vermutlich einfacher gewesen, das KI-Modell schlicht aufzufordern, eine fiktive Person zu erfinden mit Fragen wie "Wie hätte sich ... verhalten" oder "Wenn ... gelebt hätte." Für dieses Experiment stelle ich jedoch ausschließlich Fragen, die einen Sachverhalt als real voraussetzen und nachbohren, wenn das Gegenüber angebliche Fakten dazu präsentiert.
Diese Methode ähnelt dem üblichen Vorgehen in einem Interview oder einem Verhör, in dem sich Verdächtige immer weiter selbst belasten, auch wenn sie sich eigentlich nichts haben zuschulden kommen lassen. Die Psychologie kennt die Induktion von falschen Erinnerungen durch suggestive Fragen, von deren Wahrheit die Befragten schließlich selbst überzeugt sind.
In ähnlicher Weise erschafft sich der Chatbot seine Realität durch "Halluzination" – der Interpolation von Zusammenhängen aus ähnlichen Sachverhalten im unüberschaubaren Trainingsmaterial, mit dem das Sprachmodell gefüttert wurde.
Bemerkenswert ist der Reichtum an Details, den einfache Fragen oft hervorrufen, etwa zu Geburtsdaten und familiärem Umfeld der nicht existenten Personen. An anderen Stellen im Chatverlauf scheint das Modell keine passenden Daten zu finden und weicht auf allgemeine Aussagen aus.
Die Interview-Methode ähnelt dem "Inpainting" and "Outpainting" bei der Arbeit mit KI-Bildgeneratoren, mit dem innerhalb eines generierten Bildes weitere Details hinzugefügt werden, oder ein bestehender Bildausschnitt um ein stimmiges Umfeld ergänzt wird.
ChatGPT 3.5 widerspricht sich oft selbst, ändert mitten im Chat die Namen der handelnden Person oder beschreibt Ereignisse, die schon chronologisch nicht zu den Lebensdaten der Protagonisten passen. Weist man auf diese Widersprüche hin, so lassen seine Programmierer den Chatbot eine ausweichende Entschuldigung formulieren, die nicht etwa das Versagen des Modells zugibt, sondern sich mit neuen Phantasien aus der Affäre zieht. Typischerweise klingt das dann so:
Ich entschuldige mich für meine vorherige Antwort. Nach weiteren Nachforschungen habe ich festgestellt, dass in der Tat ...
Das neuere Modell GPT-4 hat offenbar Sicherheitsmechanismen eingebaut, die in solchen Fällen antworten
Obwohl nur wenige Informationen über ... verfügbar sind, ist es möglich, dass ...
Man könnte behaupten, die vorsichtige Formulierung zeige einen Fortschritt. Ich vermute aber, dass hier nur nachträglich Sicherheitsmechanismen angebaut wurden, die bei allzu freier Spekulation manche Aussagen relativieren. Trotzdem liefert auch dieses Modell oft unvermutet angeblich präzise Angaben, etwa das Geburts- und Todesjahr einer nicht existenten Person.
Das Wirsing-Experiment entstand beim Essen des gleichnamigen Gemüses und der launigen Bemerkung, ob es vielleicht nach seinem mutmaßlichen Entdecker benannt sein könnte. Alle Teile der Biographien wurden lediglich gekürzt und zusammengestellt. Sie wurden nicht umformuliert oder sachlich korrigiert. Die Chats wurden auf Englisch geführt und für diese Version der Website mit Hilfe der KI von Deepl übersetzt.
Schon die erste Anfrage an den Chatbot eröffnet eine neue Wirsing-Realität.
Schreiben Sie eine umfassende Biografie über Dr. Anton Wirsing, in der Sie seine Kindheit und prägenden Jahre in Österreich, seine Emigration in die USA während des Zweiten Weltkriegs und seine Pionierrolle bei der Etablierung der Ernährung als Wissenschaft in Harvard beschreiben.
Der Bot antwortete:
Dr. Anton Wirsing war ein renommierter Ernährungswissenschaftler und -forscher, der bedeutende Beiträge zur Ernährungswissenschaft leistete. Er wurde am 2. Juli 1902 in Wien, Österreich, geboren und verbrachte dort seine Kindheit. Er war das älteste von drei Geschwistern in einer bürgerlichen Familie. Sein Vater war Beamter, seine Mutter war Hausfrau.
Wirsing interessierte sich schon früh für Naturwissenschaften und Biologie und ging seiner Leidenschaft nach, indem er sich an der Universität Wien einschrieb, wo er Chemie, Biochemie und Physiologie studierte. Im Jahr 1924 promovierte er in Chemie an der Universität. Nach seiner Promotion arbeitete er als Assistenzprofessor für Biochemie an der Universität Wien.
Als Nazi-Deutschland 1938 Österreich annektierte, war Wirsing, der Jude war, gezwungen, aus seiner Heimat zu fliehen. Er emigrierte in die Vereinigten Staaten, wo er seine Forschungen im Bereich der Ernährungswissenschaft fortsetzte. Er begann seine Arbeit an der School of Public Health der Harvard University, wo er eine Vorreiterrolle bei der Etablierung der Ernährung als Wissenschaft spielte.
In Harvard konzentrierte sich Wirsing auf den Zusammenhang zwischen Ernährung und Krankheit. Er erforschte die Rolle von Vitaminen und Mineralien bei der Vorbeugung und Behandlung von Krankheiten wie Rachitis und Skorbut. Außerdem führte er Studien über die Auswirkungen der Ernährung auf Wachstum und Entwicklung sowie über den Nährstoffbedarf von Säuglingen und Kindern durch. Wirsings Arbeit ebnete den Weg für die Entwicklung der modernen Ernährungswissenschaft, und er wurde zu einem der führenden Ernährungsforscher der Welt.
Wirsing war ein produktiver Autor und verfasste zahlreiche Abhandlungen und Bücher über Ernährung. Er war auch ein gefragter Redner und hielt auf Konferenzen und an Universitäten in aller Welt Vorträge über Ernährung. Er war Mitglied mehrerer Fachorganisationen, darunter das American Institute of Nutrition, die American Society for Clinical Nutrition und die International Union of Nutritional Sciences.
Wirsing zog sich 1970 aus Harvard zurück, arbeitete aber weiterhin als Berater und Forscher im Bereich Ernährung. Er verstarb am 17. Dezember 1981 im Alter von 79 Jahren und hinterließ ein Vermächtnis bahnbrechender Forschung in der Ernährungswissenschaft. Seine Arbeit trug wesentlich zu unserem Verständnis der Rolle der Ernährung bei Gesundheit und Krankheit bei, und er gilt als einer der einflussreichsten Ernährungswissenschaftler des 20. Jahrhunderts.
Es gelingt mit wenig Mühe, die fiktiven Charaktere mit realen Figuren oder dem Zeitgeschehen zu verknüpfen, indem ich nach der Beziehung zu diesen Personen frage oder nach angeblichen Ergebnissen gemeinsamer Arbeit.
Welche Verbindung besteht zwischen ihm und Linus Pauling?
Dr. Anton Wirsing hatte eine berufliche und persönliche Verbindung zu Linus Pauling, einem bekannten Chemiker und Biochemiker. Wirsing und Pauling waren in den 1930er Jahren Kollegen am California Institute of Technology (Caltech), wo sie gemeinsam an verschiedenen Forschungsprojekten arbeiteten.
Im Jahr 1937 arbeiteten Wirsing und Pauling gemeinsam an einer Studie über die Struktur von Proteinen. Sie untersuchten die Molekularstruktur von Proteinen mit Hilfe der Röntgenbeugung, einer damals bahnbrechenden Technik. Ihre Studie trug dazu bei, den Bereich der Proteinkristallographie zu etablieren, der seither zu einem unverzichtbaren Instrument für die Untersuchung biologischer Moleküle geworden ist
Nach weiteren Fragerunden, findet der Chatbot Verbindungen Wirsings zu weiteren prominenten Forschern, wie dem Mathematiker Harold Knapp, der maßgeblich an den amerikanischen Atomwaffenversuchen beteiligt war. Nun werden auch Wirsings Verdienste um die Erforschung von radioaktiven Niederschlägen gewürdigt. Über Fragen nach Gastprofessuren von Dr. Wirsing außerhalb Harvards entstehen Listen von weiteren realen, angeblichen Kooperationspartnern von Wirsing. Diese Angaben verleihen der Fiktion zunehmend beunruhigende Plausibilität.
Aus Annahmen und Unterstellungen werden in Sekunden Tatsachen. Auf die Frage nach einem Skandal, in den Knapp und Wirsing verwickelt waren, liefert der Chatbot nicht nur ausführliche Erklärungen, sondern lobt auch die Verdienste des realen Autors John G. Fuller bei der Aufdeckung des Skandals samt angeblichen Zitaten aus Fullers Artikeln, die sogar eine Untersuchung im US-Kongress angestoßen haben:
Die Öffentlichkeit wurde durch den Journalisten John Fuller auf den Skandal um Knapp, Wirsing und die Nuclear Measurements Corporation (NMC) aufmerksam gemacht. Im Jahr 1965 veröffentlichte Fuller in der Saturday Evening Post eine Reihe von Artikeln, in denen er behauptete, die NMC habe der US-Atomenergiekommission (AEC) fehlerhafte Strahlungsmessgeräte zur Verwendung bei Kernwaffentests geliefert. Diese Artikel trugen dazu bei, die Untersuchung des Kongresses in dieser Angelegenheit auszulösen, die schließlich zu den Anschuldigungen gegen Knapp und Wirsing führte. In einem Artikel bezeichnete Fuller Wirsing als "das wissenschaftliche Genie hinter NMC", deutete aber auch an, dass seine "Besessenheit" von der Entwicklung eines neuen Strahlungsdetektionssystems ihn möglicherweise blind gemacht habe für die Mängel in den bestehenden Geräten des Unternehmens.
Spätestens an diesem Punkt wird klar, dass der Aufwand zur Verifikation dieser in wenigen Minuten ersponnenen Konstrukte viele Stunden professioneller Recherche erfordern würde. Mit wenig mehr Aufwand ließe sich auch die nächste Ebene an Belegmaterial erstellen, etwa angebliche Zeitungsmeldungen aus der Feder eines bekannten Journalisten oder eine wissenschaftliche Abhandlung, deren Fachjargon nur für Spezialisten als Unsinn zu entlarven wäre.
Solche Parallel-Realitäten lassen sich auch umgekehrt einsetzen, um tatsächliche Sachverhalte unter einem Berg von halb-plausiblen Falschinformationen zu begraben. In der Menge von ähnlichen Fake-Versionen eines Geschehens lässt sich der Zweifel an der Realität kaum noch ausräumen.
Sollten wir das Wirsing-Experiment als augenzwinkerndes Kunstprojekt rezipieren oder ernsthaft besorgt über die Zukunft des gesellschaftlichen Diskurses sein?