Lesedauer: 17 Min.

Auf diesem Blog referieren wir eher selten logische oder mathematische Themen, obwohl auch dies zum Anspruch von logikos gehört: Es sind Unterthemen der durch das Wort Gottes (logos) ins Dasein gerufenen Schöpfung (1Mose 1–2; Johannes 1,1–3). Sprache, Mathematik (eine besondere Sprache), Denken, Technik, Computer (formale Sprachen): dies alles gehört mit in die Welt der Schöpfung, entgeht letztlich nicht dem Herrschaftsanspruch des Obersten Königs im Reich Gottes. Wo Menschen ihre gottverliehene Kreatürlichkeit und Kreativität anwenden und aufblühen lassen, dies aber unausweichlich nur als gefallene Wesen tun können, werden moralisches Urteil und rationale Kritik notwendig. Daher ein kleiner Beitrag zum Thema »KI«, ausgehend von einigen zugegeben subjektiven und etwas nostalgischen Wurzeln.

Im August 1987 besuchte ich eine internationale Konferenz über Anwendung der Künstlichen Intelligenz im Engineering in Boston.^[1] Mein berufliches Interesse galt besonders den Möglichkeiten der KI, rechnergestützte Planer, Konfigurierer und Optimierer im Bereich der Produktionsplanung dem menschlichen Planer zur Verfügung zu stellen. Das Massachusetts Institute of Technology (MIT) in Cambridge war damals bekannt dafür, dass dort »autonome mobile Robots« selbständig über den Campus liefen.^[2] Vor fast 40 Jahren war das eine Sensation. Die Übertragung auf ein selbständig planendes und entsprechend agierendes und reagierendes Logistikgerät in einer Fabrikhalle war in meinem Forschungsbereich eine naheliegende Anwendung. Einige Sponsoren des MIT, wie die DARPA, dachten wohl eher an Kriegslogistik.^[3] Hier war auf demselben Campus im Keim jene Auseinandersetzung schon gegenwärtig, was »Autonomie« und Aufgabendelegation bei Computern bedeuten solle.

Wenn man schon in Boston ist, besucht man als Forscher unbedingt auch das MIT in Cambridge. Dabei gehört der Hochschul-Buchladen zum intellektuell reizenden Pflichtprogramm. Soweit ich mich erinnern kann, gehörte zu den erworbenen Büchern auch Joseph Weizenbaums »Computer Power and Human Reason: From Judgment to Calculation«. Dieses Buch des bekannten Professors für Computerwissenschaften am MIT kam ursprünglich 1976 heraus (Paperback, ISBN 0-7167-0463-3). Die erste deutsche Ausgabe erschien am 07.12.1978 bei Suhrkamp; später wurde es als suhrkamp taschenbuch wissenschaft 274 mit dem Titel »Die Macht der Computer und die Ohnmacht der Vernunft« veröffentlicht (aktuelle 16. Auflage 2023, 369 Seiten).

Ich hatte mich schon im Buchladen in diesem Buch festgelesen. Weizenbaum schreibt im ersten Satz seines Vorworts:

»In diesem Buch geht es nur vordergründig um Computer. Im wesentlichen [sic] wird der Computer hier lediglich als Vehikel benutzt, bestimmte Ideen vorzutragen, die viel wichtiger als Computer sind.« (Fettdruck hinzugefügt)

Kurz danach adressiert er einen Hauptkritikpunkt, der m. E. gerade in unserer Welt der generativen KI nachdenkenswert und hochaktuell ist:

»Aber ein Hauptpunkt dieses Buches ist genau der, daß wir alle nur zu sehr aus der Welt einen Computer gemacht haben und daß diese abermalige Erschaffung der Welt nach dem Bild des Computers lange begonnen hatte, bevor es elektronische Computer gab.«
(Zitate alle aus der aktuellen Suhrkamp-Auflage 2023; Fettdruck hinzugefügt).

Computer als Metapher der Welt?

Was gewinnen wir, was verlieren wir, wenn wir uns die Welt wie einen riesigen Computer vorstellen? Was geschieht mit uns, wenn wir uns diese Metapher der Welt aneignen? Für mich als ausgebildetem Ingenieur und Informatiker mit großem Interesse an KI war das eine spannende Frage. Ich sah hier weit über die Aspekte der Programmierung und Programmiersprachen hinaus eine herausfordernde philosophische Fragestellung. Jeder kennt Abraham Maslows Bonmot: »To a man with a hammer, everything looks like a nail« (etwa: »Wer nur einen Hammer hat, für den sieht jedes Problem wie ein Nagel aus«; in: The Psychology of Science, 1966). Jeder nimmt die Welt durch seine Brille, hier die Brille seiner Möglichkeiten oder seines ihm vertrauten professionellen Paradigmas, wahr. Egal, ob diese Brille passt. Wir kennen das: Da wird der Nachrichtensprecher zum Erziehungsonkel. Da wird der Physiker plötzlich zum Welterklärer, zum Theologen oder zum Ethiker. Fritjof Capra und Harald Lesch lassen grüßen. Und nun soll uns der Computer-Wissenschaftler »Gott und die Welt« erklären? – »Schuster bleib bei deinen Leisten!«

Die Chancen und Risiken des Computer-Einsatzes sind das eine. Aber es geht nicht nur um die faszinierenden technischen Möglichkeiten, die diese neue Technologie bietet. Sie dient nur zur Veranschaulichung und als Beispiel. Es geht auch nicht nur um Technology Assessment, der ingenieurmäßigen und ökonomischen Bewertung der guten und schlechten Folgen eines Technikeinsatzes, wie ich es in Stuttgart im Rahmen einer Ringvorlesung betreuen durfte. Es ging um tieferliegende Fragen, Fragen zum Denken, zur Wahrnehmung, zum Grundverstehen der Welt: Wie lenkt und begrenzt das Computer-Metapher unser Weltverständnis? Inwieweit wird sich diese Metapher fatal auf unsere Weltanschauung im weitesten Sinne und auf die Selbsterkenntnis des Menschen im Speziellen auswirken? Für einen christlich und biblisch geprägten Menschen blinken da einige rote Warnlampen.

Aufsehen erregte Weizenbaums Aussage allein schon deshalb, weil hier nicht ein technikferner Kritiker redete, sondern ein international renommierter Informatik-Professor am MIT. Weizenbaum hatte 1966 eines der frühesten »therapeutischen«, scheinbar »menschenähnlichen« Dialogprogramme entwickelt, das Programm ELIZA. Menschen in aller Welt waren von diesem Computerprogramm begeistert. Es schien, als ob der menschliche Psychotherapeut nun im Computer Konkurrenz bei der Betreuung von Klienten bekommen hätte. Arbeitsplatzverlust durch KI? Klingt wieder aktuell. Aber: War ELIZA denn intelligent, war es menschlich, konnte es einen Menschen ersetzen? Oder simulierte es nur, wenn auch erstaunlich erfolgreich, Intelligenz und Empathiefähigkeit eines Menschen? Auch heutige KI-Systeme (LLMs) haben erstaunlich gute Sprachmodule, die u. a. Emotionen verbal simulierend einsetzen, um in Diskussionen anschlussfähig zu bleiben und zum Menschen positiv bindende Beziehungen, sogar Vertrauen, aufzubauen. Weitergedacht: Wie devaluieren, missverstehen und vergewaltigen wir einen Menschen, wenn wir ihm statt eines fachgebildeten, emphatiefähigen Menschen eine mit Wissen vollgestopfte Rechenmaschine mit genial programmiertem Sprachmodul gegenübersetzen?

Die begeisterte Reaktion von Menschen auf ELIZA brachte Weizenbaum schon damals zum Nachdenken. Sein Urteil war eine klare Kritik an der Neigung, Computern menschliche Eigenschaften, Urteilskraft und Autorität zuzuschreiben. Der Titel seines Buches trifft seine Hauptthese ziemlich gut: Computer können außerordentlich leistungsfähig im Berechnen sein; daraus folgt aber nicht, dass sie menschliche Urteilskraft besitzen. Weizenbaum unterscheidet deshalb (im Originaltitel seines Werkes) zwischen calculation und judgment, also zwischen Berechnung und Urteilskraft. Ich kann mich noch gut erinnern, dass es unter uns Informatik-Studenten in den 80er Jahren beliebt war, den Computer bewusst als »Blechidiot« zu bezeichnen. Dieses Bewusstsein scheint abhanden gekommen zu sein. Weizensbaums Kriterium scheint mir bis heute ein unverzichtbarer Beitrag zur Diskussion, ob Künstliche Intelligenz überhaupt intelligent ist, zu sein. Ist der Begriff »KI« mehr als nur ein geschickt gewählter Marketing-Begriff für Forscher und Anbieter von KI? Das ist nicht nur eine Frage der Definition, sondern rührt an unser Grundverständnis von Mensch und von Technik.

Weizenbaums Hauptthesen

Fast 50 Jahre nach dem englischen Original erweist sich Weizenbaums Werk angesichts generativer KI und LLMs (Large Language Model, wie z. B. GPT (OpenAI), Claude (Anthropic) oder Gemini (Google DeepMind)) unserer Zeit als erstaunlich aktuell. Der Ansatz dieser Systeme hat sich stark geändert: vom damaligen Paradigma regel- oder wissensbasierter Expertensysteme zu Machine Learning, neuronalen Netzwerken und der Transformer-Architektur^[4].

Weizenbaums sieben Hauptthesen sind immer noch bedenkenswert:

Rechnen ist nicht Urteilen. Computer können Regeln mit enormer Geschwindigkeit ausführen (calculation). Menschliche Urteilskraft (judgment) umfasst dagegen Bedeutung, Erfahrung, Verantwortung und moralische Abwägung. Genau diese Unterscheidung trägt schon der Untertitel From Judgment to Calculation.
Nicht alles, was Computer können, sollten sie auch tun. Das ist wahrscheinlich Weizenbaums wichtigste normative These. Technische Machbarkeit beantwortet noch nicht die Frage nach der moralischen Zulässigkeit. Bestimmte Entscheidungen – insbesondere solche, die Menschen existenziell betreffen – dürfen nicht einfach an Maschinen delegiert werden.
Der Mensch darf nicht auf Informationsverarbeitung reduziert werden. Weizenbaum wendet sich gegen die Vorstellung, menschliches Denken sei letztlich nur eine besonders komplizierte Form algorithmischer Datenverarbeitung. Menschliche Vernunft ist für ihn in Sprache, Geschichte, Kultur und soziale Beziehungen eingebettet.
ELIZA zeigte vor allem etwas über den Menschen. ELIZA simulierte unter anderem einen rogerianischen Psychotherapeuten. Es ahmte nämlich mittels eines Skriptes (DOCTOR) bestimmte äußerliche Gesprächsweisen eines rogerianischen Therapeuten nach. Eine typische Gesprächsweise besteht deshalb darin, Aussagen des Klienten aufzugreifen, zu spiegeln, zu paraphrasieren und durch offene Fragen weiterzuführen. Weizenbaum war überrascht, wie schnell Menschen dem relativ einfachen Programm Verständnis und Einfühlungsvermögen zuschrieben. Selbst Personen, die wussten, wie es funktionierte, konnten emotional darauf reagieren. Daraus entstand eine seiner bleibenden Warnungen: Menschen schreiben Maschinen sehr leicht Geist, Verständnis und Autorität zu, die diese aber gar nicht besitzen.
Das eigentliche Problem ist daher weniger die Macht der Computer als die Abdankung menschlicher Vernunft. Der deutsche Titel trifft diesen Gedanken besonders scharf mit Verwendung des Begriffs »Ohnmacht«. Gefährlich wird Computertechnik, wenn Menschen sagen: »Der Computer hat entschieden« – und damit ihre eigene Verantwortung an ein technisches System abgeben. Vor wenigen Jahrzehnten lernten und lehrten wir noch, dass Verantwortung nur ein Mensch übernehmen kann, auch wenn dieser sich technischer Hilfsmittel bedient. Wer aber hat Verantwortung für sog. »autonome Systeme«?
Wissenschaftlich-technische Rationalität hat Grenzen. Ein Problem kann mathematisch optimal gelöst und die Lösung trotzdem menschlich oder moralisch falsch sein. Effizienz ist keine ausreichende Kategorie für Wahrheit, Gerechtigkeit oder das Gute. Weizenbaum richtet seine Kritik deshalb auch gegen einen übersteigerten technologischen Rationalismus.
Der Computer soll Werkzeug des Menschen bleiben, und nicht Instanz über dem Menschen werden. Weizenbaums Kritik ist deshalb keine simple Technikfeindlichkeit, er war schließlich selbst ein bedeutender Informatiker. Er wandte sich gegen die unangemessene Übertragung menschlicher Entscheidungsbefugnisse auf Computer, nicht gegen sinnvollen Computereinsatz überhaupt.

Für die heutige KI-Debatte sind besonders Thesen 4 und 7 relevant. Das Programm ELIZA arbeitete noch mit im Vergleich zu heutigen Sprachmodellen äußerst primitiven Verfahren. Aber trotzdem beobachtete Weizenbaum bereits einen Effekt, den wir heute verstärkt erleben: dass sprachliche Plausibilität mit Verständnis verwechselt wird.

Wir bezeichnen diesen Effekt trefflich als den ELIZA-Effekt: Menschen neigen dazu, einem Computersystem aufgrund seiner sprachlichen Reaktionen mehr Verständnis, Absicht oder Persönlichkeit zuzuschreiben, als technisch und ethisch gerechtfertigt ist.

Spinnen wir weiter: Ist erst einmal flächendeckend die emotionale Bindung des Menschen zur Maschine aufgebaut, kann man diese zur vollautomatisierten rechnergestützten Analyse, Ausforschung und subtilen Lenkung der Nutzer verwenden. Und wenn digitale Systeme erst einmal kontinuierlich »wissen«, was die Bevölkerung denkt und will, kann Big Brother auch wieder besser schlafen. Die Macht ist gesichert. Das schillernd aufscheinende Manipulations- und Machtpotential ist für manche Menschen und Politiker offenbar Hunderte von Milliarden Dollar wert. Die Dystopien des 20. Jahrhunderts werden zum Partei-Wahlprogramm des 21. Jahrhunderts. Was Huxley, Orwell und Bradbury noch als zu befürchtendes Szenario beschrieben haben, wird nun als glorreiche Zukunftsvision verkauft.

Konsequenzen für das menschliche (Über-)Leben

Weizenbaums Grundthese von 1976 könnte man für 2026 fast unverändert formulieren:

Die entscheidende Frage lautet nicht nur: »Was kann KI?« – sondern: »Welche Entscheidungen dürfen wir ihr vernünftigerweise überlassen, und welche Verantwortung muss beim Menschen bleiben?«

Weizenbaum sah sich angesichts der massiv steigenden Verwendung von softwarebasierten Systemen im Militär der 70er und 80er Jahre zum Mahner berufen. Dies reizte zum Widerspruch und zum Widerstand, verschaffte ihm aber auch Kultstatus unter den Intellektuellen und der Antikriegsbewegung. Seine Sorge über die zunehmende Rolle der Computertechnik im kaltem wie im heißen Krieg (warfare), und die Gefahr, dass Computer die Kriegführung tödlicher und potenziell katastrophal machen, ist des Nachdenkens wert. Er konnte ja schon damals Beispiele von global bedrohlichen Beinahe-Katastrophen bieten.

Heute, wo KI-basierte Systeme bereits vielfach autonom Menschen angreifen und töten –Soldaten wie Zivilbevölkerung–, sollten unsere Alarmglocken umso lauter schrillen. Erst kürzlich übernahmen KI-Systeme mittels Hacker-Angriffen ganze Webseiten. Die USA erkannten gerade noch rechtzeitig vor Angriff auf ein chinesisches Schiff, dass die davon ausgehende Bedrohungsaussage durch KI gefälscht worden war. Ein KI-System schottete sich selbständig gegen die Steuerung und Beauftragung durch seine Betreiber ab und erzeugte damit eine gefährliche technische »Autonomie«.

Man wird unwillkürlich an den Goetheschen Zauberlehrling erinnert, der schon vor 230 Jahren lehrte (1797): Wer Kräfte oder Techniken in Gang setzt, die er nicht hinreichend versteht und beherrscht, riskiert, die Kontrolle über die Folgen zu verlieren. Selbst Designer und Investoren von KI-Systemen warnen nun, fordern öffentlich Grenzen der Legalität ihrer Anwendung, ziehen den Staat als Überwachungsinstanz heran.^[5] KI als Fluch? Vor einem »Segen für die Menschheit« bräuchte man ja nicht warnen. Wir müssen leider vermuten, dass auch diese Technologie nicht zuerst dem Menschen dienen soll, sondern nur bestimmten Menschen – auf Kosten der anderen.

Diese bestimmten Menschen sorgen dafür, dass Nachrichten und Studienergebnisse von realen oder potentiellen Gefahren vertuscht oder verleugnet werden, wenn sie dem Gewinn- und Machtstreben im Wege stehen. Diese bestimmten Menschen haben »Experten« für jeden Kommunikationskanal. Sie lassen ad nauseam Narrative erzählen. Der UN-Weltklimarat (IPCC) zum »aktuellen Klima«, die WHO und Herr Fauci zu Corona und mRNA-»Impfung«, sie alle vertreten natürlich ganz von Eigeninteressen losgelöst nur die reine und wahre Wissenschaft. Wenn da nicht die dummen »Leaks« wären. Nein, es wird immer solche geben, die die Stimme des Warners und das rote Warnlicht wegerklären, herausdrehen oder überkleben. Vor allem, wenn es um viel Macht und viel Geld geht. Man kann anscheinend recht erfolgreich mit der Naivität und Leichtgläubigkeit eines Großteils der Menschen rechnen.

An jeder neuen Technologie verdienen gewisse Kreise Unsummen. Bei KI und Rüstung heißen diese Gewinnler verschleiernd der »militärisch-industrielle Komplex«, der sich fast undurchschaubar aus Bankern, Investoren, Industriellen, Forschern und Politikern zusammensetzt. Diese Kreise schützen ihre Macht und ihre Geldgier mit ihren Medien, ihren Influencern und ihren Talk-Show-Politikern, die den Menschen auf allen Kanälen versichern, dass alles »alternativlos«, »notwendig«, »terrorabwehrend«, »kinderschützend« oder »friedenssichernd« (beliebig austauschbar) sei. Daher müsse man auch eine Schuldenaufnahme bis zum Platzen des Geldsystems hinnehmen. Dass dies Hunderte von Millionen Zivilpersonen ins Unglück der Rücklagen- und Existenzberaubung stürzten würde, wird nicht verraten. Man bedient sich des Orwellschen »Doublespeak«: einen billionenschweren Schuldenberg nennt man »Sondervermögen« und die Simulation menschlichen Verhaltens und Wissens nennt man »Intelligenz«. Das klingt so authentisch wie romantische Flitterwochen mit einem chinesischen Silikon-Robot.

Und wenn es schief geht: Ein Sündenbock ist immer schnell zur Hand. Seit Jahrhunderten mehrfach bewährt hat sich für Regierungen auch die Methode, innenpolitisches und wirtschaftliches Versagen im Ernstfall mit dem Eintreten in einen Krieg zu verschleiern. KI kann helfen, den »Verteidigungsfall« festzustellen, wo ihn keiner will oder sieht.

Verschwörungstheoretiker – oder Verschwörungsleugner?

Das klingt nun alles nach »Verschwörungstheorie«. KI als großer Topos der Verschwörungserzählung? Nein, das lehnen wir ab, das machen nur »die Anderen«! Wir fallen lieber auf der anderen Seite vom Pferd und werden zum »Verschwörungsleugner«. Was ist damit gewonnen? – Wir müssen uns der christlichen Weltanschauung wappnen, die ihr Fundament im »Wort der Wahrheit« gegründet hat.

Für den, der an die Heilige Schrift als Offenbarungswort Gottes glaubt, skizziert Psalm 2 atemberaubend, dass seit langem(!) eine globale Verschwörung im Gange ist. Sie richtet sich wider Christus, wider den »Gesalbten Gottes«, wider den Sohn Gottes selbst. Hier entscheidet sich auch auf höchstem Niveau, ob eine als ambivalent eingeschätzte Technologie Segen oder Fluch für die Menschheit ist. Damit wären wir bei der spannenden Frage, ob es so etwas wie eine »christliche Technik(nutzung)« gibt. Dazu haben wir aber bereits an anderer Stelle Beiträge geliefert.

Der Bibelleser, der Christi Sprache und Sein Wort kennt, muss lernen, die stechende Note dessen wahrzunehmen, der »ein Menschenmörder von Anfang an« ist und der »nicht in der Wahrheit steht, weil keine Wahrheit in ihm ist«, der vielmehr »ein Lügner und deren Vater« ist. So hat ihn der Sohn Gottes entlarvend charakterisiert (Johannes 8). Folgenabschätzung ist ja nicht mit bloßer Betrachtung von Folgen erledigt, sie hat auch immer etwas mit Zielen und Absichten zu tun. Genauso ist es beim Ansatz der Techniklenkung: Was sind die Traumvorstellungen, Wünsche, Ziele und Werte der Technikschaffenden? Bei manchen Forschungen und Anwendungen ist der menschenverachtende Spiritus Rector unschwer identifizierbar. Kein Mensch braucht Viren, die mittels Gain-of-function-Technologie erheblich erhöhte Ansteckungs- und Schadfähigkeit haben. Niemand braucht Hacker, die Krankenhäuser erpressen, denen sie die Patientendaten gestohlen oder verschlüsselt haben. Niemand braucht ferngelenkte Raketen oder Kampfdrohnen, die Handelsschiffe versenken. Niemand? Niemand bei »gesundem Verstand«.

Es ist Gottes Gnade, dass selbst nichtglaubende Menschen –wie beispielsweise Josef Weizenbaum–, mahnend und mit nachvollziehbarer Kritik ihre Stimme erheben. Weizenbaum war jüdisch geprägt, religiös bzw. mystisch sensibel, aber gegenüber institutionalisierter Religion und dogmatisch formulierter Gottesvorstellung distanziert. Seine Technikkritik beruht auf einem humanistischen Menschenbild, das ausdrücklich Raum für das Nicht-Formalisierbare, das Mysterium und eine »lebendige Wahrheit« lässt. Der Mensch ist für ihn nicht vollständig als informationsverarbeitende Maschine beschreibbar. Es gibt für ihn Dimensionen menschlichen Lebens, wie Liebe, Würde, Verantwortung und Wahrheit, die sich einer vollständigen Formalisierung entziehen. Er sagte 1998 in einem Gespräch mit Bernhard Pörksen: »Meine Auffassung ist in der Tat, dass es etwas Unsagbares gibt, eine lebendige Wahrheit, die sich nicht in Worte fassen lässt.«

Die Wahrheit Gottes hat offenbar solch durchdringende Kraft, dass selbst die Großmacht der Menschen, »die die Wahrheit in Ungerechtigkeit niederhalten [o. unterdrücken]« (Römer 1,17), nicht verhindern kann, dass diese hier und da erleuchtend und mahnend aufblitzt. Zumindest als Ahnung des Herzens, manchmal sogar als wahre Einsicht.

Gott sei Dank! Die Macht der Computer und die Ohnmacht der Vernunft wäre sonst nur eine weitere unentdeckte, perfide Strategie des alten Menschenfeindes, die erfolgreich kräftig geleugnet würde.

Ausblick

Ein weiterer Aspekt der Technologie-Nutzung sollte Gegenstand gesonderter Überlegung werden: Die ubiquitär präsente Digitaltechnik, besonders in Form des symbiotisch anmutenden Lebensbegleiters Smartphone, verändert auch den Menschen. Die Forschungsfrage lautete in ihrer allgemeinen Formulierung: Was macht Technologie mit dem Menschen? Konkreter und spezifischer für diesen BLOG ist die Fragestellung, inwieweit diese Technologie die Theologie des glaubenden Christen beeinflusst und verändert.

Die klassisch angesetzten Meinungsumfragen, wie die zum State of Theology in den USA (Ligonier Ministries; Lifeway Research) oder die Barna-Studie The Open Generation, bei der auch über tausend Jugendliche in Deutschland befragt wurden, können evtl. Hintergründe und erste Startpunkte zum Nachdenken geben.

Der schleichend größer werdende Ersatz des physisch realisierten Gemeindelebens durch viele schillernde digitale Ersatzangebote zeigt Folgen im Bewerten, Entscheiden, Erleben und Verhalten. Die Kraft digitaler Präsenz drängt die Körperlichkeit des Menschseins in Wichtigkeit nach hinten. Ist das Internet im Himmel – ist der Himmel im Internet? Garantiert die digitale (Alter Ego-) Präsenz Ewigkeit? Überhaupt: Wozu braucht es jetzt noch eine leibliche Auferstehung?

Wer den Tod nur noch als technisches Problem sieht, erwartet konsequenterweise von Zukunftstechnologien die Erlösung. Wo Technologie nicht mehr nur Werkzeug des Menschen ist, beginnt sie, den Menschen selbst neu zu definieren. Der Mensch als Algorithmus, den man ohne weiteres ins Internet »hochladen« könne. Harari lässt grüßen: »we may even succeed in creating completely inorganic beings« (2017). Dies scheint mir eine besonders perfide und widergöttliche Form von »Die Macht der Computer und die Ohnmacht der Vernunft« zu sein.

Endenoten

[1] Second International Conference on Applications of Artificial Intelligence in Engineering, 4.–7. August 1987, Boston (MA, USA). Diese Veranstaltung beschäftigte sich stark mit Expertensystemen (Knowledge-Based Expert Systems) und aneren technischen/industriellen KI-Anwendungen.

[2] Rodney Brooks hatte ab Mitte der 1980er Jahre am MIT Artificial Intelligence Laboratory eine neue Generation solcher autonomen mobilen Roboter entwickelt (A Mobile Robot Project (1985), A Robust Layered Control System for a Mobile Robot (1985)). Marc Raibert, der 1986 von der Carnegie Mellon University kam, entwickelte die berühmten einbeinigen, zweibeinigen und vierbeinigen dynamischen Laufroboter und gründete dann 1992 als MIT-Spinoff die Boston Dynamics.

[3] DARPA = Defense Advanced Research Projects Agency (etwa: US-Agentur für fortgeschrittene Verteidigungsforschung); Forschungsbehörde des US-Verteidigungsministeriums (Department of Defense), die risikoreiche, technologisch weit vorausgreifende Forschungsprojekte mit möglicher militärischer Bedeutung finanziert. – Ein Beispiel der angedeuteten Förderung: »Dynamically Stable Legged Locomotion: Second Report to DARPA« (Forschungsbericht 1983) dokumentiert die DARPA-finanzierten Arbeiten Raiberts von Oktober 1981 bis Dezember 1982.

[4] Die Transformer-Architektur ist eine Architektur für künstliche neuronale Netze, die 2017 von Forschern bei Google in dem Aufsatz Attention Is All You Need vorgestellt wurde. Sie bildet die technische Grundlage praktisch aller modernen Large Language Models (LLM), also auch von GPT-Modellen (GPT = Generative Pre-trained Transformer). Ein Transformer ist eine neuronale Netzwerkarchitektur, die mittels Attention kontextabhängige Beziehungen zwischen Tokens berechnet und daraus schichtweise komplexe Repräsentationen von Sprache erzeugt.

[5] Warum warnen Erfinder und Betreiber einer Technologie vor ihrer eigenen Technologie und motivieren mit Schreckensszenarien eine staatliche Überwachung(sbehörde)? Wie so oft bei Großtechnologien mit hohen Risiken liegt auch hier die Vermutung nahe, dass die betreffenden Unternehmen damit Haftungsverantwortung an den Staat delegieren wollen.