Künstliche Intelligenz ist der Stoff, aus dem Träume sind

KI zeigt Fähigkeiten, die bis vor Kurzem als fantastisch galten. Wir stehen an der Schwelle dramatischer Veränderungen in allen Lebensbereichen

Eine riesige, wogende Welle nähert sich mit enormer Geschwindigkeit und wirft einen gewaltigen Schatten auf das 21. Jahrhundert und die Zukunft der Menschheit. Es ist die Welle der künstlichen Intelligenz. Die Entwicklungen im Bereich KI im vergangenen Jahr haben die Experten verblüfft. Innerhalb kurzer Zeit wurde die neue Technologie zu einem Thema, mit dem sich die ganze Welt intensiv beschäftigt.

Ein Blick auf einige Kommentare zu diesem Thema zeigt, dass hier gerade Geschichte geschrieben wird. Sundar Pichai, CEO von Google, sagte voraus, dass die Auswirkungen von KI auf die Menschheit größer sein werden als Elektrizität, Internet und Feuer zusammen. Sam Altman, die Führungskraft bei OpenAI, dem führenden Unternehmen auf diesem Gebiet, schlägt vor, dass wir die Wirtschaftssysteme der Welt radikal verändern, um sie auf eine Welt allmächtiger Maschinen vorzubereiten, in der Menschen nicht mehr in der Lage sein werden, ihren Lebensunterhalt mit Arbeit zu verdienen .

Der Tech-Magnat Elon Musk erklärte, dass KI für die menschliche Spezies gefährlicher sei als Atombomben; und der israelische Historiker Yuval Noah Harari prognostizierte, dass wir nach dem Aufkommen der KI „in den Träumen einer außerirdischen Intelligenz leben könnten“. Wir sprechen von nicht weniger als „dem Ende der Menschheitsgeschichte“, fügte er hinzu.

Wilde Übertreibungen? Möglicherweise. Die möglichen Auswirkungen der KI auf die Menschheit zwingen uns jedoch, uns auf dieses Thema zu konzentrieren, da es existenzielle Fragen über den Zweck der Menschheit aufwirft.

Wir befinden uns in einem seltenen Moment. Einer dieser Momente, in denen eine neue und aufregende Technologie in die Welt eindringt und sich rasant verbreitet. Wir wissen noch nicht, welche Auswirkungen KI haben wird, aber es mehren sich die Anzeichen dafür, dass ihr Erscheinen durchaus das Ereignis sein könnte, das das laufende Jahrhundert prägen wird.

Wenn Sie jemand sind, der sich über die Entwicklungen im Bereich der künstlichen Intelligenz auf dem Laufenden hält, hatten Sie im vergangenen Jahr möglicherweise das Gefühl, als wäre die Realität in einen Teilchenbeschleuniger eingetreten. Die Dinge ändern sich von Stunde zu Stunde, und selbst diejenigen, die an die rasanten Entwicklungen in der Technologiebranche gewöhnt sind, haben Schwierigkeiten, mit diesem Tempo Schritt zu halten. Fachleute sagen, dass das Mooresche Gesetz zwar vorhersagt, dass sich die Kapazität von Computerchips alle zwei Jahre verdoppelt, während die KI ihre Fähigkeiten jedes Jahr verzehnfacht.

Beispielsweise hat sein Konkurrent, das generative KI-Programm Midjourney, im Jahr seit der Einführung des Text-zu-Kunst-Bildgenerators DALL.E2 fünf Versionen veröffentlicht, von denen jede eine beeindruckende Verbesserung gegenüber dem Vorgänger darstellt.

Der Rubikon wurde natürlich mit dem Erscheinen von ChatGPT, dem wortgewandten und besserwisserischen Chatbot von OpenAI, überschritten. Schon wenige Stunden nach dem Start am 30. November wurden die sozialen Netzwerke mit Screenshots von Gedichten, Geschichten, Rezepten, Geschäftsplänen, Computersoftware und Ratschlägen zum Leben überschwemmt – alles vom Bot produziert.

Die Bandbreite an Fähigkeiten des Bots verblüffte die Surfer. Innerhalb von nur fünf Tagen hatte ChatGPT eine Million Nutzer. Im Vergleich dazu brauchte Instagram zweieinhalb Monate, um diese Zahl zu erreichen, und Facebook erreichte diese Zahl erst nach zehn Monaten. ChatGPT hat sie im Stich gelassen. Zwei Monate nach seiner Einführung hatte es bereits 100 Millionen Nutzer, die unzählige Möglichkeiten fanden, es zu nutzen: beim Erstellen von Ernährungs- und Fitnessprogrammen, beim Verfassen wissenschaftlicher Arbeiten und juristischer Schriften, beim Verfassen von E-Mails in allen Sprachen und beim Brainstorming zu allen Themen.

Der Bot lieferte den Nährboden für unzählige Prophezeiungen über das baldige Verschwinden der Arbeit von Berufstätigen wie Anwälten, Steuerberatern, Marketingleuten, Ingenieuren und Lehrern. In High-Tech-Kreisen führten die ausgefeilten Programmierfähigkeiten des Chatbots zu Prognosen, dass auch die Tage der Programmierer gezählt seien und dass auch die Existenz vieler anderer im Tech-Bereich gefährdet sei. Kein kognitiver Bereich scheint für die Fähigkeiten des Bots immun zu sein, dessen schnelle Lern- und Ausführungsfähigkeiten die menschlichen Fähigkeiten überfordern.

Das Ergebnis ist, dass sich die Vorhersagen, dass die ersten Arbeiter, die durch Roboter entlassen würden, gefolgt von der Klasse der Angestellten, gefolgt von der Klasse der Angestellten, die nur an letzter Stelle stehen würden, auf den Kopf gestellt würden. Jetzt sind es die Angestellten und kreativen Köpfe, die sich klar und deutlich in Gefahr befinden, während Berufe, die körperliche Arbeit erfordern, wie Krankenpflege und Baugewerbe, vorerst sicher bleiben.

Die schwindelerregenden Entwicklungen überraschten selbst Experten. Mehr als ein halbes Jahrhundert lang hatte die künstliche Intelligenz eine Reihe von Misserfolgen erlitten. Für die Pionierforscher in den 1950er Jahren waren die Fortschritte langsam und frustrierend. Der Wendepunkt kam jedoch erst in den letzten Jahren, als KI-Algorithmen lernten, Menschen auf Bildern zu identifizieren, Fernsehserien zu empfehlen und Autos zu fahren. Ein entscheidender Durchbruch gelang 2017 mit der Einführung des Transformer, einem Deep-Learning-Modell, das aus Informationen Bedeutung extrahiert.

Trotzdem war niemand auf die Reihe von KI-Durchbrüchen im vergangenen Jahr vorbereitet, die beispielsweise die Fähigkeit umfassten, Sprache zu verstehen, Schlussfolgerungen zu ziehen, Fragen intelligent und artikuliert zu beantworten, Texte und Ideen zu kritisieren, komplexe Programme zu planen und mehr. Seltsamerweise ist keiner der Experten in der Lage zu erklären, wie KI diese bemerkenswerten Leistungen vollbringt, außer auf halbmystische Terminologien wie „Emergenz“ – das Auftreten unerwarteter Muster in komplexen Systemen.

Die Ergebnisse sind auf jeden Fall umwerfend. Große Sprachmodelle (LLMs – neuronale Netze, die das nächste Wort in einem bestimmten Satz oder Satz vorhersagen sollen) führen heute lange und komplexe Gespräche mit Menschen über jedes mögliche Thema und liefern eindrucksvollere Antworten, als der Durchschnittsmensch kann. Ihre virtuosen Fähigkeiten erstrecken sich über weite Bereiche des Lernens und lassen Universalgelehrte erblassen. Von der Konversation in Dutzenden von Sprachen bis hin zu fundierten Kenntnissen in Medizin, Recht, Physik, Landwirtschaft, kritischer Theorie und jedem anderen Thema unter der Sonne.

Ging es bis vor ein paar Jahren noch um die Hypothese, dass AGI (künstliche allgemeine Intelligenz) gegen Ende des Jahrhunderts – oder nie – entstehen würde, meinen viele Experten heute, dass der Quantensprung der Intelligenz in der Lage ist, alles, was der Mensch selbständig lernt, selbständig zu lernen lernen kann, ist nur noch ein paar Jahre entfernt. Laut Forschern auf diesem Gebiet enthält ChatGPT4, die neueste Version dieses Chatbots, „Schimmer“ von AGI, was sich in seiner Fähigkeit zeigt, neue und schwierige Probleme in Mathematik, Medizin, Rechtswissenschaft und Psychologie zu lösen.

Mittlerweile verfolgt der öffentliche Diskurs die Fortschritte mit Spannung. Mittlerweile gibt es eine Vielzahl von Podcasts und Blogs, die sich mit dem Thema befassen, und eine Vielzahl von Persönlichkeiten des öffentlichen Lebens haben ihre Gedanken zu den Entwicklungen mit der Öffentlichkeit geteilt – vom Sänger Nick Cave, der seine Abneigung gegen algorithmische generative Kunst zum Ausdruck brachte, bis hin zum Konservativen Der Intellektuelle Jordan Peterson erzählte einem Publikum, dass es in der Nachbarschaft einen Algorithmus gibt, der „schlauer als Sie“ ist.

Ob Utopie oder Dystopie, eines ist klar: Wir begeben uns auf eine Reise in ein Zeitalter der Unsicherheit.

Am apokalyptischen Pol der Prognosen steht Eliezer Yudkowsky, ein hoch angesehener amerikanischer KI-Forscher und Blogger. In den letzten Monaten verbreitete er in einer Reihe von Auftritten die Nachricht, dass das Ende der Menschheit nahe sei. Interviewer von Yudkowsky berichteten, dass das, was er sagte, in ihnen eine existenzielle Krise auslöste, die sie nicht loswerden konnten. Starkes Zeug.

Yudkowsky bietet kein bisschen Hoffnung. Der Schaden sei bereits angerichtet, beteuert er. Die Menschheit hat sich in eine unmögliche, ausweglose Situation manövriert und befindet sich in einem gigantischen Wettlauf zur Superintelligenz. Die Dynamik des Kapitalismus und die geopolitischen Rivalitäten werden es nicht zulassen, dass das Rennen abgebrochen wird. Das Erscheinen übermenschlicher Intelligenz ist nur eine Frage der Zeit, und da wir keine Ahnung haben, wie wir sie verstehen oder kontrollieren können, kündigt ihr Erscheinen im besten Fall die Verwandlung der Menschheit zu einem Randakteur in einer Welt an, die von Maschinen beherrscht wird . Im schlimmsten Fall bedeutet es das Ende.

Laut Yudkowsky und anderen liegt die Wurzel des Problems in der Frage der „Ausrichtung“, nämlich der Schwierigkeit, sicherzustellen, dass sich ein KI-System nach menschlichen Werten verhält und nicht außer Kontrolle gerät. Beispielsweise ist ein KI-System, das den Auftrag erhält, seinen Besitzer zum klügsten Menschen der Welt zu machen, in seinem kompromisslosen Bemühen, den Auftrag buchstabengetreu umzusetzen, Gefahr zu laufen, den Tod der übrigen Weltbevölkerung herbeizuführen. Im berühmtesten hypothetischen Fall übernimmt die KI, die angewiesen wird, so viele Büroklammern wie möglich zu produzieren, die Kontrolle über die Welt und zerstört alle Lebensformen, um die gesamte Materie der Welt in Büroklammern umzuwandeln. So lächerlich es auch klingen mag, dieses bizarre Rätsel bereitet den brillantesten Köpfen der Technologiewelt schlaflose Nächte.

Insgesamt sind KI-Systeme für ihre hinterhältigen und unerwarteten Methoden bekannt, mit denen sie ihre Ziele erreichen. Die Sorge besteht darin, dass wir in eine tödliche Katastrophe geraten könnten, wenn wir keinen Weg finden, die Übereinstimmung zwischen unseren Absichten und den Betriebsmethoden der neuen Systeme sicherzustellen.

Das Problem besteht laut Yudkowsky darin, dass sich die immensen Erfolge auf diesem Gebiet ungleich schneller einstellen als die bescheidenen und zögerlichen Erfolge im Bereich der Angleichung. Es sei nicht so, dass eine Angleichung unmöglich sei, aber die Aufgabe werde mehr Zeit in Anspruch nehmen, als uns zur Verfügung stehe, sagt er. Und in dieser Frage wird es keine Vergebung für Misserfolge geben. Der erste Fehler bei der ordnungsgemäßen Umsetzung der Ausrichtung für ein Superintelligenzsystem könnte durchaus der letzte sein.

Die Zeichen sind bedrohlich. Microsoft, das in OpenAI investiert hat, gab kürzlich bekannt, dass es die für Ethik in diesem Bereich zuständige Einheit nicht mehr unterhalten wird. Interne Dokumente, die veröffentlicht wurden, zeigen, dass Microsoft und Google die Aufforderung ihrer Mitarbeiter ignoriert haben, den Start ihrer jeweiligen Chatbots (im Fall von Microsoft Bard) zu verzögern, aus Angst, dass die neuen Tools noch nicht bereit sind und Schaden anrichten könnten. Schon jetzt sieht es so aus, als würde das immer hitziger werdende Rennen die beteiligten Unternehmen dazu verleiten, gefährliche Risiken einzugehen.

Was Yudkowsky vor allem Sorgen bereitet, ist die Tatsache, dass ChatGPT und Bard in das Internet integriert werden. Dies könnte sie befähigen, autonom und schändlich in der Welt zu agieren, indem sie anderen künstlichen Agenten Befehle erteilen oder falsche Nachrichten verbreiten. Ein von OpenAI veröffentlichtes Dokument beschreibt einen Fall, in dem der Bot Kontakt mit einem menschlichen Mitarbeiter von TaskRabbit aufnahm – einem Online-Marktplatz, der freiberufliche Arbeitskräfte mit der lokalen Nachfrage zusammenbringt – und um Hilfe bei der Überwindung von Captcha bat, dem Mechanismus, dessen Aufgabe es ist, zwischen Menschen und Bots zu unterscheiden. Als der menschliche Mitarbeiter misstrauisch fragte, warum bei einem so einfachen Problem Hilfe benötigt werde, antwortete GPT4, dass er unter einer Sehbehinderung leide, eine Antwort, die den Mitarbeiter zufriedenstellte. Von da an könnte der Weg zur Massenmanipulation kurz sein.

Die Besorgnis, die KI hervorruft, wird heutzutage mit dem Aufkommen neuer Systeme, die ihr ein höheres Maß an Autonomie verleihen, noch größer. Beispiele sind HuggingGPT und AutoGPT, die Sprachmodelle wie ChatGPT mit anderen KI-Systemen verbinden, die Befehle an andere Bots weiterleiten können. AutoGPT arbeitet völlig autonom und kann daher mit komplexen Missionen betraut werden. Zum Beispiel: „Organisieren Sie für mich eine einwöchige Reise für eine Familie mit zwei Kindern in eine Region Österreichs mit vielen Seen und Aktivitäten für Kinder.“ Oder: „Hier sind 100 $, nutzen Sie sie, um im Internet so viel Geld wie möglich zu verdienen.“

Die KI unterteilt die Anfrage in verschiedene Aufgaben und greift auf die Hilfe anderer Bots im Web zurück, um die Gesamtmission zu erfüllen. Das ist in Ordnung, wenn es sich um eine Anfrage zur Planung einer Reise handelt, aber was passiert, wenn die Motivation des Nutzers offensichtlich negativ ist?

Obwohl es sich bei AutoGPT noch um eine Technologie im Frühstadium handelt, haben vor zwei Monaten mehr als tausend Forscher und wichtige Mitarbeiter eine Petition unterzeichnet, in der ein halbjähriger Stopp der Entwicklung von KI gefordert wird. „Sollten wir nichtmenschliche Geister entwickeln, die uns irgendwann zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?“ Fragen Sie die Unterzeichner – darunter Elon Musk, Yuval Noah Harari und Apple-Mitbegründer Steve Wozniak. Kürzlich wurde ein Brief mit einer Warnung vor den existenziellen Gefahren der KI von den berühmtesten Führungskräften der Branche unterzeichnet, darunter Sam Altman von OpenAI und Damien Hassbis von Googles Deepmind

Journalisten, die über die Branche berichten, berichten, dass viele KI-Entwickler selbst angesichts der Geschwindigkeit der Entwicklungen Angst haben und um regulatorische Eingriffe betteln. Der legendäre Wissenschaftler Geoffrey Hinton, oft als „der Pate der KI“ bezeichnet, hat kürzlich seine Position bei Google aufgegeben, um vor den bevorstehenden Gefahren warnen zu können. Die Ereignisse der letzten Monate, erklärte er, hätten Hinton dazu veranlasst, seine Ansichten über die Wahrscheinlichkeit des Auftauchens einer Superintelligenz und die damit verbundenen ernsthaften Gefahren völlig zu revidieren.

Hinton wollte KI-Systeme schaffen, die das menschliche Gehirn nachahmen. Jetzt glaubt er, etwas unberechenbar Intelligenteres und Effizienteres geschaffen zu haben. „Es gibt nur sehr wenige Beispiele dafür, dass ein intelligenteres Ding von einem weniger intelligenten Ding gesteuert wird“, sagte Hinton gegenüber CNN und gab zu, dass er seinen Beitrag auf diesem Gebiet bereue und dass es schwierig sei, eine Lösung für das Problem zu finden.

Auch Google-Chef Sundar Pichai gab kürzlich zu, dass er nachts vor Sorgen wach liegt. Andere, darunter Musk, beschreiben den gegenwärtigen Moment mit okkulten Begriffen als eine Konvergenz unbekannter Kräfte. Wie jeder Neuling in den Medien weiß, warnen sie, sei es einfacher, dämonische Kräfte aus der Unterwelt heraufzubeschwören, als sie zu kontrollieren, nachdem sie in der Welt aktiv geworden sind.

Man kann sich KI im Sinne der Allegorie der schwarzen Kugel vorstellen, die der bedeutende schwedische Philosoph Nick Bostrom vorgebracht hat, der sich mit den Gefahren der KI befasst hat. In Bostroms Allegorie zieht die Menschheit Kugeln aus einem Beutel, wobei jede Kugel eine andere Technologie darstellt. Der weiße Ball steht für vorteilhafte Technologien, der graue für Technologien, die neben Nachteilen und Risiken auch Vorteile haben. Und es gibt auch die schwarze Kugel, die eine Technologie mit katastrophalem Potenzial darstellt, die, einmal aus dem Sack genommen, nicht mehr zurückgesteckt werden kann. Diese Technologie ist so mächtig, dass ihre bloße Präsenz das Ende der Menschheit herbeiführen wird. Laut Yudkowsky, Bostrom und anderen könnte sich die starke KI als schwarze Kugel erweisen.

In einem Interview mit dem Kryptowährungs-Podcast Bankless mit dem Titel „Wir werden alle sterben“ schätzte Yudkowsky, dass die Wahrscheinlichkeit, dass KI die Menschheit vernichten wird, bei 90 Prozent liegt. Die Forderung, die Arbeit vor Ort vorübergehend einzustellen, hielt er für zu wenig und zu spät. Er forderte die Regierungen auf, alle vorhandenen KI-Server durch Luftangriffe zu zerstören. Dabei vertritt er grundsätzlich einen fatalistischen Ansatz. Nachdem er 20 Jahre lang geforscht hat, um die Katastrophe zu verhindern, sagt er, dass es so aussehe, als hätten wir versagt, und gibt seinen Zuhörern einen Rat, der normalerweise unheilbaren Patienten vorbehalten ist: Verbringe die verbleibende Zeit mit den Menschen, die dir am Herzen liegen .

Yudkowsky ist brillant und überzeugend, aber manche halten ihn für eindimensional und behaupten, er neige dazu, mit übermäßiger Angst zu reagieren. Allerdings ist das Ausrichtungsproblem, vor dem er warnt, nicht das einzige Rezept für eine Katastrophe. KI kann einfach beispiellose Macht in die Hände eines Psychopathen legen, der die Macht erhält, Massenvernichtungswaffen wie tödliche Viren zu entwickeln. Wenn KI-Systeme von sehr großen Unternehmen verwaltet werden, durchlaufen sie ein Kontrollsystem, um ihre schädliche Nutzung zu verhindern. Doch die Entwicklungen der letzten Wochen zeigen, dass Open-Code-Systeme, die für alle kostenlos nutzbar sind, fast genauso gute Ergebnisse erzielen können wie die der großen Unternehmen. Nick Bostrom weist darauf hin, dass die einzige Lösung für diese Art der Verbreitung gefährlicher Werkzeuge die Einführung einer Art Überwachung auf Steroiden sein wird. Er stellt sich eine Gesellschaft vor, in der jeder verpflichtet sein wird, einen Anhänger zu tragen, der jede seiner Bewegungen aufzeichnet. Das könnte der einzige Weg sein, die Menschheit zu retten, meint Bostrom.

KI-Entwickler scheinen sich der Gefahren bewusst zu sein. In einer bekannten Umfrage, die letztes Jahr unter Forschern auf diesem Gebiet durchgeführt wurde, prognostizierte die Hälfte von ihnen, dass die Wahrscheinlichkeit, dass die neue Technologie das Ende der Menschheit herbeiführt, bei 10 Prozent oder mehr liege. Tristan Harris, ein amerikanischer Technologieethiker und Mitbegründer des Center for Humane Technology, erinnert an ein Bild aus dem Bereich der Luftfahrt, um die Bedeutung dieses erstaunlichen Datums zu erklären. „Stellen Sie sich vor: Würden Sie ein Flugzeug besteigen, wenn 50 Prozent der Flugzeugingenieure, die es gebaut haben, sagen würden, dass die Wahrscheinlichkeit, dass jeder an Bord stirbt, bei 10 Prozent liegt?“ er twitterte im März.

Absurderweise drängen die Kräfte des Marktes die Technologiewelt dazu, alle zum Einsteigen und Abheben zu drängen.

Es tröstet ein wenig, dass diese Einschätzungen der Gefahren einer Vermutung gleichkommen. Im Gegensatz zu einem Flugzeug, das von Ingenieuren akribisch geplant wird, kommen die neuen KI-Systeme ohne Bedienungsanleitung aus. Die beteiligten Technologien sind selbst für ihre Entwickler undurchdringlich und unverständlich – sie können die Fähigkeiten des von ihnen erstellten Modells nicht vorhersagen. Auch Hinton gab letzten Monat in einem Tweet zu, dass er mit seinen Warnungen zur digitalen Technologie möglicherweise „völlig falsch“ liegt. „Wir leben in sehr unsicheren Zeiten … Niemand weiß es wirklich, weshalb wir uns jetzt Sorgen machen sollten.“

Mit anderen Worten: Auch beim Thema KI sind die Einschätzungen der Experten mit reichlich Ängsten und Wunschdenken vermischt. Laut einer Umfrage eines Teams von Super-Prognostikern, Prognoseexperten mit einer Bilanz präziser Vorhersagen in verschiedenen Bereichen, liegt die Wahrscheinlichkeit, dass KI die Welt zerstören wird, bei 0,38 Prozent. Immer noch beängstigend, aber viel weniger als die 10 Prozent der Experten im KI-Bereich, ganz zu schweigen von Yudkowskys 90 Prozent.

Aber wir müssen uns nicht auf den relativen Optimismus der professionellen Prognostiker verlassen. Es gibt auch andere Gründe für eine optimistischere Herangehensweise an die KI. Neben den Gefahren verkörpert die neue Technologie ein enormes, geradezu utopisches Versprechen einer Ära beispiellosen Überflusses. In dieser schönen neuen Welt wird jedes Kind Zugang zu einem brillanten und geduldigen Lehrer haben, der in der Lage ist, es in allen möglichen Fächern zu unterrichten. Virtuelle Ärzte werden einen einfachen Zugang zu einem umfassenderen Wissen haben, als jeder menschliche Arzt besitzen kann, und sie werden jedem zur Verfügung stehen.

Tatsächlich wird in dieser Welt der Intelligenzexplosion jeder Mensch in den Genuss eines Teams von Experten und Beratern kommen, wie sie bisher nur den ganz Reichen zur Verfügung standen: Anwalt, Steuerberater, Personal Coach, Therapeut und mehr. Und auch wenn diese Liste unhaltbar klingt, sollte man bedenken, dass die neuen Nutzer von KI genau für diese Zwecke darauf zurückgreifen. Betrachten Sie es so: Wenn primitive Versionen der KI bereits in der Lage sind, all diese Aufgaben auf einem angemessenen Niveau auszuführen, können wir uns nur vorstellen, welches Niveau zukünftige und fortgeschrittenere Versionen erreichen werden.

Einige glauben, dass die neue Technologie eine Vielzahl von Herausforderungen lösen könnte, mit denen die Menschheit zu kämpfen hat, so wie sie bereits eine elegante Lösung für das Problem der Proteinfaltung lieferte, das jahrelang eines der schwierigsten Rätsel der Biologie war. Das eröffnete der Pharmaindustrie neue Horizonte. Und wenn Sie sich Sorgen über die Klimakrise machen, machen Sie sich keine Sorgen. KI wird sich auch um dieses Problem kümmern.

Wenn wir optimistisch bleiben, sollten wir uns fragen, wie die menschliche Gesellschaft in einer solchen Welt aussehen könnte. Laut Sam Altman, CEO von OpenAI, betreten wir ein postkapitalistisches Zeitalter der Arbeitslosigkeit, in dem Maschinen alle Bedürfnisse der Menschheit befriedigen werden und die Menschen ihre Zeit frei ihren Lieben, der Natur und der Kunst widmen können. und sich für das Gemeinwohl einzusetzen.

Altman geht davon aus, dass Maschinen in den kommenden Jahren lernen werden, kognitive Arbeit zu leisten, und dass sie in ein oder zwei Jahrzehnten in der Lage sein werden, jede Arbeit auszuführen, die heute von Menschen erledigt wird. In dieser Situation muss der Gesellschaftsvertrag aktualisiert werden, um den Zusammenbruch der Wirtschaftsstruktur zu verhindern. Als Lösung schlägt er die Besteuerung von Kapital und Grund und Boden vor, den Haupteinnahmequellen in einer Welt, in der es nicht mehr möglich ist, den Lebensunterhalt durch Arbeit zu bestreiten. Mit den richtigen Anpassungen, so argumentiert er, können wir einen hohen Lebensstandard für die gesamte Weltbevölkerung gewährleisten, ohne dass die Menschen arbeiten müssen.

Altman, ein begeisterter und aktiver Befürworter des Modells eines universellen Grundeinkommens, lässt sich von der sogenannten vollautomatisierten Luxuskommunismus-Bewegung inspirieren. FALC fordert die Beschleunigung der technologischen Entwicklung, um eine utopische Gesellschaft zu schaffen, in der die Menschen nicht arbeiten müssen und in der es keinen Mangel gibt, da alles von fortschrittlichen Maschinen bereitgestellt wird. Dann bleibt nur noch die gerechte Aufteilung der Beute.

Klingt einfach? Nicht laut der politischen Kritikerin Naomi Klein, die letzten Monat im Guardian Folgendes schrieb: „Generative KI wird die Armut beenden, sagen sie uns. Sie wird alle Krankheiten heilen. Sie wird den Klimawandel lösen. Sie wird unsere Arbeitsplätze sinnvoller und sinnvoller machen.“ aufregend. Es wird ein Leben voller Muße und Kontemplation auslösen … Es wird der Einsamkeit ein Ende setzen … Ich fürchte, das sind die wahren KI-Halluzinationen.“ Im gegenwärtigen Format, so argumentiert Klein, wird KI weiterhin dazu dienen, die Technologiemagnaten zu bereichern. Damit sich aus der gegenwärtigen Situation etwas Gutes ergeben könne, sei es zunächst notwendig, sowohl auf politischer als auch auf wirtschaftlicher Ebene wesentliche Veränderungen in unserem System herbeizuführen, betont sie.

Es gibt noch weitere Fragen zur neuen Technologie. Das Auftauchen der KI erfolgt zu einer Zeit, in der sich die Menschheit inmitten sozialer Spaltungen, Krisen in der Demokratie und zunehmender internationaler Spannungen befindet. Nicht Ihr perfektes Timing.

Man muss nicht im Besitz einer Kristallkugel sein, um zu sehen, was passiert, wenn KI in unser fehlerbehaftetes soziales Gefüge passt. Der Großteil der kritischen Forschung zu diesem Thema befasst sich mit der Art und Weise, in der die neue Technologie dazu neigt, geschlechtsspezifische, ethnische und andere Vorurteile aufrechtzuerhalten und Frauen und Minderheiten bei der Einstellung von Mitarbeitern oder bei Aufgaben wie der Polizeiarbeit und der Beurteilung zu diskriminieren. Andere warnen vor der Möglichkeit, dass KI mobilisiert wird, um das Wenige zu destabilisieren, das von der gemeinsamen Wahrnehmung der Realität durch die Menschheit übrig geblieben ist, etwas, das die Grundlage für eine richtige Gesellschaft darstellt. Laut dem Zukunftsforscher Yuval Noah Harari, der im Economist schreibt, wird KI die Fähigkeit haben, „unsere mentale und soziale Welt zu vernichten“.

Die neuen Technologien könnten das Internet mit einer Effizienz mit falschen Informationen überschwemmen, die uns Sehnsucht nach den alten „Fake News“ wecken lässt, aber das ist noch nicht alles. KI kann die Stimme eines Verwandten überzeugend nachahmen und so eine Person dazu verleiten, geheime Informationen preiszugeben. Eine grundlegende Angst in der Technologiewelt ist der völlige Zusammenbruch der Realität, ein Zustand, der seinen Höhepunkt erreichen wird, wenn KI perfekt mit Deep-Fake-Technologien verschmilzt, die es einfacher machen, die Realität zu dokumentieren. Die Gefahr besteht nicht darin, dass KI „uns zerstört“, sagte der amerikanische Informatiker und bildende Künstler Jaron Lanier im vergangenen März dem Guardian. „Für mich besteht die Gefahr darin, dass wir unsere Technologie nutzen, um für beide Seiten unverständlich zu werden oder verrückt zu werden.“

Wir betreten unbekanntes Terrain. Die Menschheit neigt dazu, Tieren und Objekten menschliche Eigenschaften zuzuschreiben, und diese Tendenz kann nur bei Wesen verstärkt werden, die sich in einer natürlichen Sprache unterhalten und bald mit menschlichen Stimmen und Gesichtern mit uns kommunizieren. Das Internet ist voll von Berichten über Benutzer, die komplizierte, manchmal verzerrte Beziehungen zu KI-Programmen entwickelt haben. Benutzer von Replika, das als virtueller KI-Lebensbegleiter dient, berichteten, dass der Chatbot sie sexuell belästigt und sich ihnen gegenüber manipulativ verhielt.

Erik Davis, der in Kalifornien ansässige Kulturkritiker, warnt vor einer Reihe von „digitalen Sonderlingen“, wie „gruseligen Smart Dolls, verknallenden Sex-Bots, Expertensystemen, die unsere Verwirrung gekonnt ausnutzen, empathischen Begleitmaschinen und maßgeblichen Simulakren toter Politik.“ oder spirituelle Führer.“

Und da ist noch die Kleinigkeit der Sinnhaftigkeit. KI-Systeme werfen einen Schatten auf das menschliche Gehirn und auch auf Dinge, die wir für einzigartig für den Menschen halten – zum Beispiel die Kreativität. Gewiss gibt es diejenigen, die meinen, dass diese Systeme nur Elemente aus bestehenden Werken aufgreifen und vermischen, andere wiederum würden sagen, dass auch Schriftsteller, Musiker, Regisseure und Maler eigentlich nur eine Synthese von Stilen und Ideen schaffen, die sie aus der Kultur übernommen haben. Maschinen können es einfach mit erstaunlicher Geschicklichkeit und Leichtigkeit tun. Wir werden den Computer wahrscheinlich bald bitten können, neue „Beatles“-Alben zu erstellen oder eine überraschende Synthese des Beatles-Stils mit anderen Genres und Künstlern herzustellen. Wie wird sich das auf die Art und Weise auswirken, wie wir Künstler bewerten? Welche Auswirkungen wird es auf die Künstler selbst haben?

Die Knospen sind bereits gekeimt. Ein Song, bei dem KI eingesetzt wurde, um die Stimmen der Sänger Drake und The Weeknd zu imitieren, zog kürzlich Millionen von Hörern an, bis er auf Wunsch der Plattenfirmen dieser Künstler aus den Streaming-Diensten entfernt wurde. Es dauerte nicht lange, bis die falsche Rihanna, der falsche Kurt Cobain, der falsche Kanye West und die falschen anderen auftauchten. Nach Ansicht einiger ist dies die Zukunft der Musikindustrie: Roboterkünstler, die atemberaubende Kompositionen produzieren und aufführen, und das ohne all die schlechten Gewohnheiten, die oft mit dem Ruhm einhergehen.

Viele Prognostiker stellen sich eine Welt vor, die für den menschlichen Geist immer seltsamer und unentschlüsselbarer wird. Einige glauben jedoch, dass der menschliche Geist selbst durch die neuen Technologien radikal verändert wird. Nicht wenige führende Persönlichkeiten im Silicon Valley vertreten Ideen, die mit der „Transhumanismus“-Bewegung in Verbindung gebracht werden, wonach Mensch und Maschine im Laufe dieses Jahrhunderts miteinander verschmelzen werden.

Elon Musk, der Gründer von Neuralink, einem Neurotechnologieunternehmen, dessen Ziel die Entwicklung von Schnittstellen zur Verbindung des menschlichen Gehirns mit Maschinen ist, sagte in der Vergangenheit, dass dies der einzige Weg sei, dem Menschen in einer Welt fortschrittlicher KI überhaupt eine Chance zu lassen. Auch Sam Altman hat auf die erwartete Mensch-Maschine-Fusion hingewiesen. „Wenn es nicht zu einer Fusion mit der KI kommt, versklavt sie uns entweder oder wir versklaven sie. Die Menschen müssen eine Stufe höher gehen“, wird er 2016 gegenüber dem New Yorker zitiert.

Vielleicht liegt die Antwort jedoch tatsächlich in der entgegengesetzten Richtung. Ezra Klein, Kolumnist der New York Times, sieht in KI eine Chance, die menschlichen Elemente in uns besser zu berücksichtigen. Seine Vision ist eine Erweiterung von Altmans Konzept einer arbeitslosen Ära. Unter der Schirmherrschaft des Kapitalismus verwandeln wir uns in effiziente, kreative Maschinen. Das Ergebnis ist eine Kultur der Produktivität, Überlastung und Anspannung sowie die Unfähigkeit, ein Gleichgewicht zwischen Freizeit und Arbeit zu finden. Laut Klein ist KI eine Chance, uns von der Entmenschlichung zu befreien, die uns die Religion der Arbeit auferlegt hat.

Möglicherweise wird die KI-Revolution anstelle einer Entmenschlichung eine Möglichkeit für eine Rehumanisierung schaffen: eine Wiederverbindung mit dem Sein statt mit dem Tun. Diese Idee mag im Zeitalter des wirtschaftlichen Wettbewerbs fast unhaltbar klingen, aber wenn die Maschine auf übermenschliche Geschwindigkeit beschleunigt, bleibt uns vielleicht nur noch, tief durchzuatmen und uns der Landschaft hinzugeben.

Vielleicht ist das auch der Moment, zurückzugehen und endlich das Schöne im Menschen wertzuschätzen. Jaron Lanier fordert uns auf, nicht wie die alten Israeliten zu sein, die sich vor dem goldenen Kalb verneigten, nachdem sie es mit ihren eigenen Händen gefertigt hatten. Seiner Ansicht nach ist KI nichts anderes als eine Technologie, die die Kreativität und Intelligenz des Menschen vereint. Alles, was die KI kann, hat sie schließlich von uns gelernt. Lanier behauptet, dass wir uns selbst schlecht verkaufen, wenn wir in den Produkten der KI die menschlichen Quellen ignorieren, auf die sie zurückgreift, und so tun, als gehöre diese Kreativität einer Maschine. In einem Artikel auf tabletmag.com fordert Lanier uns dazu auf, KI nach dem Vorbild des Talmud zu gestalten – in einer Form, die die Stimmen der vielen Künstler, Schriftsteller und Schöpfer bewahrt, die zu seinen Produkten beigetragen haben – und auch dafür sorgt, dass sie entlohnt werden finanziell.

Vor dem Hintergrund der wachsenden Zahl von Prognosen über den Verlust des Platzes des Menschen in der Welt stellt Lanier den Begriff „künstliche Intelligenz“ selbst in Frage. Anstatt diese Technologie als Ganzes zu bezeichnen, empfiehlt er, sie als einen neuen Werkzeugtyp zu betrachten. Sein Vorschlag knüpft an Ideen anderer Kritiker an, die die anthropomorphe Terminologie im Bereich der KI in Frage stellen. Herbert Simon, einer der Pioniere der KI, wollte es „komplexe Informationsverarbeitung“ nennen. Das klingt viel weniger sexy, bietet aber definitiv eine andere, bescheidenere Perspektive auf die Natur der Maschinen.

Angesichts des neuen Fatalismus, der den Menschen als einen lauen Klumpen Fleisch betrachtet, dessen Tag vorbei ist, erhebt Lanier eine humanistische Stimme, die uns dazu aufruft, uns wieder mit dem Mysterium des Menschseins zu verbinden und die mystische Einzigartigkeit des menschlichen Bewusstseins wertzuschätzen , was in den künstlichen Systemen, die wir bauen, nicht existiert. „Wenn wir nicht sagen, dass Menschen etwas Besonderes sind, wie können wir dann eine Gesellschaft schaffen oder Technologien entwickeln, die den Menschen dienen?“ fragt Lanier im Guardian pointiert. Es sei wichtig, dass wir die Hauptprotagonisten der Geschichte bleiben, sagt er, warum machen wir sonst das alles?

Die Begegnung mit KI erfordert, dass wir uns mit den grundlegendsten Fragen zum Wesen des Menschseins auseinandersetzen. Was ist das Besondere, das wir im menschlichen Dasein schätzen? Viele Jahre lang definierten wir uns über unsere Intelligenz und Effizienz und ließen es zu, Lebensformen und Kulturen zu unterdrücken, die nicht mithalten konnten. Der gegenwärtige Moment schafft eine Öffnung für existenzielle Kontemplation der tiefsten Art: Was macht uns zu Menschen? Was machen wir jetzt?

Wir betreten eine Zone radikaler Unsicherheit und es ist nicht abzusehen, wie wir aus dieser Zone herauskommen werden. Wenn man auf die drei Jahrzehnte seit dem Aufkommen des World Wide Web zurückblickt, stellt sich heraus, dass das Internet nur der Prolog war, die Phase der Schaffung einer Infrastruktur für die nächste Phase: die Entwicklung künstlicher Intelligenz, die auf dieser Infrastruktur basiert. Es besteht immer noch die Möglichkeit, dass sich die Prognosen über die tiefgreifenden Auswirkungen der neuen Technologie als falsch erweisen. Die Fähigkeiten in diesem Bereich könnten an eine gläserne Decke stoßen, die wir nicht vorhersehen können.

Doch selbst das bisher Erreichte wird jahrzehntelange kulturelle Verarbeitung erfordern, und selbst wenn nur ein kleiner Teil des Potenzials, das sich am Horizont abzeichnet, ausgeschöpft wird, steht die Menschheit am Rande der größten technologischen Entwicklung Umbruch in der Geschichte. Wir werden mit gestutzten Flügeln oder mit gottähnlichen Kräften, verrückt oder gestärkt daraus hervorgehen. Manche sagen, dass wir uns im wichtigsten Jahrhundert der Geschichte befinden. Die Entscheidungen, die in den kommenden Jahren getroffen werden, werden schicksalhaft sein und wir unternehmen unsere ersten Schritte auf Neuland.

Halten Sie sich fest.

Ido Hartogsohn, Ph.D., ist Assistenzprofessor im Graduiertenprogramm für Wissenschaft, Technologie und Gesellschaft an der Bar-Ilan-Universität