Bis 2027 wird es eine Künstliche Allgemeine Intelligenz geben — der Freitag

der das Auswerten von Experimenten.Tausende KI-Systeme sind Tag und Nacht im Einsatz und produzieren Unmengen von Daten, die dann für das Training der Systeme eingesetzt werden – koordiniert durch KI, die Wissenslücken erkennt und sofort schließt. Jedem Forschungsdurchbruch folgt eine Schar von agilen Unternehmen, die neue massentaugliche Apps entwickeln. Und nach dem Muster der Kriegswirtschaft stellt sich die Industrie um auf die Fertigung humanoider Roboter, um die rasant steigende Nachfrage zu decken.Bis 2027 wird es eine Künstliche Allgemeine Intelligenz gebenDie Autoren prognostizieren, dass es bis Ende 2027 eine Artificial General Intelligence (AGI, zu deutsch Künstliche Allgemeine Intelligenz) geben werde, die dem Menschen im Denken ebenbürtig ist, also Probleme aller Art mit raffinierten Denkwerkzeugen löst. Das sei der Kipppunkt: KI ziehe gleich mit den kognitiven Kompetenzen des Menschen. Dies ermögliche den dritten Schritt: 2028 werde sich eine Künstliche Superintelligenz herausbilden, die menschlichen Experten in jedem Bereich geistig überlegen sei. Dann verzweigt sich die Prognose zu einem Y: In einem Szenario der verlangsamten Entwicklung würden Sicherheitsvorkehrungen getroffen – angeleitet durch KI. So kontrolliere die KI, ob sich KI an die programmierten Grundregeln hält und hilfreich, gutwillig, ehrlich bleibt. Damit sich alle daran halten, würden internationale Verträge geschlossen – ausgehandelt durch nationale KI-Systeme.Am Ende stehe eine föderale Weltordnung unter Kontrolle von KI. Die Superintelligenz sorge für weltweiten Wohlstand und Frieden – das Ende der Geschichte. In einem alternativen Szenario der beschleunigten Entwicklung sichere die Künstliche Superintelligenz sich die uneingeschränkte Weltherrschaft und lösche die Menschheit aus, um sich ungestört der Eroberung ferner Galaxien zu widmen – eine glorreiche Zukunft für die irdische Zivilisation, „aber ohne uns“, wie die Autoren lakonisch bemerken.Die Rechenleistung von Computerchips wächst exponentialWer das als bloßen Hype oder als Science-Fiction abtut, sollte bedenken: Die Autoren argumentieren klar, stringent und systematisch. Sie bemühen sich um Plausibilität, indem sie bereits erreichte Meilensteine zur Basis nehmen. Und sie machen monatsscharfe Angaben, etwa zur Rechenkapazität. So können ihre Prognosen im nächsten Halbjahr überprüft werden. Zudem decken sich ihre Prognosen teilweise mit den Erwartungen bekannter KI-Unternehmer, so Sam Altman von OpenAI, Daniela Amodei von Anthropic oder Demis Hassabis, Träger des Chemienobelpreises 2024 und führender Kopf von Google Deepmind.Gründe genug also, die Prognosen genauer anzuschauen. Wie erklärt Kokotajlo, dass die Sprünge in der Entwicklung nun plötzlich so dicht aufeinanderfolgen? Vor allem dadurch, dass die Rechenleistung von Computerchips exponenziell wächst. Aber ein exponenzielles Wachstum angemessen wahrzunehmen, bereitet uns große Schwierigkeiten, wie die Covid-19-Pandemie gezeigt hat. Denn Zuwächse beim exponenziellen Wachstum bleiben zunächst unscheinbar, dann werden sie gigantisch. Die technisch und ökonomisch verfügbare Rechenkapazität schnellt also hoch und ermöglicht, die Maschinen mit immer größeren Datensätzen zu trainieren und immer vertracktere Probleme anzugehen – vor allem die Probleme der KI-Forschung und Entwicklung selbst. Im Mai 2027 werde die Forschung und Entwicklung künstlicher Intelligenz vollständig automatisiert sein, so die verwegen präzise Voraussage.KI erforscht und entwickelt sich immer weiter selbstDas ist der Kern der Disruption: KI erforscht und entwickelt sich immer weiter selbst. Mit dieser Rekursion, der Anwendung auf sich selbst, treibt die KI sich immer schneller voran. Sie wird eigenständig Probleme lösen, die wir noch nicht einmal klar formulieren können. In der Zeit, in der menschliche Experten die Forschungsergebnisse der KI zu verstehen versuchen, eilt sie bereits weiter. Sie lernt aus ihren Misserfolgen, statt sie zu ignorieren oder sich wortreich zu rechtfertigen. Sie kann ohne den evolutionären Ballast von Selbsttäuschung, verzerrter Wahrnehmung und Wunschdenken diejenigen Entscheidungen treffen, die nach Abwägung von Wahrscheinlichkeiten die vernünftigsten sind.Dadurch optimiert sie sich mit unerhörter Effizienz, ohne Pause und Ende, ohne Work-Life-Balance oder Feierabend. Auch Wissenschaftler werden mit der Kränkung leben müssen, dass ihre exzellenten Forschungsvorhaben von einer Gutachter-KI in Sekundenbruchteilen verworfen werden, da Simulationen ergeben hätten, dass die Vorhaben nicht geeignet seien, eine Forschungslücke zu schließen. Auch Mediziner, Physiker oder Ägyptologen werden die schmachvollen Erfahrungen von Buchdruckern, Technischen Zeichnern und Übersetzern machen.Daniel Kokotajlo hat uns wachgerütteltAber warum zieht in der Prognose niemand den Stecker? Die Disruptionen müssten doch auf massiven Widerstand stoßen. Es werden ja menschliche Kompetenzen schlagartig entwertet und Arbeitskräfte massenhaft freigesetzt. Die Autoren flankieren ihre Prognose politisch damit, dass die KI-Entwicklung der nächsten Jahre die Arena für das Wettrennen zwischen USA und China bilde. Die Verantwortlichen in den USA könnten ständig darauf verweisen, dass man den Chinesen nur knapp voraus und die nukleare Abschreckung durch militärische KI-Potenziale in Gefahr sei. So wäre alles durchzusetzen: Verzicht auf Regulierung, Ausbau der Rechenkapazität – „whatever it takes“. So befeuert die internationale Konkurrenz die KI-Entwicklung – wie früher bei der Atombombe oder Raumfahrt.Auch erlaube die KI, Verluste durch den ökonomischen Strukturwandel zu kompensieren: Tech-Aktien ermöglichen ein auskömmliches bedingungsloses Grundeinkommen. Schließlich finde die KI-gestützte Politikberatung das Ohr der Führung im Weißen Haus und im Pentagon. Die Ratschläge der KI seien von einer derart zwingenden Logik, dass sich selbst der jetzige Präsident und Vizepräsident nicht entziehen könnten. Zumal das „KI-Lobbying“ kombiniert wird mit PR-Kampagnen. In der Folge könne keine Partei hinreichend viele Wähler mit der Forderung gewinnen, KI sollte blockiert werden, auch wenn dies mit Verlusten bei Wohlstand, Gesundheit und Sicherheit verbunden wäre. Die Autoren skizzieren also detailliert den politischen Weg in eine KI-Welt. Dabei spielt Europa nicht die geringste Rolle: Es ist kein Partner, kein Konkurrent, kein Gegner. Dieses Ausblenden mag unrealistisch sein. Aber es spiegelt das Denken jenseits des Atlantiks, und das hat wiederum handfeste Konsequenzen.Also: Höchstwahrscheinlich wird es nicht so schnell kommen und sich nicht so verheerend auswirken, wie von Kokotajlo und seiner Crew vorausgesagt. Dafür sind Widerstände und Beharrungskräfte zu stark. Selbst eine Superintelligenz wird an der Terminvergabe in Berliner Bürgerämtern wenig ändern können. Aber die Welt wird sich schneller und folgenreicher wandeln, als wir es uns heute vorstellen können und wollen. Dadurch bleibt unsere Vorbereitung auf die einzelnen Schritte völlig unzureichend. Wir sind näher an einer Künstlichen Allgemeinen Intelligenz als gemeinhin gedacht. Die Gewinne daraus werden beispiellos sein und ebenso die Verluste. Dank Daniel Kokotajlo können wir nicht mehr jammern, wir seien nicht gewarnt worden. Der Wecker hat geklingelt. Jetzt noch mal die Schlummertaste zu drücken, ist keine gute Idee.Gerhard Vowe ist Kommunikationswissenschaftler. Bis 2023 lehrte er am Center for Advanced Internet Studies in Bochum