„Wir müssen mit Maschinenintelligenz kollaborieren“ — der Freitag

Fragt man die KI Dall-E, worum es in dem Interview hier geht, erstellt sie dieses Bild

ist der ChatGPT obendrein, man kann ihn zum Beispiel bitten, im Stile von Karl Marx für alles Mögliche zu argumentieren. Ist das schlicht faszinierend – oder birgt es auch Gefahren? Wie sollten wir als Gesellschaft mit solchen technischen Revolutionen umgehen? Und was bedeutet das für die Universitäten? Nachgefragt bei Mercedes Bunz. Die Kulturwissenschaftlerin befasst sich seit vielen Jahren mit Digitalisierung und künstlicher Intelligenz.der Freitag: Frau Bunz, ChatGPT beschäftigt derzeit scheinbar alle. Ein typischer Internet-Hype?Mercedes Bunz: Die Aufregung ist angemessen. Es gibt jetzt zum ersten Mal ein Modell, das sinnvolle Texte generieren kann, die wir zum Teil nur schwer von Texten unterscheiden können, die Menschen geschrieben haben. Obwohl das vor allem für bestimmte Genres gilt.Nämlich welche?Es kommt immer darauf an, wie man das Modell trainiert hat. ChatGPT kann sehr gut Wikipedia-artige Fachtexte schreiben, wobei manche Fakten sehr solide klingen, aber halluziniert, also falsch sind. Es kann aber auch den Stil von Rappern oder Dichtern sehr gut nachahmen. Wenn meine Studenten am King’s College London einen Essay mithilfe dieses Tools generieren würden, könnte ich das nur sehr schwer unterscheiden. Der Text würde allerdings keine sehr gute Note bekommen, aber eine Drei wäre schon drin.Wird die Wissenschaft entwertet, wenn Maschinen akzeptable Uni-Essays schreiben können?Das glaube ich nicht. Man wird aber wahrscheinlich das Lernen umstellen müssen. In den Hausarbeiten der Kulturwissenschaften stellen wir derzeit zum Beispiel meist sehr große Fragen, um eine große Bandbreite an Antworten zu ermöglichen. Große Fragen kann ChatGPT leider sehr gut. Stattdessen könnten wir jetzt dann sehr spezifische Fragen stellen oder einen gerade erschienenen Text zur Diskussion stellen, den der Chatbot noch nicht kennt, also nicht zusammenfassen kann. Zu einer Koryphäe wie Foucault kann das Programm schon etwas schreiben, aber bei Texten von jungen, unbekannten WissenschaftlerInnen sieht das anders aus. Vielleicht führt das ja zu mehr Vielfalt an den Universitäten.Placeholder infobox-1Klingt verführerisch: Keine stupiden Zusammenfassung irgendwelcher Klassiker, stattdessen bleibt mehr Zeit für wirkliches Nachdenken.Wir sind gerade erst am Anfang, uns zu überlegen, wie man reagiert. Es gibt in der digitalen Welt immer mehr zu lesen und es wird immer mehr geschrieben, das ist eine Tatsache. Womöglich führt die aktuell hohe Anzahl an Veröffentlichungen nicht zu den Texten, die wir haben wollen, weil die Qualität darunter verständlicherweise leidet. Das gilt auch für Studenten: Wenn ich pro Semester zu viele Hausarbeiten schreiben muss, kann ich da nur eine bestimmte Tiefe generieren. Die Universitäten müssen sich hier überlegen, ob sie anders prüfen möchten. Man könnte mündlichen Prüfungen wieder mehr Bedeutung beimessen.Wird die exklusive Institution Universität demokratisiert, wenn mithilfe von Maschinen jeder Mensch oberflächlich schlaue Texte über Foucault schreiben kann – auch ohne ein bildungsbürgerliches Elternhaus im Rücken?Das stimmt in gewisser Weise, allerdings stellt man sich das mit der Demokratisierung immer ein bisschen leichter vor, als es tatsächlich ist. Auch für ChatGPT braucht man einen gewissen Wissenshorizont. Man muss zum Beispiel akademische Stichwörter oder einen bestimmten Sprachstil nutzen, damit der dann gespiegelt wird.Aber auch abseits akademischer Termini muss man lernen, Chatbots richtig zu füttern. Stellt das nicht eine gewisse Gleichheit her?Das stimmt. Ein neues Sprachinstrument bedeutet, dass wir alle lernen müssen, wie man es bedient. Da sitzen wir alle im gleichen Boot. Zum Glück macht es Spaß, verschiedene Stile mit auszuprobieren und zu gucken, was ChatGPT kann. Wir alle müssen lernen, wie man mit Maschinenintelligenz kollaboriert und die Maschine besser zum Schreiben bringen. Man kann sich das Schreibenlernen mit ChatGPT ungefähr so vorstellen, wie Fahrradfahren zu lernen. Bremsen, lenken, Kurven fahren – all das muss man ausprobieren.Bräuchte es dafür ein Schulfach?Auf jeden Fall. Bei der heutigen Digitalisierung gilt es, deren operative Logik zu verstehen. Das gilt zum Beispiel für Empfehlungsalgorithmen in den sozialen Medien, aber eben auch für den Umgang mit dem Sprachmodell, das ChatGPT zugrunde liegt. Leider verirren wir uns häufig noch in der Annahme, dass Computer streng logisch operieren, etwa weil sie Ergebnisse aus extrem große Datenmengen ziehen, und da deswegen mehr Wahrheit drinstecken könnte. Computer operieren streng logisch, aber auch sehr kleinteilig, und das heißt: Sie können streng logisch absolut in die falsche Richtung abbiegen. Die Erwartung, dass die Textproduktion, nur weil sie von einem Computer stammt, korrekt sein sollte, ist deshalb auch falsch. Das hat viele Gründe, nicht zuletzt die Tatsache, dass die Sprache ein wunderbar vieldeutiges Instrument ist, bei dem ein Computer nie richtig hinterherkommt.Früher hat man über die Ergebnisse von KI gelacht, weil die Ergebnisse kurios anmuteten. Jetzt sitzen wir in Kneipen und lachen, wenn wir uns die kreativen und lustigen Antworten von ChatGPT vorlesen. Das ist ja schon ein qualitativer Unterschied.Das Schöne ist, dass uns in den Ergebnissen von ChatGPT die kollektive Intelligenz und Kreativität der menschlichen Textproduktion begegnet. Im Endeffekt haben ja unsere Texte der Maschine das Schreiben beigebracht. Aus unseren Kreationen, aus Essays, Gedichten und Liedtexten, wird dann ein neuer Text statistisch errechnet. So gesehen ist diese Entwicklung dann auch nicht mehr so furchterregend.Scheinbar haben auch die Menschen weniger Scheu, sich damit auseinanderzusetzen. Nach gerade einmal fünf Tagen hatte ChatGPT bereits über eine Million Nutzer. Ist das genau der richtige Umgang?Absolut – je mehr Menschen ein Gefühl für Maschinenintelligenz bekommen, desto besser. Es ist unglaublich wichtig, dass alle Leute jetzt mit der Technologie rumspielen können. Wir sollten das alle mit in die Kneipe nehmen und uns gegenseitig vorlesen. Je spielerischer der Umgang damit ist und je mehr man sich damit auskennt, desto weniger fällt man auch auf maschinell produzierte Texte herein, wenn es mal drauf ankommt. Das führt dann hoffentlich auch dazu, dass wir von dem apokalyptischen Narrativ wegkommen, dass uns die KI irgendwann alle töten wird. Das lenkt uns ja gekonnt davon ab, uns damit auseinanderzusetzen, wie wir eigentlich wollen, dass digitale Technik Kultur und Gesellschaft verändert.Diese Angst, der künstlichen Intelligenz „ausgeliefert“ zu sein, kenne ich allerdings auch. Ist das der falsche Ansatz?Er ist verständlich. Die Kultur des Schreibens und des Lesens ist seit Jahrhunderten einer der wichtigsten Grundbausteine unserer Gesellschaft. Und wenn sich diese Kulturen verschieben, sind wir – auch völlig zu Recht – hellwach. Allerdings verschiebt sich die Schreibkultur schon seit Jahrtausenden: Schon bei Plato gibt es angesichts des Aufkommens der Schrift Beunruhigung darüber, dass jetzt die jungen Leute ihre Erfahrungen nicht mehr selbst sammeln müssen, sondern nur noch darüber lesen.Was sind die gängigen Fehler, wenn man über die künstliche Intelligenz spricht?Der Begriff „künstliche Intelligenz“. (lacht)Warum?Er suggeriert, dass es sich um eine artifizielle Intelligenz handelt, die genau so funktioniert wie unsere menschliche Intelligenz. Maschinenintelligenz funktioniert aber sehr anders. Sie funktioniert stochastisch – durch Berechnungen und Hochrechnung, die kleinste Teile wie Pixel auf digitalen Bildern zu Mustern und dann zu Formen verbinden. Das ist eine sehr andere Art von Intelligenz, und sie macht auch sehr andere Fehler als unsere menschliche Intelligenz.Macht es denn einen Unterschied, ob die künstliche Intelligenz irgendwann übernimmt, oder Maschinen?Das Tolle an der Technologie ist, dass sie kein Interesse hat. Interesse ist typisch für Leben, Maschinen muss man ein Ziel einprogrammieren. Die Idee, dass Maschinen sich gegen die Menschen richten, ist ein Albtraum, der mehr über Menschen aussagt als über Technik. Die Technik als den Gegner des Menschen zu begreifen, ist übrigens auch ein klassisch westliches Konstrukt, das es beispielsweise in Japan oder China so nicht gibt. Vielleicht gelingt es uns jetzt, die Technik ein bisschen mehr als eine Kultur begreifen, die man formen kann. Sie beeinflusst die Gesellschaft, wir können aber auch entscheiden, auf welche Weise.Trotzdem sind die Abwehrkämpfe gegen die Technik da. Hat das damit zu tun, dass es mit dem ChatGPT auch der Mittelschicht an den Kragen gehen könnte, die das überhaupt nicht einsieht?Das spielt bestimmt auch eine Rolle. Bestimmte Gruppen kennen die Sorge, von einer Maschine ersetzt zu werden, sicherlich noch nicht. Ich glaube aber ohnehin, das Wichtigere ist die Rolle des Schreibens in unserer Gesellschaft. Wir unterschreiben noch immer Dokumente, wir lernen über das Schreiben, wir schreiben E-Mails oder Liebesbriefe. Das ist einfach ein sehr großer Bestandteil unserer menschlichen Kultur. Und dass da jetzt etwas kommt, das das auch kann, und der nächste Liebesbrief vielleicht von ChatGPT kommt, ist natürlich ein Schocker.