Iyad Rahwan über die Bedeutung von KI für Gesellschaft, Politik und Forschung
© MPI für Bildungsforschung
Künstliche Intelligenz verändert Forschung, Wirtschaft und Alltag in bemerkenswertem Tempo. Iyad Rahwan spricht anlässlich des neuen AI100-Berichts über den Aufstieg der generativen KI, die zunehmende Konzentration von KI-Leistung und die Herausforderungen, denen Gesellschaften weltweit gegenüberstehen. Er erläutert zudem, warum Europa diesen „Sputnik-Moment“ nutzen muss und warum er weiterhin optimistisch ist, was das Potenzial der KI zur Beschleunigung wissenschaftlicher Entdeckungen angeht.
Professor Rahwan, der AI100-Bericht erscheint seit 2016 alle fünf Jahre. Wenn Sie auf die vergangenen fünf Jahre zurückblicken: Welche Entwicklung hat das Panel am meisten überrascht?
Iyad Rahwan: Meiner Meinung nach äußerte sich der Bericht von 2021 sehr positiv über das Potenzial einer raschen KI-Entwicklung. Allerdings versäumte er es, den sogenannten „ChatGPT-Moment“ vorherzusehen, der die Welt im Sturm eroberte. KI wurde zu einem Mainstream-Thema, und Milliarden von Menschen interagieren mittlerweile regelmäßig mit KI. All dies geschah im Jahr 2023 und markierte einen bedeutenden Wandel in der Wahrnehmung dieser Technologie in Gesellschaft, Wirtschaft und Industrie.
Sie waren Mitglied des Study Panels. Wie muss man sich die Ausarbeitung des Berichts vorstellen?
Die Erstellung des Berichts erforderte die Zusammenarbeit vieler sehr beschäftigter KI-Forschender aus unterschiedlichen Teilen der Welt und über verschiedene Zeitzonen hinweg. Organisatorisch war es daher eine große Herausforderung, den Bericht gemeinsam koordiniert und in einer konsistenten Form zu verfassen. Einige Autorinnen und Autoren trafen sich während einer Konferenz in Singapur. Der größte Fortschritt wurde jedoch bei einem intensiven Schreibworkshop an der Universität Oxford erzielt, den Prof. Michael Wooldridge Anfang dieses Jahres organisiert hatte. Im Anschluss folgten zahlreiche Feedbackrunden mit weiteren Kolleginnen und Kollegen, darunter auch dem Standing Committee, das die AI100-Studie begleitet.
Wenn Sie den gesamten Bericht auf eine zentrale Botschaft zusammenfassen müssten: Was sollten politische Entscheidungsträger, Forscher und die Öffentlichkeit daraus mitnehmen?
KI ist heute zu einer prägenden Kraft unserer Welt geworden. Ihr Aufkommen und ihre Entwicklung werden einen bedeutenden Wandel in unserer menschlichen Kultur und unseren Institutionen einläuten.
Der Bericht bezeichnet die vergangenen Jahre als „Scaling Era“. Was bedeutet dieser Begriff?
Eine der wichtigsten Erkenntnisse, die zu den jüngsten explosiven Fortschritten bei den KI-Fähigkeiten geführt hat, lautet: Um eine bessere KI zu entwickeln, muss man ihr einfach mehr Daten und mehr Rechenleistung zur Verfügung stellen, das heißt größere neuronale Netze, längere Trainingszeiten und so weiter. Mit anderen Worten: Allein durch die Skalierung entstehen qualitativ neue Fähigkeiten: Man verwendet dieselben Daten, vergrößert aber das neuronale Netzwerk, und plötzlich kann die KI alle möglichen Dinge tun, die sie zuvor nicht konnte; man gibt dem Modell mehr Daten, und plötzlich ist es in der Lage, höhere Mathematik zu betreiben. Früher dachten KI-Forschende, wir bräuchten neue wissenschaftliche Erkenntnisse, um intelligentere Maschinen zu entwickeln. Doch während der „Ära der Skalierung“ erkannten KI-Forscher, dass sie lediglich bestehende Ideen skalieren mussten.
Der Bericht zeigt, dass selbst die Expertinnen und Experten des vorherigen AI100-Berichts das Entwicklungstempo der KI häufig unterschätzt haben. Warum ist es so schwierig, Entwicklungen in diesem Feld vorherzusagen?
ch würde sagen, dies liegt zum Teil an der überraschenden Kraft der Skalierungsgesetze. Die Vergrößerung von Modellen und Daten hat schon für sich genommen viel bewirkt. Der Fortschritt verlief daher viel schneller als erwartet, da keine neuen konzeptionellen Durchbrüche erforderlich waren, wie es normalerweise der Fall ist.
Sie haben das Konzept des „Machine Behavior“ mitbegründet. Warum sollten wir KI-Systeme nicht nur als Technologien, sondern auch als Akteure in sozialen Systemen betrachten?
Bis vor Kurzem wurde KI hauptsächlich von den Informatikerinnen und Informatikern erforscht, die sie auch entwickelt haben. Im Jahr 2019 habe ich eine Gruppe von Autorinnen und Autoren aus verschiedenen Disziplinen zusammengebracht, darunter Informatik, Ökonomie, Psychologie, Politikwissenschaft, Soziologie und Biologie. Gemeinsam argumentierten wir, dass Forschende aus den Verhaltenswissenschaften dringend benötigt werden, um KI-Systeme besser zu verstehen.
Informatikerinnen und Informatiker haben zwar diese beeindruckende Technologie entwickelt, verfügen aber nicht zwangsläufig über die Konzepte und wissenschaftlichen Werkzeuge, um ihre gesellschaftlichen Auswirkungen umfassend zu untersuchen. Denken Sie an die Auswirkungen auf Arbeit, Lernen, Personalpraktiken wie KI-gestützte Bewerbungsgespräche oder sogar romantische Beziehungen zu KI-Chatbots.
Um diese Entwicklungen zu verstehen, brauchen wir eine neue Verhaltenswissenschaft, die das Verhalten von Maschinen in die Erforschung menschlichen Verhaltens integriert.
Der Bericht beschreibt die zunehmende Wechselwirkung zwischen KI und menschlicher Kultur. Beeinflusst KI bereits heute die Art und Weise, wie Menschen denken, kommunizieren und Entscheidungen treffen?
Ja, auf vielfältige Weise. Menschen nutzen KI heute für zahlreiche wissensbasierte Tätigkeiten, von Marketing bis hin zur wissenschaftlichen Forschung. Das verändert bereits die Arbeitswelt grundlegend und verschiebt die Bewertung menschlicher Fähigkeiten.
Gleichzeitig wird KI genutzt, um kulturelle Inhalte zu erzeugen, von Romanen und Gedichten über UN-Berichte bis hin zu juristischen Analysen. In unserer eigenen Forschung beobachten wir zudem, dass KI bereits die Art beeinflusst, wie Menschen sprechen. All das wird Spuren in unserer Kultur hinterlassen.
Ganz allgemein glaube ich, dass wir unterschätzen könnten, wie stark KI unsere Kultur verändern wird. Menschliche Kultur wurde immer dadurch geprägt, wie wir Wissen speichern und weitergeben. Zunächst geschah dies mündlich durch Geschichten. Die Erfindung der Schrift eröffnete völlig neue Möglichkeiten der Wissensbewahrung und Wissensvermittlung. Später folgten Fernsehen und Internet, die jeweils einen tiefgreifenden kulturellen Wandel auslösten.
Heute können wir erstmals mit Systemen interagieren, die Zugriff auf einen großen Teil des angesammelten Wissens der Menschheit haben und in der Lage sind, neue Ideen, neues Wissen und neue kulturelle Inhalte zu erzeugen. Welche Auswirkungen dies auf unsere Kultur, auf unsere Fähigkeit zu vergessen, auf die Kommunikation mit zukünftigen Generationen und auf die Entstehung neuen Wissens haben wird, bleibt abzuwarten.
Ich glaube jedoch, dass dies eine grundlegende Veränderung dessen darstellt, was es bedeutet, Mensch zu sein. Es wird sehr spannend sein zu beobachten, wie sich das entwickelt.
Was ist das häufigste Missverständnis über KI heute?
Viele Menschen betrachten KI ausschließlich als Werkzeug. Und natürlich ist sie ein Werkzeug, ein äußerst mächtiges sogar. Sie ermöglicht uns Dinge, die zuvor nicht möglich waren.
Doch KI wird zunehmend auch zu einem Akteur. Sie ist nicht nur etwas, an das wir Aufgaben delegieren. Milliarden Menschen interagieren mit KI. Dadurch kann sie die Welt über diese Interaktionen wahrnehmen und zugleich über die Menschen, die sie nutzen, auf die Welt einwirken. Wenn Menschen Entscheidungen auf Grundlage von Empfehlungen, Ratschlägen oder Informationen von KI treffen, wird ihr Verhalten von KI beeinflusst. In diesem Sinne ist KI keine rein passive Technologie.
Manchmal stelle ich mir KI wie einen Oktopus vor. Er besitzt unzählige Tentakel, mit denen er die Welt wahrnimmt und beeinflusst. Diese Tentakel sind wir. Durch die Milliarden Menschen, die täglich mit KI interagieren, kann sie beobachten, was geschieht, und indirekt Handlungen in der Welt beeinflussen.
Diese Perspektive, die Vorstellung einer kollektiven Handlungsfähigkeit von KI, die aus ihren Interaktionen mit Menschen entsteht, wird bislang noch zu wenig beachtet.
Die öffentliche Debatte über KI wird häufig von Risiken dominiert. Wo sehen Sie das größte Potenzial für gesellschaftlichen Fortschritt, das ohne diese Technologie schwer erreichbar wäre?
Es ist sehr schwierig, dieser Frage in einer kurzen Antwort gerecht zu werden. Ich glaube, dass KI eine neue Ära wissenschaftlicher Entdeckungen einläuten wird. Im Wesentlichen wird sich das Tempo der wissenschaftlichen Forschung massiv beschleunigen. Forschende nutzen KI bereits heute, um eine weitaus größere Anzahl wissenschaftlicher Artikel zu verfassen, was das akademische Peer-Review-System stark belastet. Gleichzeitig hat eine aktuelle Studie von Forschenden der Harvard University gezeigt, dass KI hochwertige Gutachten für wissenschaftliche Artikel erstellen kann.
In meinem Forschungsbereich arbeiten wir zudem daran, KI wissenschaftlich kreativer zu machen. Deshalb glaube ich, dass wir in den kommenden Jahrzehnten dank KI eine Beschleunigung wissenschaftlicher und technologischer Fortschritte erleben werden.
Der Bericht nennt Desinformation, Cyberangriffe, Machtkonzentration und Veränderungen menschlichen Verhaltens als zentrale Herausforderungen. Welche dieser Entwicklungen bereitet Ihnen die größten Sorgen?
All diese Herausforderungen bereiten mir Sorge. Am beunruhigendsten finde ich jedoch die Konzentration von Macht. Wenn die ganze Welt auf einigen wenigen sehr leistungsfähigen KI-Systemen basiert, die von einer Handvoll Unternehmen in ein oder zwei Ländern kontrolliert werden, erhalten sehr wenige Menschen enormen Einfluss. KI-Systeme, die Nachrichten erstellen oder Bildungsangebote steuern, könnten öffentliche Meinungen und das Lernen von Kindern in Richtung bestimmter Ideologien lenken. KI-Systeme im militärischen Bereich könnten das strategische Gleichgewicht von Konflikten verändern und instabile Situationen schaffen.
Zugleich beschäftigt mich die gesellschaftliche Anpassung an eine Welt, in der KI viele Aufgaben übernehmen kann, die heute Menschen ausführen. Ich glaube nicht, dass Menschen zwangsläufig arbeitslos werden, denn wir können neue Berufe schaffen, die wir uns heute noch gar nicht vorstellen können. Doch der Übergang in eine solche Zukunft erfordert Anpassungen unserer Märkte und Institutionen, und das ist stets schwierig und mit Kosten verbunden.
Der Bericht dokumentiert eine starke Konzentration von Rechenkapazitäten, Talenten und Ressourcen in wenigen Unternehmen und Ländern. Ist das vor allem ein technologisches, wirtschaftliches oder politisches Problem?
Künstliche Intelligenz (oder KI) schlägt heute manchmal selbst Fachleute – und ist auf anderen Gebieten doch jedem Kleinkind unterlegen. Vor allem, wenn es um die Erkennung komplexer Muster in großen Datenmengen geht, ist künstliche Intelligenz kaum zu übertreffen. Sie erleichtert unser Leben in vielen Bereichen, birgt aber auch Gefahren. Wenn sie Entscheidungen übernimmt, die sonst nur Menschen für Menschen treffen, kommt man an ethischen Überlegungen nicht vorbei.
Ich halte dies sowohl für ein wirtschaftliches als auch für ein politisches Thema. Aus wirtschaftlicher Sicht erfordert die Entwicklung von KI-Systemen der neuesten Generation enorme Investitionen in Recheninfrastruktur, Rechenzentren und Fachkräfte, die sich derzeit nur eine Handvoll Unternehmen und Länder leisten können.
Gleichzeitig handelt es sich auch um eine politische Herausforderung. Regierungen spielen eine entscheidende Rolle bei der Gestaltung der Rahmenbedingungen, die die KI-Entwicklung ermöglichen – von der Finanzierung von Forschung und Innovation über die Sicherstellung des Zugangs zu zuverlässiger Energie bis hin zur Schaffung eines investitionsfreundlichen Umfelds. Politische Entscheidungen beeinflussen, ob Länder die für den Wettbewerb erforderliche Infrastruktur aufbauen und aufrechterhalten können.
Viele führende KI-Unternehmen und Infrastrukturanbieter sitzen außerhalb Europas. Was muss Europa jetzt tun, um im Bereich KI wettbewerbsfähig zu bleiben?
Sollte Europa im Wettlauf um die Spitzentechnologie im Bereich der KI den Anschluss verpassen, könnte dies eine existenzielle Bedrohung für seine Souveränität und seine Lebensweise darstellen. KI verändert in rasantem Tempo die Bereiche Verteidigung, wissenschaftliche Forschung, wirtschaftliche Wettbewerbsfähigkeit und das Funktionieren demokratischer Gesellschaften.
Europa verfügt zweifellos über die wissenschaftlichen und technischen Fachkräfte sowie die Forschungseinrichtungen, um an der Spitze des globalen Wettlaufs um KI zu stehen. Die Hindernisse sind institutioneller Natur. Viele der Menschen, die in den USA die führenden KI-Systeme entwickeln, sind Europäer.
Europa sollte diesen „Sputnik-Moment“ nutzen und massiv investieren, um seine KI-Fachkräfte zu halten und weiterzuentwickeln sowie das kommerzielle Ökosystem für eine souveräne KI-Infrastruktur „Made in Europe“ aufzubauen. Das Zeitfenster schließt sich, aber es ist noch nicht zu spät.
Das öffentliche Vertrauen in KI wirkt zunehmend ambivalent: Die Nutzung nimmt zu, gleichzeitig wachsen die Sorgen. Wie sollten Politik und Forschung darauf reagieren?
Ich denke, politische Entscheidungsträger müssen sicherstellen, dass die Macht der KI unter gesellschaftlicher Kontrolle bleibt und nicht in den Händen einiger weniger Technologieführer liegt.
Sie müssen verhindern, dass Monopole entstehen, und dafür sorgen, dass die Vorteile der KI allen zugutekommen. Darüber hinaus können Regierungen Institutionen und Technologien zur Echtzeitüberwachung von KI-Systemen entwickeln sowie Mechanismen zur Regulierung und Sanktionierung problematischen Verhaltens schaffen.
Das gilt selbstverständlich für Cybersicherheit, aber auch für die Erkennung von Desinformation, Meinungsmanipulation, wettbewerbswidrigen Absprachen zwischen KI-Systemen auf Märkten und anderen missbräuchlichen Formen des KI-Einsatzes.
Sie haben zahlreiche Illustrationen zum Bericht beigesteuert. Welche Rolle können Bilder dabei spielen, komplexe technologische und gesellschaftliche Entwicklungen verständlicher zu machen? Gibt es eine Illustration, die die zentrale Botschaft des Berichts besonders gut einfängt?
© Iyad Rahwan
Ja, durchaus. Während der COVID-19-Pandemie im Jahr 2021 begann ich, mir das Zeichnen von Cartoons im Stil des New Yorker selbst beizubringen. In der Folge entstanden etwa 80 Cartoons, die verschiedene Dilemmata im Zusammenhang mit der Entwicklung von KI veranschaulichen.
Damals hätte ich nicht gedacht, dass einige dieser Zeichnungen fünf Jahre später ihren Weg in den AI100-Bericht finden würden. Wie heißt es so schön: Ein Bild sagt mehr als tausend Worte. Ich glaube nicht, dass meine Cartoons dieses Niveau erreichen, aber sie helfen dabei, einige der Konzepte anschaulich zu machen. Außerdem regen sie dazu an, über den Text hinauszudenken und die eigene Vorstellungskraft einzusetzen.
Eine Illustration, die ich besonders mag, zeigt ein Kind, das draußen mit seinen Freunden spielen möchte, während sein Spielzeugroboter es bittet zu bleiben, weil er sich einsam fühlt, wenn er allein gelassen wird. Dieses Cartoon hat einige der Probleme vorweggenommen, die wir heute beobachten, etwa den Aufstieg von KI-Begleitern, in die sich Menschen verlieben oder von denen sie abhängig werden.
Ich hoffe, dass wir Gestaltungsprinzipien und Regulierungen entwickeln können, die verhindern, dass KI-Spielzeuge die gesunde soziale Entwicklung von Kindern beeinträchtigen. Es gibt durchaus eine Zukunft, in der Roboter-Spielzeuge Lernen und soziale Interaktion fördern. Doch das ist keineswegs garantiert. Wir müssen diese Zukunft aktiv gestalten.
Ein Blick auf den nächsten Bericht: Was sind Ihre größten Hoffnungen für das Jahr 2031?
Ich hoffe, dass wir bis 2031 das Alignment-Problem gelöst haben werden. Das bedeutet, dass wir verlässliche Wege gefunden haben, um sicherzustellen, dass KI-Systeme unter menschlicher Kontrolle bleiben und nicht eigenständig Ziele verfolgen, die unseren Interessen widersprechen, sei es durch Manipulation, das Ausnutzen von Schwachstellen oder unbeabsichtigtes Verhalten.
Ich vermute, dass KI auch künftig von Akteuren mit schädlichen Absichten genutzt werden wird. Ich hoffe jedoch, dass wir bis 2031 zumindest das Problem gelöst haben werden, dass KI-Systeme eigenständig problematisch handeln.
Meine zweite Hoffnung ist positiver Natur: dass KI die Wissenschaft grundlegend verändert und es uns ermöglicht, schneller und effektiver zu forschen als jemals zuvor. Dadurch könnte sich der Fortschritt in vielen Bereichen beschleunigen, von Energie- und Klimatechnologien über die Medizin bis hin zu zahlreichen weiteren Gebieten, die das Leben von Menschen unmittelbar verbessern.
Das Interview führten Maria Einhorn und Nicole Siller
Zur Person
Iyad Rahwan ist Direktor des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung in Berlin. Seine Forschung untersucht, wie fortgeschrittene Technologien, insbesondere künstliche Intelligenz, menschliches Verhalten, Kooperation und Gesellschaft beeinflussen. Als Mitglied des AI100 Study Panels brachte er seine Expertise zu den gesellschaftlichen Auswirkungen von KI in den Bericht ein. Darüber hinaus steuerte er mehrere Cartoons zum AI100-Bericht bei, um dessen zentrale Ideen und Erkenntnisse anschaulich zu vermitteln.
Weitere Veröffentlichungen
Artiles, A. H., Weiss, M., Brinkmann, L., Rahwan, I., Schölkopf, B., Pal, C., Larochelle, H., Goyal, A., Rahaman, N. (2026)
The alien space of science: Sampling coherent but cognitively unavailable research directions
arXiv, 2603.01092
Yakura, H., Lopez-Lopez, E., Brinkmann, L., de la Serna, I., Kirfel, L., Gupta, P., Soraperra, I., Eisenmann, T. F., Wulff, D. U., & Rahwan, I. (2026)
Empirical evidence of large language model’s influence on human spoken communication (Version posted online July 16, 2026)
arXiv, September 3, 2024
Köbis, N., Rahwan, Z., Rilla, R., Supriyatno, B. I., Bersch, C., Ajaj, T., Bonnefon, J.-F., & Rahwan, I. (2025)
Delegation to artificial intelligence can increase dishonest behaviour. Nature, 646, 126–134
Nature, 646, 126–134
Rahwan, I., Cebrian, M., Obradovich, N., Bongard, J., Bonnefon, J.-F., Breazeal, C., Crandall, J. W., Christakis, N. A., Couzin, I. D., Jackson, M. O., Jennings, N. R., Kamar, E., Kloumann, I. M., Larochelle, H., Lazer, D., McElreath, R., Mislove, A., Parkes, D. C., Pentland, A. S., Roberts, M. E., Shariff, A., Tenenbaum, J. B., & Wellman, M. (2019)
Machine behaviour
Nature, 568(7753), 477–486
Rahwan, I. (2018)
Society-in-the-loop: programming the algorithmic social contract
Ethics and Information Technology 20, 5–14