Wir werden lernen müssen, mit Maschinen zu leben, die denken können.

Auf dem Weltwirtschaftsforum in Davos dominierten letzte Woche zwei Themen: Donald Trump und künstliche Intelligenz. Letzteres war das interessantere und wahrscheinlich bedeutendere Thema. Viel Aufmerksamkeit wurde der chinesischen Newcomer DeepSeek gewidmet. Doch wir haben lediglich gelernt, dass Wissen sich verbreitet: Kein Land wird diese neuen Technologien monopolisieren. Dies hat die Märkte überrascht. Mit neuen Technologien sind solche „Überraschungen“ jedoch nicht überraschend. Aber es ändert nicht die große Frage, was der Fortschritt in der maschinellen Intelligenz für uns alle bedeutet. (Siehe Diagramme.)

Menschen sind sowohl sozial als auch intelligent. Diese Kombination ist ihre „Killer-App“. Sie hat ihnen ermöglicht, den Planeten zu dominieren. Die menschliche Intelligenz hat die allgemeinen Technologien erfunden, die die Welt geprägt haben, angefangen bei der Beherrschung des Feuers bis hin zur Schaffung von Computern. Aber mit Computern, die denken, könnte sich das ändern. Blaise Pascal, der französische Mathematiker und Philosoph des 17. Jahrhunderts, sagte, dass „Der Mensch nur ein Schilfrohr ist, das schwächste Ding der Natur, aber er ist ein denkendes Schilfrohr.“ Geht diese Einzigartigkeit jetzt zu Ende?

In Davos nahm ich an zwei faszinierenden Diskussionen über die Chancen und Risiken des Fortschritts in der KI teil. Eine war ein Interview mit Sir Demis Hassabis, Mitbegründer von Google DeepMind und gemeinsamer Nobelpreisträger für Chemie, geführt von Roula Khalaf, Chefredakteurin der FT. Das andere war ein Interview mit Dario Amodei, Gründer und CEO von Anthropic und Autor von „Machines of Loving Grace“, geführt von Zanny Minton Beddoes, Chefredakteurin des Economist.

Das Interview mit Hassabis betonte die jüngsten Fortschritte in unserer Fähigkeit, wissenschaftliche Analysen durchzuführen, insbesondere in der Biologie. Mehr als 2 Millionen Forscher nutzen AlphaFold, sagte er, das Programm, das DeepMind entwickelt hat. „Wir haben alle Proteine bekannter Wissenschaft gefaltet, alle 200 Millionen… [D]ie Faustregel besagt, dass es einen Doktoranden ihr gesamtes Doktoratsstudium kosten würde, die Struktur eines Proteins zu finden. Also hätten 200 Millionen eine Milliarde Jahre Doktorandenzeit gekostet. Und wir haben das alles der Welt, kostenlos zur Verfügung gestellt.“ Das, erklärte er weiter, ist „Wissenschaft in digitaler Geschwindigkeit“. Die Möglichkeit, die sich uns nun bietet, ist also eine enorme Beschleunigung des medizinischen Fortschritts. Tatsächlich könnten wir die nächsten 50 bis 100 Jahre normalen Fortschritts in fünf bis zehn Jahren haben.

LESEN  CEO von Equitable Holdings verkauft Aktien im Wert von 1,55 Millionen US-Dollar durch Investing.com.

Im Großen und Ganzen argumentierte Amodei, dass wir uns KI als „ein Land von Genies in einem Rechenzentrum“ vorstellen können, das die Chinesen möglicherweise noch billiger gemacht haben als zuvor. Doch sind das wirklich Genies? Mein Test wäre, ob KI, wenn sie Kenntnisse über die Physik bis 1906, aber nichts danach hat, in der Lage wäre, Einsteins allgemeine Relativitätstheorie zu produzieren.

Es scheint plausibel, dass der Einfluss einer solchen Problemlösungskapazität, ob auf „Genie“-Niveau oder nicht, bemerkenswert sein sollte. Es könnte unter anderem Verbesserungen im Wissen, Produktivitätswachstum und der Verbreitung des Wohlstands beschleunigen. Beides ist erstrebenswert. In den letzten Jahrzehnten waren die Zuwächse in der „Gesamtfaktorproduktivität“ – dem besten Maß für technischen Fortschritt – bescheiden. Darüber hinaus leben immer noch enorme Zahlen in extremer Armut und deprimierenderweise hat sich der Fortschritt verlangsamt.

Doch es ist auch offensichtlich, dass beschleunigter Fortschritt auch Schwierigkeiten schaffen könnte. Die Struktur des Arbeitsmarktes könnte sich massiv verändern, zum Beispiel mit einem starken Rückgang der Nachfrage nach Arbeitnehmern, deren Kapital eine ausgebildete, aber weitgehend routinemäßige Intelligenz ist. Prognosen über solche Auswirkungen variieren. Ein Papier von Erik Brynjolfsson und Gabriel Unger aus dem Jahr 2023 weist darauf hin, dass, wie schon während der Computerrevolution, die Auswirkungen auf die Produktivität bescheiden sein könnten. Doch diesmal könnte es anders sein, mit sprunghaft steigender Produktivität, aber entsprechend großen und disruptiven wirtschaftlichen und sozialen Veränderungen. Je nachdem, wie die Gesellschaft reagiert, könnte erfolgreiche KI zu „Technofeudalismus“ führen, mit noch größeren Konzentrationen von Reichtum. Die Erfindung von unzähligen neuen Behandlungen könnte die Kosten im Gesundheitswesen erheblich erhöhen und auch die Kosten für den Umgang mit deutlich verlängerten Leben, auch wenn sie insgesamt gesündere sind. Sind die Menschen bereit, neben ihren Ururgroßeltern zu leben? So könnten scheinbar gute Dinge echte Herausforderungen schaffen.

LESEN  Die Milliardärsbrüder der EG Group bereiten sich auf einen 13-Milliarden-Dollar-Börsengang in den USA vor.

Jenseits dessen birgt die Entwicklung der anvisierten KI große Risiken. Wie kontrolliert man ihren Einsatz durch Schurkenakteure, einschließlich feindlicher Staaten, Terroristen und Massenmördern? Welche moralischen Urteile erlaubt man KI in Kriegen zu treffen? Wie kontrolliert man den Einsatz von KI in der Überwachung? Wird „Big Brother“ uns für immer beobachten? Und was tun wir gegen die Herstellung von Fälschungen und Fake News? Wie überlebt die Freiheit all diese Bedrohungen?

Hassabis ist der Meinung, dass wir effektive globale Grenzen für den Einsatz von KI benötigen. In einem Zeitalter gebrochener internationaler Zusammenarbeit und Verachtung für die Idee einer „regelbasierten internationalen Ordnung“ werden China und die USA zusammenarbeiten, um KI sicher zu machen? Es scheint unwahrscheinlich, nicht zuletzt, weil sie unterschiedliche Ansichten darüber haben, wie solche Technologien eingesetzt werden sollten.

Zurück im Jahr 2015 schrieb ich einen allgemein skeptischen Artikel über den (bescheidenen) wahrscheinlichen Einfluss neuer Technologien auf die Produktivität. Die nächsten Jahre könnten mich endlich widerlegen. Doch ich wies auch darauf hin, dass, wenn wir uns stattdessen dem „Singularity“ nähern würden – künstliche Intelligenz, die alle menschliche Intelligenz übertrifft – sich alles ändern müsste.

Eine der großartigen Ideen in Frank Herberts Dune-Serie ist, dass die Menschheit in der fernen Vergangenheit (unserer Zukunft) einen erfolgreichen Dschihad gegen Maschinen geführt hat, die denken. Danach mussten die Menschen zu Übermenschen werden. Ein führender Charakter erklärt: „Die Menschen hatten diese Maschinen dazu bestimmt, unser Gefühl für Schönheit, unsere notwendige Selbstbestimmung, aus der heraus wir lebenswichtige Urteile fällen, zu usurpieren. Natürlich wurden die Maschinen zerstört.“

Diese Sorge könnte sich als weise erweisen. Aber ich bin realistisch: KI ist aus der Büchse der Pandora entkommen.

LESEN  50 Dinge, die Sie im Winter auf Ihre Bucket-Liste setzen können

martin.wolf@ft.com

Folgen Sie Martin Wolf mit myFT und auf Twitter

Hello! How can I assist you today?