Dario Amodei, der CEO des 19 Milliarden Dollar schweren KI-Startups Anthropic, glaubt nicht, dass die Menschheit unmittelbar von sich entwickelnden künstlichen Intelligenzmodellen und -werkzeugen bedroht ist. Er hat jedoch ein Problem mit der Rechtfertigung, die einige seiner Kollegen verwenden, um die Risiken herunterzuspielen.
Amodei äußerte sich bei einer KI-Konferenz in San Francisco am Mittwoch kritisch gegenüber der Idee, dass KI-Modelle nur Chatbots mit begrenzten Fähigkeiten seien und immer sein werden. Insbesondere kritisierte er eine Version dieses Denkansatzes, die von Marc Andreessen, dem berühmten Risikokapitalgeber und Verfechter uneingeschränkter KI, vertreten wird. Andreessen hat Bedenken berühmt abgetan, indem er argumentierte, dass KI wirklich nur Mathematik sei. „Die Beschränkung von KI bedeutet die Beschränkung von Mathematik, Software und Chips“, twitterte Andreessen im März.
In Amodeis Sichtweise hält diese Logik nicht stand, denn alles in der Welt könne als Mathematik klassifiziert werden, sagte er. „Ist dein Gehirn nicht einfach Mathematik? Ein Neuron feuert und summiert Berechnungen, das ist auch Mathematik“, sagte er während der Cerebral Valley-Konferenz von Eric Newcomer am Mittwoch auf der Bühne. „Wir sollten uns vor Hitler nicht fürchten, es ist einfach Mathematik. Das ganze Universum ist Mathematik.“
Amodei, ein ehemaliger Vizepräsident von OpenAI, der 2021 ging, um das konkurrierende LLM-Unternehmen Anthropic zu gründen, gehört zu einer Gruppe von KI-Executives, die offen vor den potenziellen Risiken der Technologie warnen, von Rogue-Modellen bis hin zu böswilligen Akteuren. Der CEO unterstützt eine gewisse Regulierung der KI-Branche, und Anthropic hat sogar einen umstrittenen kalifornischen Gesetzesentwurf zu diesem Zweck unterstützt, der letztendlich abgelehnt wurde.
Andreessen, dessen Risikokapitalfirma Milliarden von Dollar in zahlreiche KI-Unternehmen investiert hat, darunter OpenAI und Elon Musks Xai, steht auf der anderen Seite: ein KI-„Boomer“, der eine ungehinderte Entwicklung der KI-Technologie durch einzelne Unternehmen fordert. „Die ‚Regulierung‘ von KI (Mathematik) ist die Grundlage eines neuen Totalitarismus“, schrieb der Risikokapitalgeber im letzten Jahr. Er nannte auch KI-Sicherheitskritiker oder Doomers „einen Kult“. Ein Vertreter von Andreessen lehnte es ab, auf Amodeis Kritik zu antworten.
Amodei räumte während der Konferenz ein, dass die KI-Modelle von heute „nicht klug genug… nicht autonom genug“ sind, um ernsthafte Risiken für Menschen darzustellen. Er wies jedoch darauf hin, dass die Technologie sich schnell entwickelt, mit KI-„Agenten“, die in der Lage sind, autonom im Auftrag eines menschlichen Befehls zu handeln. Wenn diese noch in den Kinderschuhen steckenden Werkzeuge in den Vordergrund treten, sagte Amodei, werde die Öffentlichkeit ein tieferes Verständnis dafür haben, wozu KI fähig ist und welche potenziellen Schäden entstehen können.
„Die Leute lachen heute, wenn Chatbots etwas leicht Unvorhersehbares sagen“, sagte Amodei. „Aber wir müssen einen besseren Job machen, die Agenten zu kontrollieren, als das.“
Sind Sie ein Mitarbeiter eines Technologieunternehmens oder jemand mit Einblick oder einem Tipp zum Teilen? Kontaktieren Sie Kali Hays sicher über Signal unter +1-949-280-0267 oder unter [email protected]. Wie viele Grade der Trennung trennen Sie von den mächtigsten Wirtschaftsführern der Welt? Erfahren Sie, wer es auf unsere brandneue Liste der 100 mächtigsten Menschen im Geschäft geschafft hat. Erfahren Sie außerdem, welche Metriken wir verwendet haben, um sie zu erstellen.