„
Dan Hendrycks, ein prominenter Befürworter für KI-Sicherheit und Berater von Elon Musks KI-Startup xAI, hat eine weitere Rolle bei Scale AI übernommen, einem aufstrebenden Unternehmen im Wert von 14 Milliarden US-Dollar.
Laut seinem LinkedIn-Profil ist er nun Berater des Unternehmens. Scale AI, das Daten für Unternehmenskunden kennzeichnet, um ihre KI-Modelle zu trainieren, hat nicht sofort auf eine Anfrage nach Kommentar reagiert.
Hendrycks äußerte sich zu seiner neuen Rolle: „Wir haben im letzten Jahr an Forschung gearbeitet und die Sicherheit und Fähigkeiten von Modellen bewertet“, sagte er. „Wie bei anderen Beraterrollen habe ich kein Eigenkapital. Diese Beraterrolle zahlt mir das 12-fache meines xAI-Rolls – nämlich 12 US-Dollar pro Jahr statt 1 US-Dollar.“
Die Aufnahme von Hendrycks als Berater gibt Scale AI jemanden mit Verbindungen in der KI-Branche. Es könnte dem Unternehmen auch helfen, seine Verbindungen zur Trump-Regierung zu stärken.
Scale AI hat bereits eine Verbindung durch Michael Kratsios, den ehemaligen Technologiechef in Trumps erster Regierung, der derzeit Managing Director des Unternehmens ist. Politico behauptete kürzlich, dass Kratsios während des Trump-Übergangs an Technologiepolitik arbeitet.
Unterdessen ist Hendrycks eng mit Musk verbunden, der Trump während seines Wahlkampfs unterstützte und seitdem zum Leiter eines neuen Ministeriums für Regierungseffizienz ernannt wurde. Hendrycks begann Musk 2023 bei der Gründung von xAI in Fragen der KI-Sicherheit zu beraten.
Als Gründer und Exekutivdirektor des gemeinnützigen Center for AI Safety ist Hendrycks ein führender Befürworter der potenziellen Gefahren von KI. Diese Risiken umfassen, dass böswillige Akteure Biowaffen entwickeln, gefährlichere Cyberangriffe und autonome KI-Agenten außer Kontrolle geraten.
Hendrycks sorgte diesen Sommer für Schlagzeilen, als er eine große Rolle bei der Ausarbeitung von Kaliforniens SB-1047 spielte. Das Gesetz sollte Sicherheits- und Regulierungsstandards für die Entwicklung und Bereitstellung fortschrittlicher KI festlegen.
Der Gesetzentwurf stieß jedoch auf heftigen Widerstand aus der Technologiebranche, darunter vom Milliardär-Investor Marc Andreessen und der KI-Pionierin Fei Fei Li, wegen seiner möglichen Innovationshemmung. Der kalifornische Senator Scott Wiener, der das Gesetz einbrachte, verglich die Debatte mit einer Feindschaft zwischen den „Jets und Sharks“.
Das Gesetz, das von der kalifornischen Staatsversammlung und dem Senat verabschiedet wurde, wurde im September letztendlich vom kalifornischen Gouverneur Gavin Newsom abgelehnt.
Während der Verhandlungen zu SB-1047 wurde Hendrycks kritisiert, weil er Investor bei Gray Swan AI war, einem Unternehmen, das sich auf die Entwicklung von Tools zur Prüfung von mit KI-Modellen verbundenen Risiken konzentriert. Kritiker warfen ihm einen Interessenkonflikt vor, da das Gesetz betroffene Unternehmen zur Verwendung von Prüfungstools verpflichten würde. Als Reaktion darauf postete Hendrycks auf X, dass er sich von Gray Swan trennen und seine Arbeit als unbezahlter Berater fortsetzen würde.
Wie viele Verbindungen haben Sie zu den mächtigsten Geschäftsführern der Welt? Erfahren Sie, wer es auf unsere brandneue Liste der 100 mächtigsten Personen im Geschäft geschafft hat. Außerdem erfahren Sie, welche Metriken wir zur Erstellung verwendet haben.“