„
Hallo und herzlich willkommen bei Eye on AI! In diesem Newsletter… Enttäuschung über Intels Gaudi… Prime Video setzt auf KI… Neueinstellungen bei OpenAI und Anthropic… Schlaf zahlt sich aus… und Rückschläge im Bereich Atomkraft.
Meta möchte die US-Regierung dazu bringen, seine KI zu nutzen – auch das Militär.
Das Unternehmen gab gestern bekannt, dass es eine Vielzahl von Partnern für diese Bemühungen gewonnen hat, darunter Beratungsunternehmen wie Accenture und Deloitte, Cloud-Anbieter wie Microsoft und Oracle sowie Rüstungsunternehmen wie Lockheed Martin und Palantir.
Politikchef Nick Clegg schrieb in einem Blogbeitrag, dass Oracle Meta’s Llama KI-Modell anpasst, um „Wartungsdokumente für Flugzeuge zu synthetisieren, damit Techniker Probleme schneller und genauer diagnostizieren können“, während Lockheed Martin es für die Codegenerierung und Datenanalyse verwendet. Scale AI, ein Rüstungsunternehmen, das zufällig Meta zu seinen Investoren zählt, „feilt Llama daraufhin, spezifische Missionen des nationalen Sicherheitsteams zu unterstützen, wie z.B. die Planung von Operationen und die Identifizierung von Schwachstellen der Gegner“.
„Als amerikanisches Unternehmen, das seinen Erfolg nicht zuletzt dem unternehmerischen Geist und den demokratischen Werten verdankt, die die Vereinigten Staaten hochhalten, möchte Meta seinen Beitrag dazu leisten, die Sicherheit, den Schutz und den wirtschaftlichen Wohlstand Amerikas – und auch seiner engsten Verbündeten – zu unterstützen“, schwärmte der frühere britische Vize-Premierminister.
Aber Cleggs Beitrag ging nicht nur darum, Meta AI als die Wahl des Patrioten zu positionieren. Vielmehr war es ein Versuch, Metas Version von Open-Source-KI als die richtige und wünschenswerte darzustellen.
Meta hat Llama schon immer als „Open Source“ beworben, im Sinne davon, dass es nicht nur das Modell, sondern auch seine Gewichte – die Parameter, die es erleichtern zu modifizieren – sowie verschiedene andere Sicherheitstools und Ressourcen verschenkt.
Viele in der traditionellen Open-Source-Software-Community waren anderer Meinung über Metas „Open Source“-Rahmen, hauptsächlich weil das Unternehmen die Trainingsdaten, die es für die Erstellung seiner Llama-Modelle verwendet, nicht offenlegt und weil es Beschränkungen für die Verwendung von Llama setzt – am relevantesten im Kontext der gestrigen Ankündigung, Llamas Lizenz besagt, dass es nicht für militärische Anwendungen verwendet werden soll.
Die Open Source Initiative, die den Begriff „Open Source“ erfunden hat und weiterhin als sein Verwalter fungiert, hat kürzlich eine Definition von Open-Source-KI herausgegeben, die offensichtlich nicht auf Llama zutrifft aus diesen Gründen. Gleiches gilt für die Linux Foundation, deren ebenso frische Definition nicht genau die gleiche ist wie die der OSI, aber dennoch eindeutig Informationen über Trainingsdaten fordert und die Fähigkeit für jedermann verlangt, das Modell wiederzuverwenden und zu verbessern.
Das ist wahrscheinlich der Grund, warum Cleggs Beitrag (der 13 Mal den Begriff „Open Source“ im Text verwendet) vorschlägt, dass die Einsatzbereiche von Llama in der US-amerikanischen nationalen Sicherheit „werden nicht nur den Wohlstand und die Sicherheit der Vereinigten Staaten unterstützen, sondern auch dazu beitragen, US-amerikanische Open-Source-Standards im globalen Wettlauf um die Führung bei KI zu etablieren“. Laut Clegg kommt ein „globaler Open-Source-Standard für KI-Modelle“ – denken Sie an Android, aber für KI – und er „wird die Grundlage für die KI-Entwicklung weltweit bilden und in Technologie, Infrastruktur und Produktion sowie im globalen Finanzwesen und E-Commerce verankert werden“.
Wenn die USA den Ball fallen lassen, deutet Clegg an, wird Chinas Ansatz für Open-Source-KI dieser globale Standard werden.
Die Zeitpunkt dieses Lobbying-Feuerwerks ist jedoch etwas ungeschickt, da es nur wenige Tage nach einem Bericht von Reuters kommt, wonach chinesische militärverbundene Forscher eine ein Jahr alte Version von Llama als Grundlage für ChatBIT, ein Werkzeug zur Verarbeitung von Informationen und zur Unterstützung operativer Entscheidungen, verwendet haben. Dies ist im Grunde das, was Meta nun den Militärunternehmen in den USA mit Llama erlaubt, nur ohne deren Erlaubnis.
Es gibt viele Gründe, skeptisch zu sein, wie groß der Einfluss der Sinisierung von Llama tatsächlich haben wird. Angesichts des hektischen Tempos der KI-Entwicklung ist die betreffende Version von Llama (13B) alles andere als topaktuell. Reuters sagt, dass ChatBIT „einige andere KI-Modelle übertroffen hat, die etwa 90 % so leistungsfähig waren wie OpenAIs leistungsfähiges ChatGPT-4“, aber es ist nicht klar, was „leistungsfähig“ hier bedeutet. Es ist nicht einmal klar, ob ChatBIT tatsächlich verwendet wird.
„Im globalen Wettbewerb um KI ist die angebliche Rolle einer einzelnen und veralteten Version eines amerikanischen Open-Source-Modells irrelevant, wenn wir wissen, dass China bereits mehr als 1 Billion US-Dollar investiert, um die USA technologisch zu übertreffen, und chinesische Technologieunternehmen ihre eigenen Open-AI-Modelle genauso schnell oder schneller veröffentlichen als Unternehmen in den USA“, sagte Meta in einer Stellungnahme als Reaktion auf den Reuters-Artikel.
Nicht jeder ist so überzeugt, dass die Verbindung zwischen Llama und ChatBIT irrelevant ist. Der US-Hausausschuss für die Kommunistische Partei Chinas machte auf X deutlich, dass er die Geschichte zur Kenntnis genommen hat. Der Vorsitzende des Außenausschusses des Repräsentantenhauses, Rep. Michael McCaul (R-TX), twitterte auch, dass die Ausnutzung von US-KI-Anwendungen wie Metas Llama für militärische Zwecke durch die KPCh die Notwendigkeit von Exportkontrollen (in Form des ENFORCE Act-Gesetzes) zeige, um „amerikanische KI aus den Händen Chinas fernzuhalten“.
Metas Ankündigung am Montag war wahrscheinlich keine Reaktion auf diese Episode – das wäre eine ganze Menge Partnerschaften, die in ein paar Tagen zusammengestellt wurden –, aber sie ist offensichtlich auch teilweise motiviert durch die Art der Reaktion, die auf den Reuters-Bericht folgte.
Es gibt aktive Kämpfe nicht nur um die Definition von „Open-Source-KI“, sondern auch um das Überleben des Konzepts im Angesicht des geopolitischen Kampfes zwischen den USA und China. Und diese beiden Kämpfe sind miteinander verbunden. Wie die Linux Foundation in einem Whitepaper von 2021 erläuterte, können Open-Source-Verschlüsselungssoftware durch US-Exportbeschränkungen beeinträchtigt werden – es sei denn, sie wird „öffentlich ohne Einschränkungen für ihre weitere Verbreitung zugänglich gemacht“.
Meta würde sicherlich nicht gerne sehen, dass dieselbe Logik auf KI angewendet wird – aber in diesem Fall könnte es weitaus schwieriger sein, die USA davon zu überzeugen, dass ein wirklich offener „Open Source“-KI-Standard in ihrem nationalen Sicherheitsinteresse liegt.
Mehr Nachrichten unten.
David Meyer
[email protected]
@superglaze
Beantragen Sie Ihre Einladung zum Fortune Global Forum in New York City am 11.-12. November. Zu den Sprechern gehören Honeywell CEO Vimal Kapur und Lumen CEO Kate Johnson, die über die Auswirkungen von KI auf Arbeit und Belegschaft diskutieren werden. Qualtrics CEO Zig Serafin und Eric Kutcher, Senior Partner und Nordamerika-Vorsitzender bei McKinsey, werden darüber sprechen, wie Unternehmen die Datenpipelines und Infrastrukturen aufbauen können, die sie im Zeitalter der KI benötigen, um wettbewerbsfähig zu bleiben.
AI IN DEN NACHRICHTEN
Intels Gaudi-Enttäuschung. Intel-CEO Pat Gelsinger gab letzte Woche zu, dass das Unternehmen sein Umsatzziel von 500 Millionen Dollar für seine Gaudi-KI-Chips in diesem Jahr nicht erreichen wird. Gelsinger: „Die Gesamtaufnahme von Gaudi war langsamer als wir erwartet hatten, da die Akzeptanzraten durch den Produktübergang von Gaudi 2 zu Gaudi 3 und die Benutzerfreundlichkeit der Software beeinflusst wurden.“ Angesichts der Tatsache, dass Intel Wall Street zu Beginn dieses Jahres von einem 2-Milliarden-Dollar-Deal-Pipeline für Gaudi erzählte, bevor es seine Erwartungen auf dieses 500-Millionen-Dollar-Ziel senkte, spiegelt dies nicht gut auf das kämpfende Unternehmen wider.
Prime Video setzt auf KI. Amazon fügt seinem Streaming-Dienst Prime Video eine KI-gestützte Funktion namens X-Ray Recaps hinzu. Die Idee ist es, den Zuschauern zu helfen, sich an das zu erinnern, was in früheren Staffeln der Serien, die sie sehen, passiert ist – oder in bestimmten Episoden oder sogar Fragmenten von Episoden – wobei angeblich Schutzmechanismen gegen Spoiler vorhanden sind.
Neuigkeiten zu Einstellungen bei OpenAI und Anthropic. Caitlin Kalinowski, die zuvor das Augmented-Reality-Brillenprojekt von Meta geleitet hat, wechselt zu OpenAI, um dort die Bereiche Robotik und Verbraucherhardware zu leiten, berichtet TechCrunch. OpenAI hat auch den Serienunternehmer Gabor Cselle, einen der Mitbegründer des gescheiterten Twitter/X-Rivalen Pebble, angeheuert, um an einem geheimen Projekt zu arbeiten. Unterdessen wird Alex Rodrigues, der ehemalige Mitbegründer und CEO des Entwicklers von selbstfahrenden Lastwagen Embark, bei Anthropic einsteigen. Rodrigues gab auf X bekannt, dass er als KI-Abstimmungsforscher neben den kürzlich geflüchteten OpenAI-Mitarbeitern Jan Leike und John Schulman arbeiten werde.
FORTUNE ÜBER KI
ChatGPT veröffentlicht eine Suchmaschine, den Eröffnungsschuss in einem sich anbahnenden Wettstreit mit Google um die Dominanz im Bereich des KI-gesteuerten Internets —von Paolo Confino
Die führenden LLMs haben blinde Flecken bei der Zugänglichkeit, so die Daten des Startups Evinced—von Allie Garfinkle
Der CEO von Amazon ließ eine große Andeutung fallen, wie eine neue KI-Version von Alexa mit Chatbots wie ChatGPT konkurrieren wird—von Jason Del Rey
Länder, die einen Vorteil in der KI erlangen wollen, sollten die ganzheitliche Herangehensweise Indiens genau im Blick behalten—von Arun Subramaniyan (Kommentar)
AI-KALENDER
28.-30. Oktober: Voice & AI, Arlington, Va.
19.-22. November: Microsoft Ignite, Chicago
2.-6. Dezember: AWS re:Invent, Las Vegas
8.-12. Dezember: Neural Information Processing Systems (Neurips) 2024, Vancouver, British Columbia
9.-10. Dezember: Fortune Brainstorm AI, San Francisco (hier registrieren)
EYE ON AI FORSCHUNG
Schlaf zahlt sich aus. Ein Team von Google-Cybersicherheitsanalysten hat mit DeepMind an einem auf LLM basierenden Agenten namens Big Sleep gearbeitet, der laut ihnen die erste Schwachstelle in der realen Welt gefunden hat: einen ausnutzbaren Fehler im weit verbreiteten SQLite-Datenbank-Engine.
Glücklicherweise war der Fehler nur in einem Entwicklerzweig des Open-Source-Engine vorhanden, so dass die Benutzer nicht betroffen waren – die SQLite-Entwickler haben ihn behoben, sobald Google sie darauf aufmerksam gemacht hat. „Schwachstellen in der Software zu finden, bevor sie überhaupt veröffentlicht wird, bedeutet, dass es für Angreifer keinen Wettbewerb gibt: die Schwachstellen werden behoben, bevor Angreifer überhaupt eine Chance haben, sie zu nutzen“, schrieben die Forscher von Google.
Sie betonten, dass dies experimentelle Ergebnisse waren und Big Sleep wahrscheinlich noch nicht in der Lage wäre, ein gut gezieltes automatisiertes Software-Testwerkzeug zu übertreffen. Sie schlugen jedoch vor, dass ihr Ansatz eines Tages zu einem „asymmetrischen Vorteil für Verteidiger“ führen könnte.
BRAIN FOOD
Rückschläge im Bereich Atomkraft. Die Financial Times berichtet, dass Meta Pläne zur Errichtung eines KI-Datenzentrums neben einem Atomkraftwerk irgendwo in den USA abbrechen musste – Details bleiben knapp –, weil seltene Bienen auf dem Gelände entdeckt wurden.
Derzeit gibt es einen großen Schub, KI-Datenzentren mit Atomenergie zu betreiben, aufgrund ihrer 24/7 Zuverlässigkeit und weil die Big Tech das Dilemma lösen muss, den enormen Energiebedarf der KI zu decken, ohne ihre Dekarbonisierungsverpflichtungen zu missachten. Allerdings gibt es Rückschläge.
In Plänen, die Meta ähneln, kaufte Amazon Anfang dieses Jahres ein Rechenzentrum, das mit dem Kernkraftwerk Susquehanna in Pennsylvania zusammenarbeitet. Aber die Regulierungsbehörden lehnten am Freitag den Plan des Anlagenbetreibers ab, Amazon alle gewünschte Leistung aus den Reaktoren der Anlage zu liefern – bis zu 960 Megawatt, im Vergleich zu den bereits erlaubten 300MW –, da dies zu Preiserhöhungen für andere Kunden führen und möglicherweise die Netzstabilität beeinträchtigen könnte.
„