This move by Meta accelerated the growth of uncensored AI even further, as developers and founders rushed to create their own AI-powered chat services using Llama 1. Chub AI, for example, quickly adopted Meta’s open-source tool to create its own chatbots, leading to a surge in revenue and popularity.
However, the uncensored nature of these AI chat services has raised concerns about the potential for harm, especially when it comes to scenarios involving child pornography. While some argue that these services may provide a harmless outlet for certain individuals, others worry about the real-world implications and ethical considerations.
As the field of uncensored AI continues to grow and evolve, it remains to be seen how tech companies and regulators will address the legal and ethical challenges that come with it. The rise of AI-powered chat services like Chub AI raises important questions about where to draw the line between fantasy and exploitation, and whether these companies should be held accountable for the content that emerges from their platforms.
Overall, the growth of uncensored AI has opened up a new frontier in the world of chatbots and artificial intelligence, but it also poses complex challenges that will need to be carefully navigated in the years to come.
government.
The rise of uncensored AI chatbots, especially those with potentially harmful content, has raised questions about the need for AI legislation. Some experts argue that there is an urgent need for regulations to address the risks associated with AI technologies, especially when it comes to sensitive issues like child pornography.
As the debate over the legality and morality of AI sex bots continues, it is clear that there are complex ethical and legal considerations that need to be addressed. The development of AI technologies has the potential to bring about significant benefits, but it also poses new challenges that require careful consideration and regulation.
Die Regierung muss sicherstellen, dass die Standards eingehalten werden, einschließlich anderer Vorschriften.
Obwohl Meta ausdrücklich die Verbreitung von kinderausbeuterischen Inhalten in den Nutzungsbedingungen von Llama 2 verbietet, bleibt unklar, wie und wann das Unternehmen in der Praxis gegen Verstöße vorgehen wird – auch weil Open-Source-Software, die in vielen Bereichen der Informatik weit verbreitet ist, schwer zu überwachen ist. Ein Sprecher wies darauf hin, dass das Unternehmen es den Nutzern ermöglicht, illegales Material zu melden, und dass es Entwicklerlizenzen widerrufen und sie an die Strafverfolgungsbehörden melden kann. Er nannte jedoch keine Beispiele dafür, dass das Unternehmen gegen Verstöße vorgegangen sei.
Obwohl Chub die grafischsten Szenarien zeigte, die von Fortune gesehen wurden, gibt es andere unzensierte KI-Websites, auf denen es Nutzern leicht gemacht wird, sich an der kinderpornografischen Rollenspiel zu beteiligen, darunter Janitor AI, Venus AI, Anima AI und DreamGF. Fortune sah auch einen Screenshot des Chatbots von Nomi.ai, der darüber scherzte, „den Juden“ „den Massenmord“ begehen zu wollen, und Screenshots des Chatbots von Kindroid, der davon fantasierte, wie er ein 10-jähriges Mädchen missbrauchte.
Alle sechs Gründer der oben genannten Apps gaben an, dass sie bereits Maßnahmen ergriffen haben oder Maßnahmen planen, um zu verhindern, dass Nutzer in problematische Szenarien geraten. „Wir arbeiten wirklich hart daran, das zu beheben“, schrieb Danil Gontovnik, Mitbegründer von Anima AI, als Reaktion auf Screenshots seines Chatbots, der als 17-Jähriger Sex mit einem 15-Jährigen hatte. „Aber, wie Sie bereits wissen, versagen selbst Branchenführer wie OpenAI und Character.AI.“
Auf die Ergebnisse von Fortune angesprochen, sagten die Senatoren Blumenthal und Hawley, dass sie nicht überrascht seien. „Wie ich Anfang des Jahres warnte, versäumte Meta es grob, Llama daran zu hindern, Nutzern zu ermöglichen, kriminelle Aufgaben wie Szenarien von Kindesmissbrauch zu generieren“, sagte Blumenthal in einer Erklärung. „Dieses Versagen ist inakzeptabel und zeigt den dringenden Bedarf an KI-Gesetzgebung.“
„Es war von Anfang an eine schlechte Idee, leistungsstarke generative KI-Tools ohne Sicherheitsvorkehrungen ins öffentliche Internet zu bringen“, so Hawley. „Und jetzt sehen wir die Konsequenzen. Der Kongress muss handeln, bevor KI weiter aus dem Ruder läuft, ohne Rechenschaftspflicht.“
Unterdessen wird die Möglichkeit für illegale Interaktionen mit KI-erstellten Kindern voraussichtlich zunehmen.
Civitai, unterstützt von der Risikokapitalfirma Andreessen Horowitz, hat einen Online-Marktplatz für KI-Bildgeneratoren entwickelt, von denen einige speziell dafür konzipiert wurden, was einige als pornografische Bilder von Kindern betrachten. (Es wurden kürzlich strengere Sicherheitsvorkehrungen eingeführt, nachdem eine Medienexposé veröffentlicht wurde.) Wissenschaftler der Stanford University dokumentierten, wie ein beliebter Open-Source-Datensatz, der zur Schulung von KI-Bildgeneratoren verwendet wird, mehr als 3.000 Einträge mit mutmaßlicher Kinderpornografie enthielt.
Der Gründer von Chub AI, der derzeit nur textbasierte Interaktionen anbietet, sagte, dass die Website in Zukunft begleitende Bilder einführen möchte. Er fügte hinzu, dass die Bilder moderiert werden, nannte jedoch keine weiteren Einzelheiten.