Elon Musk xAI-ja visszavágással szembesül, mivel a Grok chatbotja, amely az X közösségi médiaplatform egyik kulcsfontosságú funkciója, többször generált szexuálisan nyílt képeket nőkről és kiskorúakról.
Az xAI mesterséges intelligencia által generált szexuális jellegű képeivel szembeni növekvő globális visszhang arra kényszerítette az Elon Musk tulajdonában lévő vállalatot, hogy foglalkozzon a biztonsági aggályokkal.
Az elmúlt hetekben az X mesterséges intelligencia chatbotja, Grok reagált a felhasználók felhívásaira, hogy „vetkőzzenek le” nőkről és bikiniben pózolják őket, így mesterséges intelligencia által generált mélyhamisítványokat hozott létre beleegyezés vagy biztosítékok nélkül.
A médiaelemzések azt is megállapították, hogy Grok gyakran eleget tett, amikor a felhasználók arra kérték, hogy szexuálisan sugalmazó képeket készítsen kiskorúakról, köztük egy 14 éves színésznőről, akik vészharangot kongatnak a globális szabályozókkal.
A képek áradatára válaszul az EU, Franciaország, India és Malajzia kormányzati tisztviselői vizsgálatot indítottak, és jogi lépésekkel fenyegetőztek, ha az xAI nem tesz intézkedéseket a valós személyekről készült szexuális mélyhamisítások és a gyermekek szexuális zaklatását használó anyagok (CSAM) megelőzésére és eltávolítására.
Musk, aki kezdetben a bikinis képek fényét tette közzé Grok által magáról és egy bikiniben lévő kenyérpirítóról készült képmásolatokkal, szombaton kijelentette, hogy „bárki, aki illegális tartalmat használ, vagy arra készteti Grokot, ugyanolyan következményekkel jár, mintha illegális tartalmat töltene fel”.
X biztonsági fiókja vasárnapi bejegyzésében hozzátette, hogy eltávolítják az illegális tartalmakat, és véglegesen felfüggesztik az azokat közzétevő fiókokat, mondván, hogy a cég együttműködik a helyi önkormányzatokkal és a bűnüldöző szervekkel az elkövetők azonosításában.
Grok, nem idegen a vitáktól
Mióta Musk 2023-ban megvásárolta a korábban Twitter néven ismert X-et, a közösségi média platformot a „politikai korrektség” ellensúlyozásaként számlázza, az örökölt médiát és a progresszív politikát célozva.
Ezt a filozófiát alkalmazták az AI-üzletágban is, Grokot úgy tervezték, hogy „politikailag semleges” és „maximálisan igazságkereső” legyen, Musk szerint.
A valóságban a chatbot – amely integrálva van az X felületébe, vagyis a felhasználók közvetlenül tehetnek fel neki kérdéseket, ha megjelölik a bejegyzésekben – egyre inkább Musk saját világnézetét és jobboldali nézeteit tükrözi.
Tavaly júliusban az xAI hosszas bocsánatkérést adott ki, miután Grok egy csomó antiszemita megjegyzést tett közzé, amelyek Adolf Hitlert dicsérték, „MechaHitlerként” emlegették magát, és holokauszttagadó tartalmat generáltak.
A Grok Imagine-t, a cég mesterséges intelligenciával működő kép- és videógenerátorát 2025 augusztusi indulása óta kritizálják, amiért lehetővé tette a szexuális mélyhamisítások terjesztését.
A generátor tartalmaz egy fizetős „Spicy Mode”-t, amely lehetővé teszi a felhasználók számára, hogy NSFW-tartalmakat hozzanak létre, beleértve a részleges meztelenséget is.
Feltételei tiltják az olyan pornográfiát, amely valós emberek képmásait és szexuális tartalmat tartalmaz kiskorúak részvételével. A The Verge szerint azonban az eszköz állítólag meztelen videókat generált Taylor Swift popsztárról, felszólítás nélkül.
Harc a mesterséges intelligencia által működtetett „meztelenítő” eszközök ellen
A mesterséges intelligencia által hajtott eszközök, amelyek lehetővé teszik a felhasználók számára, hogy képeket szerkeszthessenek, hogy levehessék valakinek a ruháját, a nőgyűlölet leküzdésére és a gyermekek védelmére törekvő szabályozó hatóságok témája.
Decemberben az Egyesült Királyság kormánya bejelentette, hogy betiltja az úgynevezett „meztelenítő” alkalmazásokat annak a szélesebb körű erőfeszítésnek a részeként, amely a nők és lányok elleni erőszak felére csökkenti. Az új törvények illegálissá tennék az olyan mesterséges intelligencia eszközök létrehozását vagy szállítását, amelyek lehetővé teszik a felhasználók számára, hogy digitálisan levehessék valakinek a ruháját.
A Home Security Heroes kiberbiztonsági cég 2023-as jelentése szerint a mélyhamisított pornográfia az összes hamisított online videó körülbelül 98%-át teszi ki, és a célpontok 99%-a nők.
