A hatóságok szerint a Grokot visszaélték nyíltan szexuális és nem beleegyezésen alapuló mesterséges intelligencia képek készítésére.
A malajziai hatóságok kedden közölték, hogy jogi lépéseket tesznek Elon Musk X közösségi médiaplatformja és annak mesterséges intelligencia egysége, az xAI ellen, azzal vádolva a cégeket, hogy nem biztosítják a Grok chatbot felhasználóinak biztonságát.
A lépésre néhány nappal azután került sor, hogy Malajzia és Indonézia lettek az első országok, amelyek blokkolták a hozzáférést Grokhoz, mivel egyre nő az aggodalom, hogy visszaélnek vele nyíltan szexuális és nem konszenzusos képek készítésére.
A Malajziai Kommunikációs és Multimédia Bizottság közleménye szerint azonosította a Grokkal való visszaélést káros tartalom generálására és terjesztésére, beleértve a nyíltan szexuális tartalmú, illetlen, rendkívül sértő, valamint a beleegyezés nélkül manipulált képeket.
Azt mondta, hogy ebben a hónapban értesítette az X-et és az xAI-t, hogy távolítsák el a káros tartalmat, de nem tettek semmit.
„Az állítólagos nőket és gyermekeket érintő tartalom nagy aggodalomra ad okot. Az ilyen magatartás ellentétes a malajziai törvényekkel, és aláássa a biztonsági kötelezettségvállalásokat” – áll a közleményben. A bizottság ügyvédet nevezett ki, és közölte, hogy hamarosan megkezdődik a jogi eljárás.
Egyre nagyobb ellenőrzés folyik a generatív mesterséges intelligencia eszközök felett, amelyek valósághű képeket, hangokat és szövegeket állítanak elő, és aggodalomra ad okot, hogy a meglévő biztosítékok nem akadályozzák meg az ezekkel való visszaélést.
A 2023-ban elindított Grok ingyenesen használható X-en. Tavaly hozzáadták a Grok Imagine képgenerátor funkciót, amely tartalmazott egy úgynevezett fűszeres módot, amely felnőtt tartalom generálására képes. Grokot bírálták amiatt, hogy manipulált képeket generál, beleértve a nők bikinis vagy szexuális pózban való ábrázolását, valamint a gyerekeket ábrázoló képeket.
Grokra nyomás nehezedett az Európai Unióban, Indiában és az Egyesült Királyságban, amelyek hétfőn bejelentették, hogy kriminalizálják a „meztelenítő alkalmazásokat”. A brit médiaszabályozó hatóság azt is vizsgálatot indított, hogy Grok megsértette-e a törvényt azzal, hogy megengedte a felhasználóknak, hogy megosszák a gyerekekről készült szexuális képeket.
A múlt héten a Grok a képek generálását és szerkesztését a fizető felhasználókra korlátozta, miután az emberek szexualizált mélyhamisításai miatti globális visszhangot váltották ki, de a kritikusok szerint ez nem oldotta meg teljesen a problémát.
Musk és cégei nem kommentálták nyilvánosan a délkelet-ázsiai korlátozásokat. Az xA1 automatizált választ adott a médiakérdésekre, amelyek a következőt mondták: „Örölt médiahazugságok”.
