Elon Musk mesterséges intelligenciájú chatbotját, Grok-ot egyre nagyobb ellenőrzésnek vetik alá, többek között az Európai Unióban, Nagy-Britanniában, Indiában és Franciaországban is, amiért visszaéltek vele nyíltan szexuális és nem beleegyezésen alapuló képek készítésére.
Malajzia és Indonézia blokkolta a Grokot, az Elon Musk xAI által kifejlesztett mesterséges intelligencia (AI) chatbotot, miután a hatóságok azt mondták, hogy azzal visszaéltek szexuálisan nyílt és nem beleegyezésen alapuló képek készítésére.
Az országok az elsők, amelyek betiltották a generatív mesterséges intelligencia eszközt, tükrözve azt a növekvő globális aggodalmat, hogy valósághű képeket, hangokat és szövegeket tud előállítani, miközben a meglévő biztosítékok nem akadályozzák meg a visszaéléseket.
A Musk X közösségimédia-platformján keresztül elérhető Grok chatbotot bírálták amiatt, hogy manipulált képeket generál, többek között bikiniben vagy szexuálisan kifejezett pózban ábrázoló nőket, valamint gyerekeket ábrázoló képeket.
A két délkelet-ázsiai ország szabályozó hatóságai szerint a meglévő ellenőrzések nem akadályozzák a hamis pornográf tartalmak létrehozását és terjesztését, különösen a nők és a kiskorúak bevonásával. Indonézia kormánya szombaton ideiglenesen blokkolta Grok, majd vasárnap Malajzia bejutását.
„A kormány az emberi jogok, a méltóság és a polgárok biztonságának súlyos megsértésének tekinti a kormány a beleegyezés nélküli szexuális hamisításokat a digitális térben” – mondta Meutya Hafid indonéz kommunikációs és digitális ügyek minisztere szombati nyilatkozatában.
A minisztérium szerint az intézkedés célja, hogy megvédje a nőket, a gyermekeket és a szélesebb közösséget a mesterséges intelligencia segítségével előállított hamis pornográf tartalomtól.
Az első megállapítások azt mutatták, hogy Grok nem rendelkezik hatékony biztosítékokkal annak megakadályozására, hogy a felhasználók indonéz lakosok valós fényképei alapján pornográf tartalmat hozzanak létre és terjeszthessenek – mondta Alexander Sabar, a digitális tér felügyeletének főigazgatója külön nyilatkozatban. Elmondta, hogy az ilyen gyakorlatok a magánélethez és a képekkel kapcsolatos jogok megsértésének kockázatával járnak, ha a fényképeket beleegyezés nélkül manipulálják vagy megosztják, ami pszichológiai, társadalmi és jó hírnévi károkat okoz.
Kuala Lumpurban a Malajziai Kommunikációs és Multimédia Bizottság vasárnap ideiglenes korlátozást rendelt el Grok számára, miután szerinte az eszközzel obszcén, nyíltan szexuálisan és nem beleegyezésen alapuló manipulált képek generálására szolgáló „ismételt visszaélések” voltak, beleértve a nőket és kiskorúakat is tartalmazó tartalmat.
A szabályozó szerint az X Corp.-nak és az xAI-nak ebben a hónapban kiadott közleményei, amelyek szigorúbb biztosítékokat követeltek, olyan válaszokat hoztak, amelyek főként a felhasználói jelentési mechanizmusokon alapultak.
„A korlátozást megelőző és arányos intézkedésként vezették be, miközben a jogi és szabályozási folyamatok folyamatban vannak” – mondta, hozzátéve, hogy a hozzáférés zárva marad mindaddig, amíg a hatékony biztosítékokat be nem vezetik.
A 2023-ban elindított Grok ingyenesen használható X-en. A felhasználók kérdéseket tehetnek fel neki a közösségi média platformon, és megcímkézhetik az általuk közvetlenül létrehozott bejegyzéseket, vagy válaszolhatnak más felhasználók bejegyzéseire. Tavaly nyáron a cég hozzáadott egy képgenerátor funkciót, a Grok Imagine-t, amely egy úgynevezett „spicy mode”-t is tartalmazott, amely felnőtt tartalom generálására képes.
A délkelet-ázsiai megszorításokat Grok fokozott ellenőrzése közepette másutt is, így az Európai Unióban, Nagy-Britanniában, Indiában és Franciaországban is.
Grok a múlt héten korlátozta a képek létrehozását és szerkesztését a fizető felhasználók számára, miután az emberek szexualizált mélyhamisításai miatti globális visszhangot váltották ki, de a kritikusok szerint ez nem oldotta meg teljesen a problémát.
