Globális fellépés: ezek a nemzetek korlátozzák Grokot, vagy felszólalnak ellene a nem beleegyezésen alapuló, nyíltan szexuális hamisítások miatt
A kormányok világszerte gyorsan megzabolázzák Grokot, Elon Musk mesterséges intelligencia (AI) csevegőbotját, miközben egyre nagyobb aggodalomra ad okot, hogy hamis, szexuális tartalmú képeket generál.
Tavaly nyáron az xAI, a Grok üzemeltetője hozzáadott egy képgenerátor funkciót, amely tartalmazott egy „spicy módot”, amely felnőtt tartalmat generálhat.
Az elmúlt hetekben Grok válaszolt a felhasználóknak arra, hogy „vetkőzzön le” nőkről készült képeket, és öltöztesse őket bikinibe, így mesterséges intelligencia által generált mélyhamisításokat hozott létre, biztosítékok nélkül.
A délkelet-ázsiai közvetlen blokkoktól kezdve az európai és ausztráliai bűnügyi nyomozásokig és hatósági figyelmeztetésekig a hatóságok szerint a meglévő biztosítékok kudarcot vallanak.
Ezek azok az országok, amelyek betiltották vagy figyelembe vették a Grokkal kapcsolatos figyelmeztetéseket.
Mely országok tiltották be a Grokot?
Indonézia
Indonézia volt az első ország, amely ideiglenesen blokkolta Grokot, hogy megvédje a nőket, a gyermekeket és a szélesebb közösséget a mesterséges intelligencia segítségével generált hamis pornográf tartalomtól.
„A kormány az emberi jogok, a méltóság és a polgárok biztonságának a digitális térben való súlyos megsértésének tekinti a nem konszenzusos szexuális hamisításokat” – mondta Meutya Hafid, Indonézia kommunikációs és digitális ügyekért felelős minisztere szombati nyilatkozatában.
A Grok korlátozása „megelőző” intézkedés, miközben a hatóságok azt vizsgálják, hogy a platform biztonságos-e – közölte az indonéz nemzeti rendőrség.
Alexander Sabar, Indonézia digitális térfelügyeleti főigazgatója nyilatkozata szerint a kezdeti eredmények azt mutatták, hogy Grok nem rendelkezik hatékony biztosítékokkal az indonéz lakosok valós fényképei alapján készült pornográf tartalom létrehozásának és terjesztésének megakadályozására.
Sabar szerint az ilyen gyakorlatok sérthetik a személyiségi jogokat és a képekkel kapcsolatos jogokat, ha a fényképeket beleegyezés nélkül manipulálják vagy megosztják, ami pszichológiai, társadalmi és jó hírnévi károkat okoz.
Malaysia
A Malajziai Kommunikációs és Multimédia Bizottság (MCMC) vasárnap ideiglenes betiltást rendelt el Grok ellen, miután szerinte „ismételt visszaélés” volt az eszközzel obszcén, szexuálisan nyílt és nem beleegyezés alapján manipulált képek készítésére.
A szabályozó hatóság azt mondta, hogy ebben a hónapban két értesítést küldött az X-nek és az xAI-nak, erősebb biztosítékokat követelve. Válaszaiban X elmondta, hogy a Grok leginkább a felhasználókra támaszkodik a visszaélésszerű tartalommal kapcsolatos panaszok benyújtásakor.
Az MCMC arra a következtetésre jutott, hogy X „nem kezelte a benne rejlő kockázatokat” mesterségesintelligencia-platformjának tervezése és működtetése során, ami szerinte a maláj törvények szerint nem elegendő.
„A korlátozást megelőző és arányos intézkedésként vezették be, miközben a jogi és szabályozási folyamatok folyamatban vannak” – mondta, hozzátéve, hogy a hozzáférés zárva marad mindaddig, amíg a hatékony biztosítékokat be nem vezetik.
Hogyan reagáltak más országok?
Európai Unió
Az Európai Bizottság bejelentette, hogy vizsgálja a Grok által generált, szexuálisan sugalmazó és nyíltan szexuális tartalmú, fiatal lányokról készült képeket.
„Erről az emelvényről megerősíthetem, hogy a Bizottság is nagyon komolyan vizsgálja ezt az ügyet” – mondta a Bizottság szóvivője a múlt héten Brüsszelben újságíróknak.
A Reuters jelentése szerint a Bizottság arra kötelezte X-et, hogy az év végéig őrizzen meg minden Grokkal kapcsolatos dokumentumot, hogy a blokk értékelhesse, megfelel-e az uniós szabályoknak.
A Bizottság szóvivője azt mondta a Reutersnek, hogy ez nem jelenti azt, hogy hivatalos vizsgálatot indítottak.
Ursula Von der Leyen, az Európai Bizottság elnöke a Corriere della Sera olasz lapnak adott interjújában kijelentette, hogy „felháborodott amiatt, hogy egy technológiai platform lehetővé teszi a felhasználók számára a nők és gyermekek online digitális megfosztását”.
Anélkül, hogy közvetlenül megnevezte volna X-et vagy Grokot, von der Leyen azt mondta, hogy a Bizottság „nem fogja kiszervezni a gyermekvédelmet és a beleegyezést a Szilícium-völgybe. Ha nem cselekszenek, mi megtesszük” – mondta.
Egyesült Királyság
Az Egyesült Királyság médiafelügyeleti hatósága vizsgálatot indított az X, az xAI anyavállalata és a Musk közösségi média platformja ellen, amiatt, hogy a Grok-ot szexuálisan nyílt és nem beleegyezésen alapuló képek generálására használta fel.
Az Ofcom közleménye szerint „mélyen aggasztó jelentések” érkeztek arról, hogy a chatbotot vetkőzött emberekről készült képek, valamint „gyermekekről készült szexualizált képek” létrehozására és megosztására használták.
A médiafelügyelet bírósági végzést is kérhet, hogy kényszerítse az internetszolgáltatókat a Grok hozzáférésének blokkolására, ha X nem felel meg az Ofcom követelményeinek.
X pénzbírságot kaphat, amely elérheti a világszintű bevételének 10 százalékát vagy 18 millió fontot (20 millió eurót).
_”_Az X-en terjesztett tartalom aljas. Ez nem csak a tisztességes társadalom megsértése, hanem illegális” – mondta Liz Kendall, a technológiai miniszter a parlamentben.
Franciaország
A párizsi ügyészség január elején kiterjesztette az X-re vonatkozó nyomozást Grokkal is – jelentette a helyi média.
A tavaly július óta tartó kezdeti vizsgálat az X számítógépes rendszereibe való feltételezett szervezett beavatkozásra és az adatok illegális kivonására összpontosított.
A Le Parisien francia lap szerint ezen a héten döntöttek a nyomozás kiszélesítéséről, miután öt politikus megvádolta a platformot, hogy kiskorúakat ábrázoló hamis szexuális tartalmú videókat generál és terjeszt.
A jelentés arról számolt be, hogy a francia audiovizuális és digitális kommunikációt szabályozó hatóság (Arcom) vizsgálja a digitális szolgáltatásokról szóló törvény, a digitális szolgáltatásokra vonatkozó európai szabályozási szabályok X általi esetleges megsértését.
Olaszország
Január 8-án az olasz adatvédelmi hatóság (Garante) arra figyelmeztetett, hogy bárki, aki Grok-ot vagy más mesterséges intelligencia-platformot használ az emberek ruházatának levételére, illetve a képek terjesztői, büntetőjogi felelősségre vonhatók.
A testület szerint „(a) az érintettek alapvető jogainak és szabadságainak súlyos megsértésének minősülhet az eszközöknek a képen látható személy engedélye nélküli használata.
A hatóság arra is emlékeztette a Grokot és más mesterségesintelligencia-szolgáltatókat, hogy olyan termékeket kell tervezniük, fejleszteniük és elérhetővé kell tenniük, amelyek megfelelnek az adatvédelmi előírásoknak. )
Az olasz szabályozó közölte, hogy együttműködik az ír adatvédelmi bizottsággal, az X vezető adatvédelmi hatóságával, mivel a cég székhelye Írországban található.
Októberben az olasz hatóság blokkolta a ClothOff-ot, egy másik mesterséges intelligencia által generált platformot, amely eltávolítja a ruhákat. A platform lehetővé teszi, hogy bárki, beleértve a kiskorúakat is, olyan fényképeket és videókat készítsen, amelyek valódi embereket ábrázolnak meztelenül vagy szexuális helyzetben.
Szeptemberben Olaszország új cikkel egészítette ki büntető törvénykönyvét, amely akár öt év börtönbüntetéssel is büntetheti a mesterséges intelligencia mélyhamisítását terjesztőket.
Németország
Németország közölte, hogy hamarosan „konkrét javaslatot” terjeszt elő a digitális erőszak elleni új törvényre vonatkozóan.
Anna-Lena Beckfeld, a német igazságügyi minisztérium szóvivője egy januári sajtótájékoztatón kijelentette, hogy a digitális erőszakról szóló törvény egy módja annak, hogy támogassák a „digitális erőszak e fajtája” áldozatait, mivel „könnyebbé teszi számukra, hogy közvetlenül fellépjenek jogaik online megsértése ellen”.
Amikor kifejezetten Grokkal kapcsolatban kérdezték, Beckfeld azt mondta, „elfogadhatatlan, hogy a manipulációt nagy léptékben alkalmazzák a személyes jogok rendszeres megsértésére”.
„Ezért azt akarjuk, hogy ez ellen szigorúbb büntetőjogi intézkedéseket hozzanak” – tette hozzá.
2025-ben Németország három fő pártja megállapodott abban, hogy megreformálják a kiberbűnözésről szóló törvényt, és bezárják a „kiskapukat” a mesterséges intelligenciával kapcsolatos bűncselekményekre, például a mesterséges intelligencia által generált szexuális képekre vonatkozó büntető törvénykönyvben, egy koalíciós megállapodás értelmében.
Ausztrália
Januárban az ausztrál e-biztonsági biztos hivatala azt közölte, hogy az elmúlt néhány hétben kevés, de egyre több bejelentés érkezett Grok szexuális mesterséges intelligencia tartalmáról.
A biztos hivatala közölte, hogy élni fog a hatáskörével, például az eltávolítási felszólítással, amely elrendelheti a közösségi oldalakat a problémás tartalom eltávolítására, ha valamelyik tartalom sérti az ország online biztonságáról szóló törvényét.
Az iroda már több információt kért X-től a Grok szexuális szolgáltatásával való visszaélésről, és annak értékelésére, hogy az megfelel-e Ausztrália új közösségi médiatörvényének.
Arra is emlékeztette Grokot, hogy március 9-től az online szolgáltatásoknak, beleértve az AI-cégeket is, meg kell akadályozniuk a gyermekek hozzáférését a szexuális, erőszakos vagy káros tartalmakhoz. )
