A lépés néhány órával azután történt, hogy a milliárdos azt mondta, nincs tudomása Grok által készített „meztelen kiskorú képekről”.
Elon Musk mesterséges intelligenciájú chatbotja, Grok nem szerkeszthet majd fényképeket, hogy valós embereket ábrázoljon leleplező ruházatban olyan helyeken, ahol ez illegális – áll az X közösségimédia-platformján közzétett közleményben.
A szerda késői bejelentés a nőkről és gyermekekről készült szexualizált képek miatti globális visszhangot követte, beleértve egyes kormányok tiltásait és figyelmeztetéseit. Az is csak néhány órával azután történt, hogy Musk kijelentette, hogy nincs tudomása Grok által készített „meztelen kiskorú képekről”.
A visszautasítás magában foglalta a Kalifornia állam által szerdán bejelentett vizsgálatot a Grok felhasználásával készült, nem beleegyezésen alapuló, nyíltan szexuális tartalmú anyagok elterjedésével kapcsolatban.
Kezdetben a problémával kapcsolatos médiakérdések csak a „örökölt médiahazugságok” választ kapták.
Musk cége, az xAI most azt állítja, hogy geoblokkolja a tartalmat, ha az megsérti a törvényeket egy adott helyen.
„Technológiai intézkedéseket vezettünk be annak megakadályozására, hogy a Grok-fiók lehetővé tegye valódi emberekről készült képek szerkesztését árulkodó ruházatban, például bikiniben, fehérneműben és más árulkodó öltözékben” – áll a közleményben.
A szabály minden olyan felhasználóra vonatkozik, beleértve a fizetős előfizetőket is, akik több funkcióhoz férnek hozzá.
Az xAI emellett csak a fizetős előfizetőkre korlátozza a képek készítését és szerkesztését, „annak érdekében, hogy felelősségre vonhassák azokat az egyéneket, akik megpróbálják visszaélni a Grok-fiókkal a törvény vagy irányelveink megsértésére”.
Grok „spicy mode” lehetővé tette a felhasználók számára, hogy explicit tartalmat hozzanak létre, ami a kormányok ellenreakciójához vezetett világszerte.
Malajzia és Indonézia jogi lépéseket tett, és blokkolta a hozzáférést Grokhoz. Az Egyesült Királyság és az Európai Unió az online biztonsági törvények esetleges megsértését vizsgálta. Franciaország és India is figyelmeztetést adott ki, szigorúbb ellenőrzést követelve. Brazília vizsgálatot kért Grokkal való visszaélés miatt.
A Grok szerkesztési funkciói „segítették a mélyhamisított, nem konszenzusos intim képek nagyszabású előállítását, amelyeket nők és lányok zaklatására használnak az interneten, többek között az X közösségimédia-platformon keresztül” – áll a kaliforniai közleményben.
„Megdöbbentő az elmúlt hetekben az xAI által az elmúlt hetekben készített és az interneten közzétett, nem beleegyezésen alapuló, nyíltan szexuális tartalmú anyagokat részletező jelentések lavinája. Ezt az anyagot, amely nőket és gyermekeket meztelenül és nyíltan szexuális helyzetekben ábrázol, emberek zaklatására használták szerte az interneten” – idézte Rob Bonta államügyész.
„Zéró toleranciát alkalmazunk a mesterséges intelligencia alapú intim képek vagy a gyermekek szexuális zaklatását tartalmazó anyagok nem konszenzusos létrehozása és terjesztése iránt” – mondta.
