Számos jelentős globális szervezet, például az Amnesty International és az Európai Bizottság szorgalmazta az AI meztelenítő eszközök betiltását.
Több mint 100 nagy humanitárius és gyermekvédelmi szervezet kér sürgős fellépést a mesterséges intelligencia meztelenítő alkalmazásai és eszközei ellen. A koalícióban az Amnesty International, az Európai Bizottság, az Interpol, a Safe Online, a Save the Children és más gyermekvédelmi szakértők és emberi jogi képviselők vesznek részt.
Ez a mozgalom a Grok meztelenítés elleni reakciója után jött létre, amikor a felhasználók felkérték Elon Musk AI chatbotját, Grokot, hogy távolítsa el a ruhákat a nők digitális fényképeiről.
Ez a „tegyük bikinibe” trenddel kezdődött, amely a képeket úgy változtatta meg, hogy a nők bikiniben jelenjenek meg, de gyorsan átalakult egyre szexualizáltabb képekké.
Ezeket a nem konszenzusos és hamis képeket ezután nyilvánosan közzétették az X közösségimédia-platformon, hogy emberek milliói megtekinthessék. Eddig a becslések szerint Grok körülbelül hárommillió nem konszenzusos meztelen képet készített.
Számos esetben a mesterséges intelligencia meztelenítő eszközökkel készített képeket egyre inkább zsarolással, kényszerítéssel és gyermekek szexuális zaklatását ábrázoló anyagokkal hozták kapcsolatba, és a legtöbb áldozat nő és gyermek volt.
Súlyos veszély a gyermekek biztonságára és az emberi méltóságra
A globális koalíció kiemelte, hogy ezek a meztelenítő alkalmazások és eszközök jelentős és elfogadhatatlan veszélyt jelentenek a gyermekek biztonságára és az emberi méltóságra nézve.
„A meztelenítő eszközök példátlan fenyegetést jelentenek gyermekeink számára. A mesterséges intelligenciát – azt a technológiát, amelynek bővítenie kell az emberi potenciált – felfegyverzik a gyerekek ellen” – mondta Marija Manojlovic, a Safe Online vezetője.
„Minimálisra csökkentjük a károkat azáltal, hogy „online”-nek nevezzük, mintha valami kevésbé súlyos lenne, mint ami a fizikai világban történik, de a trauma valódi” – tette hozzá.
Annak ellenére, hogy gyakran „felnőtteknek szánt” alkalmazásként forgalmazzák őket, egyre gyakrabban használják fel illegális szexuális képek készítésére gyermekekről mindenféle beleegyezés, hatékony akadályok vagy elszámoltathatóság nélkül.
„A technológiai cégek képesek észlelni és blokkolni a gyermekek meztelenített tartalmát. A gyermekek szexuális zaklatását célzó anyagok terjesztése minden joghatóságban illegális, és a technológiai platformokat összhangba kell hozni más létrehozási és terjesztési csatornákkal” – mondta Manojlovic.
„Őszintén szólva megdöbbentő, hogy ezek a platformok bevételt biztosítanak, és nem kötelesek jelenteni a szabálysértőket, vagy nem kell együttműködniük az iparági partnerekkel a fizetési folyamatok megszakítása érdekében – ezek olyan védelmi eszközök, amelyeket a való világban használnak, és online platformokon is alkalmazni kell őket.”
Egyre nagyobb nyomás nehezedik arra, hogy törvényen kívül helyezzék a mesterséges intelligenciát álcázó technológiákat, és a szószólók azt állítják, hogy ezek nem szolgálnak jó célt.
Mint ilyen, a koalíció szorgalmazza ezeknek a technológiáknak a blokkolását, a fejlesztők és platformok felelősségre vonásával.
