Az európai non-profit AI Forensics a Telegramon működtetett „nagymértékű visszaélés ökoszisztémáját” találta, ahol a felhasználók káros szexuális tartalmakat terjesztenek és értékesítenek határokon át a platform moderálási erőfeszítései ellenére.
Egy új jelentés szerint egy nagyszabású, alig 25 000 emberből álló hálózat terjeszti a beleegyezés nélküli szexuális anyagokat és gyermekpornográfiát Spanyolországban és Olaszországban a Telegram azonnali üzenetküldő szolgáltatáson keresztül.
Az AI Forensics, az algoritmusokat tanulmányozó európai non-profit intézet „nagymértékű visszaélés ökoszisztémáját” találta, miután hat hét alatt 2,8 millió Telegram-üzenetet vizsgált meg 16 csoportban.
A jelentés szerint a nem konszenzusos szexuális tartalmat megosztó felhasználók többsége fiatal, heteroszexuális férfiak, akik partnerük, volt élettársuk vagy ismerőseik nők tartalmait osztják meg. A legszélsőségesebb tartalom gyermekeket ábrázol vérfertőzés és nemi erőszak forgatókönyvében.
A jelentés azután született, hogy az Európai Parlament képviselői a múlt hónapban támogatták a mesterséges intelligencia (AI) rendszerek betiltását, amelyek „meztelenítenek” képeket – vagy hamis meztelen képeket hoznak létre – azáltal, hogy az alanyról a beleegyezésük nélkül eltávolítanak ruhát.
A Nemek Közötti Egyenlőség Európai Intézete szerint az Európai Unióban minden harmadik nő tapasztalt szexuális erőszakot 15 éves kora óta, amely magában foglalja a kibererőszakot is.
Milyen tartalmat terjesztenek?
A tanulmány kimutatta, hogy a fiatalok gyakran az Instagram közösségimédia-alkalmazáson és a WhatsApp privát üzenetküldő alkalmazáson keresztül szerzik be a forrásanyagot.
Az elkövetők úgy profitálnak a videókból, hogy egyszeri, legfeljebb 50 eurós díjat számítanak fel a tartalom csatornáihoz és archívumához való teljes hozzáférésért. Egyes esetekben havi 5 eurós előfizetési díjat is felszámítanak.
Ezeken a csatornákon gyakran hirdetik a „csupaszító” robotokat, mint eszközöket, amelyekkel több nem konszenzusos tartalom generálható.
„Ez lehetővé tette az elkövetők számára, hogy növeljék (e tartalom) elkövetésének mennyiségét, sebességét és egyszerűségét” – áll az AI Forensics sajtóközleményében.
A videókban szereplő nőket gyakran megnevezik, megcímkézik, és a Telegram csatornáin megosztott profillinkeken keresztül meg lehet őket találni – állapította meg a tanulmány.
Ezt a tartalmat ezután más platformokon, például a TikTokon és az Instagramon újraterjesztik. A Reddit „toborzási átjáróként” használatos, amely linkeket terjeszt az eredeti Telegram csatornákra, ahol az emberek megtalálhatják a fizetett tartalmat.
Az AI Forensics megállapította, hogy a tartalom hozzávetőleg 52 000 emberhez jutott el: 27 000 emberhez Olaszországban és további 25 000 személyhez Spanyolországban.
A civil szervezet szerint ez azt sugallja, hogy a nem konszenzusos szexuális tartalom közösségi médiában történő terjesztésének módját nem korlátozzák a nemzeti határok vagy a platformhatárok, és ez egy „európai kiterjedésű szerkezeti probléma, amely európai választ igényel”.
A jelentés szerint a távirat moderálása „nem elegendő”.
A Telegram állítólag leállított néhány csoportot, amelyeket az AI Forensics megfigyelt, de ezeket „csak néhány órával később” hozták létre ugyanazzal a névvel. Az európai szervezet szerint ez azt jelenti, hogy a Telegram moderálási gyakorlata „elégtelen”.
Azt javasolta, hogy a Telegram moderálása magában foglalja a jelentési mechanizmusokat és a platform irányelveinek betartatását, különösen a prémium előfizetési modellt, mivel ez lehetőséget ad az alkotóknak, hogy bevételt szerezzenek ebből a tartalomból.
A non-profit szervezet közölte, hogy az Európai Bizottságnak a Telegramot nagyon nagy online platformként (VLOP) is ki kellene jelölnie a digitális szolgáltatásokról szóló törvény (DSA) értelmében, amely az online platformok elszámoltathatóságára, a tartalom moderálására és a felhasználók biztonságára vonatkozó uniós jogi keret.
Ez a kijelölés azt jelentené, hogy a platformra szigorúbb kötelezettségek vonatkoznának, mint például az algoritmus működésének átláthatósága és a káros tartalom kockázatértékelésének elvégzése.
Februárban a platform azt állította, hogy „jelentősen kevesebb” felhasználóval rendelkezik, mint 45 millió, ami az EU határértéke a VLOP megjelöléshez.
Az AI Forensics azt is szeretné elérni, hogy az EU AI-törvénye olyan rendelkezéseket tartalmazzon, amelyek megkönnyítik a gyermekek szexuális zaklatását és a nem beleegyezésen alapuló képek platformokról való eltávolítását.
Az 2022 Plusz Next megkereste a Telegramot, hogy válaszoljon a jelentésre, de nem kapott azonnali választ.
A platform szolgáltatási feltételei szerint a Telegram korlátozza a gyermekek szexuális tartalmait és a nem beleegyezésen alapuló anyagokat. A mesterséges intelligencia által vezérelt tartalommoderálás, valamint a személyzet a visszaélések ellen küzd. A felhasználók jelenthetik a platform feltételeit sértő tartalmakat is.
A Telegram ideiglenesen vagy véglegesen felfüggesztheti bizonyos funkciókat valaki fiókjában, például a kommunikációt olyan személyekkel, akikhez nem kapcsolódik.
„Súlyos jogsértések” esetén a platform blokkolhatja vagy törölheti a felhasználókat, robotokat, bejegyzéseket, csatornákat és csoportokat.
