A szakértők „dehumanizálónak” nevezik, ha egy személy képeit mesterséges intelligencia (AI) segítségével mélyhamisítványok készítésére használják a beleegyezésük nélkül.
A Deepfake technológia népszerűsége megugrott az elmúlt néhány évben, és soha nem volt ilyen egyszerű az elkészítése, hiszen az emberek képesek voltak a videót vagy a hangot hiperrealisztikus módon kezelni.
Csak néhány kép kell valakinek az arcáról egy mélyhamisítvány létrehozásához.
Vannak, akik szórakozásból használják, mivel ez az alapja az arccserélő alkalmazásoknak és több szűrőnek a közösségi médiában, de számos rosszindulatú felhasználás is létezik, a politikusokról készült hamis videóktól a csalásokig.
A nőket különösen célozza a mélyhamisított pornográfia, amelyet gyakran beleegyezés nélkül sugároznak.
2019-ben a Deeptrace, a mesterséges intelligenciára (AI) szakosodott cég becslései szerint a mélyhamisított videók 96 százalékát pornó teszi ki, és a legtöbbet a kiemelt személy beleegyezése nélkül hozták létre.
„Ez sértő. Ez dehumanizáló. És a valóság az, hogy tudjuk, ez hatással lehet egy személy foglalkoztathatóságára. Ez hatással lehet egy személy interperszonális kapcsolataira és mentális egészségére” – mondta Noelle Martin, a Nyugat-ausztrál Egyetem aktivista és kutatója, aki tíz éve foglalkozik képi alapú visszaélésekkel.
Az egyik legutóbbi esetben 11 éves tinédzser lányokat vettek célba, és a képeket a közösségi médián keresztül osztották meg középiskolai osztálytársaikkal.
A nőket célzó jelenség
A mélyhamisítás jelenségét először 2017-ben figyelték meg olyan speciális fórumokon, mint a Reddit, ahol női hírességeket céloztak meg az interneten elérhető nagy mennyiségű kép miatt.
„Az egyik legaggasztóbb tendencia, amit az ilyen tartalmat készítők fórumain látok, hogy viccnek gondolják, vagy nem gondolják komolynak, mert az eredmények nem túlreálisak, és nem értik, hogy az áldozatok számára ez még mindig nagyon-nagyon fájdalmas és traumatikus” – mondta Henry Ajder, a generatív mesterséges intelligencia szakértője.
De most, ahogy a technológia egyre szélesebb körben elérhetővé válik, minden nő aggódik a társadalmi és pszichológiai következmények súlyos kockázatai miatt.
„Szörnyű és megdöbbentő látni magát, ahogyan Ön nem járult hozzá” – mondta Martin.
„A valóság az, hogy. Tudjuk, hogy ez hatással lehet egy személy foglalkoztathatóságára. Ez hatással lehet egy személy interperszonális kapcsolataira és mentális egészségére” – tette hozzá.
Néha a mélyhamisításokat azért készítik, hogy lejáratják a nők munkáját.
Kate Isaacs aktivista és Rana Ayyub újságíró szakmai tevékenységük miatt mindketten mélyhamisításokat használó rágalomkampányok áldozatai lettek.
Ráadásul nem könnyű felismerni a mélyhamisítást, különösen a technológia fejlődésével.
„Valójában az egyén és az egyén szabad szeme nem lesz megbízható jelzője a hamisítványok észlelésének. Tudja, még most is, de különösen a jövő felé haladva, ahogy a kimenetek minősége javul” – mondta Ajder.
Az Egyesült Államok Szövetségi Nyomozó Iroda (FBI) közelmúltbeli közszolgálati közleménye szerint továbbra is „továbbra is kapnak bejelentéseket olyan áldozatoktól, köztük kiskorú gyerekektől és nem beleegyező felnőttektől, akiknek fényképeit vagy videóit nyílt tartalommá alakították át”.
Még olyan esetek is előfordultak, amikor hamisított pornót használtak emberek kizsarolására.
„2023 áprilisától az FBI megfigyelte, hogy a szextorzálás áldozatai hamis képek vagy videók felhasználásáról számoltak be, amelyeket közösségi oldalaikon vagy internetes bejegyzéseiken közzétett tartalomból készítettek, kérésre adtak át a rosszindulatú szereplőnek, vagy amelyeket videocsevegés során rögzítettek” – áll a közleményben.
A bűncselekmények büntetlenül maradnak
Nehéz észlelni, a mélyhamisításokat is nehéz büntetőeljárás alá vonni, mivel a törvényhozók megpróbálják felzárkózni a technológiához.
2022 végén az Egyesült Királyság Igazságügyi Minisztériuma azt mondta, hogy a mélyhamisítások egy személy beleegyezése nélkül történő megosztása börtönbüntetést vonhat maga után. Tajvan is végrehajtott egy hasonló törvényjavaslatot.
Európában a digitális szolgáltatásokról szóló törvény (DSA) nem foglalkozik a nem konzisztens mélyhamisítások kérdésével. Az EU AI-törvényének azonban, amelynek tervezete éppen most fejeződött be, szilárdabb jogi keretet kell biztosítania.
Az Egyesült Államokban számos állam, köztük Kalifornia, Texas és Virginia, bűncselekménynek minősítette a nem konszenzusos mélyhamisításokat.
„Valamiféle globális választ kell adni a kormánynak, a bűnüldöző szerveknek, a helyszínen tartózkodó embereknek, az áldozati közösségeknek. Tehát elszámoltathatóságot kell vállalniuk az embereknek, ahol nem tudják egyszerűen tönkretenni valakinek az életét, megússzák, és semmilyen következményekkel nem nézhetnek szembe” – mondta Martin.
Ha többet szeretne megtudni erről a történetről, tekintse meg a fenti videót a médialejátszóban.
