Egy elemzés feltárta, hogy az interneten talált mélyhamisított videók túlnyomó többsége pornográfia.
Egy elemzés szerint idén 550 százalékkal nőtt az interneten talált mélyhamisított videók száma 2019-hez képest, és ezek túlnyomó többsége mélyhamisított pornográf videók.
Az új technológiák, például a generatív mesterséges intelligencia (AI) térnyerése a mélyhamisított tartalom létrehozásának hatalmas növekedéséhez vezetett, amely digitálisan módosított vagy generált tartalom valódi személyt vagy forgatókönyvet ábrázol, akár videón, képen vagy hangon keresztül.
A mélyhamisított pornográfia áldozatai leírták, hogy ha személyüket ábrázolják ezekben a fiktív forgatókönyvekben, az életeket tehet tönkre, az egyikük „életre szóló ítéletnek” nevezi.
A mélyhamisított tartalmat gépi tanulási algoritmusok segítségével hozzák létre, amelyek hiperrealisztikus tartalmat tudnak előállítani. A rossz szereplők ezt felhasználhatják áldozatok megcélzására, emberek zsarolására, vagy bűnözői vagy politikai manipulációként.
Egy 2023-ban készült átfogó jelentés a mélyhamisításokról megállapította, hogy a mélyhamisítású pornográfia teszi ki az összes online hamisított videó 98 százalékát, míg a mélyhamisított pornográfia áldozatainak 99 százaléka nő.
Az embereket az online személyazonosság-csalástól megvédeni kívánó weboldal elemzői – a homesecurityheroes.com – 95 820 mélyhamisított videót, 85 dedikált online csatornát és több mint 100, a mélyhamisítás ökoszisztémához kapcsolódó webhelyet vizsgáltak meg, és elkészítették a 2023-as State of Deepfakes jelentést.
A jelentés egyik fő megállapítása az, hogy ma már kevesebb, mint 25 percet vesz igénybe, és nem kerül semmibe, hogy egy percnyi mélyhamisított pornográf videót készítsenek bárkiről, aki az áldozat egyetlen tiszta arcképét használja.
A weboldal által elemzett mélyhamis pornográf videók többsége dél-koreai nőkről szól. A hamisított pornográfia áldozatai közül Dél-Korea után a legtöbb nemzetiség az Egyesült Államok, Japán és az Egyesült Királyság volt.
Hamisított pornójárvány Dél-Koreában
Dél-Korea az a nemzetiség, ahol a legtöbb hamis pornó áldozata, amit a jelentés elemzői a K-pop globális népszerűségének tulajdonítanak. A Korea legnagyobb lánypop-együttesének tartott Blackpink négy tagja közül három szerepel a 10 leginkább megcélzott személy között.
„A K-pop bálványok széles körű láthatóságukról és rajongói körükről ismertek Dél-Koreában és nemzetközi szinten egyaránt” – magyarázta Chris Nguyen, a jelentés kutatási elemzésének vezetője. „Nyilvános profiljuk és kiterjedt rajongótáboruk azt jelenti, hogy az őket érintő mélyhamis pornográfia létrehozása és terjesztése nagyobb valószínűséggel ér el nagyobb közönséget.
A nagy láthatóság mellett „kivételesen nagy” a kereslet a K-pop bálványokat tartalmazó tartalom iránt is – mondta Nguyen. „Néhányan kihasználják ezt az igényt explicit mélyhamisított tartalom létrehozásával, különösen felnőtteknek szánt webhelyeken, amelyek célja a figyelem felkeltése és nagyobb forgalom generálása.”
Arra is rámutatott, hogy Dél-Korea szigorú pornográf szabályozása valószínűleg szerepet játszott az ilyen tartalmak létrehozásában és terjesztésében.
„Ez összefügghet a „Streisand-effektussal”, amely az információk elrejtésének, törlésének vagy cenzúrázásának nem szándékos eredménye. Ilyen esetekben az eredmény visszafelé sül el, mivel valójában felerősíti az információk iránti tudatosságot és érdeklődést.”
Deep hamisítványok terjednek az interneten
A mélyhamisított pornográfia elterjedtségét vizsgálva az elemzők azt találták, hogy a tíz leglátogatottabb pornográf webhely közül hét tartalmaz hamisított tartalmat.
Az első tíz dedikált mélyhamis pornográfiával foglalkozó webhelyen több mint 303 millió videót néztek meg, ami az elemzők szerint mutatja, hogy az ilyen tartalmak mennyire elterjedtek és népszerűek.
Beszélgetésekre szólítanak fel az ilyen tartalommal kapcsolatos attitűdökről, a tartalom létrehozásának etikai megfontolásaira összpontosítva.
A kutatók két dolognak tulajdonítják a mélyhamisított tartalmak hirtelen növekedését. Először is, a generatív mesterséges intelligencia számára használt gépi tanulási keretrendszer, az úgynevezett generatív ellenséges hálózat (GAN) megjelenése technikai eszközöket biztosított a mélyhamisított tartalom létrehozásához.
Másodszor, a GAN-okra épülő eszközökhöz való könnyű hozzáférés azt jelenti, hogy szinte bárki gyorsan és olcsón hozhat létre mélyhamisított tartalmat.
„Ezek a platformok számos funkciót kínálnak, az egyszerű arccserétől a bonyolultabb videómanipulációkig” – magyarázza a jelentés. A szerzők hozzáteszik, hogy a mélyhamisítással foglalkozó online közösségek növekedése „elősegítette az együttműködést, a tudásmegosztást és a nyílt forráskódú projektek fejlesztését”.
