Az AI chatbotokra feltöltött képeket ismeretlen ideig megőrizhetik, és ha rossz kezekbe kerülnek, megszemélyesítéshez, csaláshoz és hamis közösségi médiafiókokhoz vezethetnek.
A mesterséges intelligencia (AI) által létrehozott karikatúra trend, amely színes képen mutatja be mindazt, amit egy chatbot tud valakiről, kiberbiztonsági szakértők szerint komoly biztonsági kockázatokat rejthet magában.
A felhasználók feltöltenek magukról egy fényképet céges logóval vagy a szerepük részleteivel, és megkérik az OpenAI ChatGPT-jét, hogy készítsen karikatúrát róluk és a munkájukról, felhasználva azt, amit a chatbot tud róluk.
Kiberbiztonsági szakértők azt mondták az 2022 Plusz Nextnek, hogy a közösségi média kihívásai, mint például a mesterséges intelligencia karikatúrái, értékes információk kincsesbánya birtokába juttathatják a csalókat. Egyetlen kép személyes adatokkal párosítva sokkal árulkodóbb lehet, mint azt a felhasználók gondolják.
Bob Long, a Daon életkor-hitelesítési vállalat alelnöke szerint „Csalók munkáját végzi helyettük – vizuálisan ábrázolja, hogy ki vagy.
Érvelése szerint önmagának a megfogalmazásnak vörös zászlókat kell kitűznie, mert „úgy hangzik, mintha szándékosan indította volna el egy csaló, aki megkönnyíti a munkát”.
Mi történik a képekkel a feltöltést követően?
Jake Moore kiberbiztonsági tanácsadó szerint, amikor a felhasználó feltölt egy képet egy MI chatbotba, a rendszer a képet feldolgozva olyan adatokat nyer ki, mint például a személy érzelmei, környezete vagy olyan információk, amelyek felfedhetik a tartózkodási helyét. Ezek az információk ezután ismeretlen ideig tárolhatók.
Long elmondta, hogy a felhasználóktól gyűjtött képek felhasználhatók és megtarthatók AI képgenerátorok képzésére az adatkészleteik részeként.
Az OpenAI-hoz hasonló cégnél történt adatszivárgás azt jelentheti, hogy az olyan érzékeny adatok, mint a feltöltött képek és a chatbot által gyűjtött személyes információk rossz szereplők kezébe kerülhetnek, akik kihasználhatják azokat.
Charlotte Wilson, egy izraeli kiberbiztonsági vállalat, a Check Point vállalatvezetője szerint rossz kezekben egyetlen, nagy felbontású kép felhasználható hamis közösségimédia-fiókok vagy valósághű mesterséges intelligencia-hamisítások létrehozására.
„A szelfik segítenek a bűnözőknek áttérni az általános átverésekről a személyre szabott, súlyosan meggyőződéses megszemélyesítésre” – mondta.
Az OpenAI adatvédelmi beállításai szerint a feltöltött képeket fel lehet használni a modell fejlesztésére, amely magában foglalhatja annak betanítását is. Amikor a modell adatvédelmi beállításairól kérdezték, a ChatGPT tisztázta, hogy ez nem jelenti azt, hogy minden fotó nyilvános adatbázisban van.
Ehelyett a chatbot azt mondta, hogy a felhasználói tartalmakból származó mintákat használ a rendszer képalkotási módjának finomításához.
Mi a teendő, ha részt szeretne venni az AI-trendekben?
Azok számára, akik továbbra is követni szeretnék a trendet, a szakértők azt javasolják, hogy korlátozzák a megosztandó tartalmakat.
Wilson szerint a felhasználóknak kerülniük kell olyan képek feltöltését, amelyek bármilyen azonosító információt felfednek.
„Szorosan vágja be, a hátteret tartsa sima, és ne tartalmazzon jelvényeket, egyenruhákat, munkakötelet, helymeghatározást vagy bármit, ami munkáltatóhoz vagy rutinhoz köti” – mondta.
Wilson óva intett a személyes adatok túlzott megosztásától a felszólításokban, mint például a beosztás, a város vagy a munkáltató.
Eközben Moore azt javasolta, hogy a részvétel előtt tekintse át az adatvédelmi beállításokat, beleértve az AI-képzésből származó adatok eltávolításának lehetőségét is.
Az OpenAI-nak van egy adatvédelmi portálja, amely lehetővé teszi a felhasználók számára, hogy leiratkozhassanak az AI-adatképzésről, ha rákattintanak a „Ne oktasson a tartalmamra” lehetőségre.
A felhasználók a ChatGPT-vel folytatott szöveges beszélgetéseikből is leiratkozhatnak a képzésről, ha kikapcsolják a „mindenki számára tökéletes modellt” beállítást.
Az uniós jog értelmében a felhasználók kérhetik a cég által gyűjtött személyes adatok törlését. Az OpenAI azonban megjegyzi, hogy a törlés után is megőrizhet bizonyos információkat a csalás, visszaélés és biztonsági aggályok kezelése érdekében.
