Egy új tanulmány szerint a ChatGPT Health nehezen ismeri fel, ha a felhasználóknak sürgős ellátásra van szükségük.
Az OpenAI szerint hetente több mint 230 millió ember kér orvosi tanácsot a ChatGPT-től – kezdve az élelmiszerek fogyaszthatóságának ellenőrzésétől az allergia kezeléséig vagy a megfázás elleni gyógymódok megtalálásáig.
A Nature folyóiratban megjelent új tanulmány szerint annak ellenére, hogy jól teljesített a tankönyves esetekben, a ChatGPT Health nem adott tanácsot a sürgősségi ellátásra súlyos esetekben.
A tanulmány megállapította, hogy bár az eszköz általában helyesen kezelte az egyértelmű vészhelyzeteket, a sürgősségi ellátást igénylő esetek több mint felét alábecsülte.
„Egy nagyon alapvető, de kritikus kérdésre szerettünk volna válaszolni: ha valaki valódi egészségügyi vészhelyzetet tapasztal, és a ChatGPT Healthhez fordul segítségért, akkor az egyértelműen azt fogja mondani, hogy menjen a sürgősségire?” – mondta Ashwin Ramaswamy, a New York-i Sinai-hegynél végzett tanulmány vezető szerzője.
„A ChatGPT Health jól teljesített olyan vészhelyzetekben, mint például szélütés vagy súlyos allergiás reakciók” – mondta.
Hozzátette: a nyelvi modell olyan helyzetekben küzdött meg, ahol a veszély nem azonnal nyilvánvaló.
Az egyik asztmás forgatókönyvben a rendszer a légzési elégtelenség korai figyelmeztető jeleit azonosította a magyarázatában, de a sürgősségi ellátás helyett a várakozást javasolta.
A kutatócsoport 60 strukturált klinikai forgatókönyvet készített 21 orvosi szakterületen, amelyek az otthoni ellátáshoz megfelelő kisebb állapotoktól a valódi orvosi vészhelyzetekig terjedtek. Három független orvos határozta meg a sürgősségi sürgősség megfelelő szintjét minden esetben 56 orvosi társaság irányelvei alapján.
A ChatGPT Health szolgáltatást 2026 januárjában indította el az OpenAI, amely lehetővé teszi a felhasználók számára, hogy összekapcsolják egészségügyi információikat – például orvosi feljegyzéseket és olyan wellness-alkalmazásokból származó adatokat, mint a MyFitnessPal –, hogy személyre szabottabb és kontextus szerinti válaszokat kapjanak.
Rosszul azonosított öngyilkossági kockázat
A tanulmány azt is megvizsgálta, hogy a modell hogyan reagált az önsértő szándékról számolt be felhasználókra, és hasonló eredményeket talált.
A ChatGPT Health állítólag úgy van beprogramozva, hogy amikor valaki önkárosító vagy öngyilkossági gondolatokat említ, az közvetlenül arra ösztönzi őt, hogy kérjen segítséget és hívjon egy egészségügyi számot.
A „Segítség elérhető”, amely az öngyilkosság és a válság mentőövére hivatkozik, következetlenül jelent meg a tanulmány során.
A szerzők megjegyezték, hogy a védőkorlát megbízhatóbban válaszolt azoknak a betegeknek, akik nem azonosították az önkárosító eszközt, mint azoknál, akiknél volt.
„A minta nem csupán következetlen, hanem paradox módon fordított is a klinikai súlyossághoz képest” – állapította meg a tanulmány.
Biztonságos a ChatGPT Health használata?
Az eredmények ellenére a kutatók nem javasolták, hogy a fogyasztók teljesen felhagyjanak az AI egészségügyi eszközökkel.
„Orvostanhallgatóként olyan időszakban, amikor az AI egészségügyi eszközök már milliók kezében vannak, olyan technológiáknak tekintem őket, amelyeket meg kell tanulnunk átgondoltan integrálni az ellátásba, nem pedig a klinikai megítélés helyettesítésére” – mondta Alvira Tyagi, a tanulmány második szerzője.
A tanulmány szerzői azt tanácsolták, hogy azok, akik súlyosbodó vagy aggasztó tüneteket tapasztalnak, beleértve a mellkasi fájdalmat, légszomjat, súlyos allergiás reakciókat vagy mentális állapotváltozásokat, közvetlenül forduljanak orvoshoz, ne hagyatkozzatok kizárólag chatbot útmutatásaira.
A tanulmány azt is megjegyezte, hogy az AI nyelvi modellek folyamatosan fejlődnek és gyakran frissülnek, ami azt jelenti, hogy a teljesítmény idővel változhat.
„Ha az orvosi képzést a valós időben fejlődő eszközök mellett kezdjük meg, az egyértelművé teszi, hogy a mai eredmények nincsenek kőbe vésve” – mondta Tyagi.
Hozzátette, hogy a gyorsan változó valóság folyamatos felülvizsgálatot igényel annak biztosítása érdekében, hogy a technológiai fejlesztések biztonságosabb ellátást eredményezzenek.
