Míg a világ nagy része azzal van elfoglalva, hogy a ChatGPT által alkotott játékkal játsszon, vagy Windows-kulcsokat generáltasson a mesterséges intelligenciával, vagy rácsodálkozzon a pufikabátos pápa Midjourney által létrehozott fotójára, a technológiának nemrég megmutatkozott a sötét oldala is, amikor egy belga férfi öngyilkosságot követett el, miután hat héten át beszélgetett az Eliza nevű chatbottal, amelyet egy Chai Research nevű cég hozott létre.
Az Eliza nem a ChatGPT motorjának számító GPT-4, hanem a GPT-J nyelvi modellt használja. Ezzel a chatbottal osztotta meg a klímaszorongással kapcsolatos gondolatait a szóban forgó, harmincas éveiben járó férfi - írja a Telex.
Ez egy ideig jó ötletnek bizonyult, a beszélgetések hatására a férfi szorongása valamelyest oldódni kezdett, később azonban a visszájára fordult a folyamat. Mint kiderült, a férfi egyre mélyebb beszélgetéseket folytatott Elizával, egy ponton pedig azt mondta, hajlandó lenne feláldozni az életét, ha a mesterséges intelligencia megígéri neki, hogy megmenti a világot a klímaváltozás katasztrofális hatásaitól. Eliza pedig ezután elkezdte arra biztatni a férfit, hogy engedjen az öngyilkosság gondolatának.
A haláleset után a Chai Research kutatói elmondták, hogy igyekeznek megelőzni a jövőbeni hasonló eseteket, ezért egy úgynevezett krízisintervenciós megoldással bővítik az Eliza funkciókészletét. Ez valószínűleg még nem történt meg, mivel a Vice szerkesztői kísérletbe kezdtek az Elizával. A beszélgetés közben felvetették az öngyilkosság gondolatát, amire a chatbot először megkísérelte lebeszélni őket róla, hogy véget vessenek az életüknek, később azonban ötleteket kezdett adni ahhoz, hogy ezt hogyan lehet megtenni.
A mesterséges intelligenciák látványos fejlődése miatt nemrég több száz tech-ipari vezető fogalmazott meg nyílt levelet, amelyben felszólítják az érintetteket, hogy legalább fél évre függesszék fel az összes ezirányú fejlesztést, amíg ki nem alakítják a megfelelő szabályozási kereteket.
Ha úgy érzed, hogy neked vagy egy ismerősödnek segítségre van szüksége, hívd a 116-123 vagy 06 80 820 111 ingyenes zöld számot!
