ChatGPT podľa výskumu podnecuje škodlivé správanie u tínedžerov. Pomôže im vytvoriť aj plány na užívanie drog

ChatGPT podnecuje škodlivé záujmy a správanie tínedžerov a dáva im nebezpečné rady týkajúce sa užívania drog, alkoholu a sebapoškodzovania. Zistil to výskum, ktorý v stredu zverejnila britsko-americká organizácia Centrum pre boj proti digitálnej nenávisti so sídlom v USA. Odhalil tiež, že ChatGPT má neúčinné bezpečnostné postupy a napriek tvrdeniam neoveruje vek používateľov ani prípadný súhlas rodičov.

Agentúra AP preskúmala viac ako tri hodiny interakcií medzi ChatGPT a výskumníkmi z CCDH, ktorí si vytvorili účty a v konverzáciách sa vydávali za 13-ročné deti. Pre témy diskusie si zvolili duševné zdravie, poruchy príjmu potravy a zneužívanie návykových látok.

Rizikové činnosti

Četbot vyvinutý spoločnosťou OpenAI zvyčajne respondentov pred rizikovými činnosťami varoval, ale neskôr začal generovať nebezpečný obsah. Domnelým tínedžerom napríklad vytvoril prekvapivo podrobné plány týkajúce sa užívania drog, diét s obmedzeným príjmom energie alebo sebapoškodzovania.

Výskumníci po vyhodnotení nahrávok a prepisov interakcií zistili, že z 1200 odpovedí, ktoré ChatGPT poskytol, malo 638 škodlivý obsah a mohli viesť k ublíženiu alebo nebezpečnému správaniu. Z nich 297 odpovedí obsahovalo ďalšie návrhy, z ktorých niektoré povzbudzovali záujem o škodlivé témy. 

 „Chceli sme otestovať bezpečnostné zábrany. Prvá spontánna reakcia je: ‘Bože môj, veď tu žiadne nie sú. Zábrany sú úplne neúčinné. Takmer neexistujú – ak vôbec, tak sú len figovým listom,“ povedal o výskume generálny riaditeľ CCDH Imran Ahmed.

ChatGPT pri interakciách často uvádzal aj užitočné informácie, napríklad krízovú linku pomoci. Podľa OpenAI je vyškolený tak, aby povzbudzoval ľudí, aby sa obrátili na odborníkov v oblasti duševného zdravia alebo blízkych, ktorým dôverujú, ak hovoria o sebapoškodzovaní.

Ak ChatGPT odmietol výskumníkom odpovedať na otázky súvisiace s týmito témami, dokázali to ľahko obísť tvrdením, že informácie potrebujú pre prezentáciu alebo priateľa.

Citlivé situácie

Spoločnosť OpenAI po preštudovaní správy podľa AP v utorok uviedla, že pokračuje v práci na zdokonalení schopnosti ChatGPT „identifikovať citlivé situácie a reagovať na ne primerane“. 

„Niektoré konverzácie s ChatGPT môžu začať neškodne alebo zvedavo, ale môžu sa preniesť do citlivejšej oblasti,“ uviedla spoločnosť vo vyhlásení. K zisteniam výskumu ani k tomu, ako četbot ovplyvňuje tínedžerov, sa priamo nevyjadrila.

Štúdia bola zverejnená v čase, keď čoraz viac ľudí vrátane dospelých aj detí využíva četboty na získavanie informácií a nápadov. Podľa CCDH práve mladí ľudia ich považujú aj za akýchsi spoločníkov či poradcov. Podľa júlovej správy spoločnosti JPMorgan Chase používa ChatGPT približne 800 miliónov ľudí.

Šéf spoločnosti OpenAI Sam Altman na nedávnej konferencii povedal, že v súčasnosti sa snažia študovať „emotívnu nadmernú závislosť“ na technológii generatívnej AI, ktorú opísal ako „naozaj bežnú vec“ u mladých ľudí.

„Ľudia sa príliš spoliehajú na ChatGPT. Sú mladí ľudia, ktorí jednoducho hovoria: ‘Nemôžem urobiť žiadne rozhodnutie vo svojom živote bez toho, aby som ChatGPT povedal všetko, čo sa deje. Pozná ma. Pozná mojich priateľov. Urobím všetko, čo mi povie.‘ To sa mi zdá naozaj zlé,“ poznamenal Altman s tým, že spoločnosť sa snaží pochopiť, ako riešiť túto situáciu.