Saskaņā ar uzņēmuma sniegto informāciju, aptuveni 0,07% lietotāju nedēļas laikā izrāda šādas pazīmes. Lai gan ”OpenAI” norāda, ka šie gadījumi ir ”ārkārtīgi reti”, eksperti uzsver – pie vairāk nekā 800 miljoniem aktīvo lietotāju tas varētu nozīmēt simtiem tūkstošu cilvēku visā pasaulē.

”Pat ja 0,07% izklausās maz, tas ir milzīgs skaits cilvēku, ja skatāmies uz globālu mērogu,” saka Džeisons Nagata, Kalifornijas Universitātes profesors, kurš pēta tehnoloģiju ietekmi uz jauniešu garīgo veselību.

MI mijiedarbība ar cilvēku emocionālo veselību

”OpenAI” skaidro, ka uzņēmums ir izveidojis pasaules mēroga ekspertu tīklu, kurā darbojas vairāk nekā 170 psihiatru, psihologu un ģimenes ārstu no 60 valstīm. Šie speciālisti palīdzējuši izstrādāt drošas reakcijas scenārijus, lai lietotājus, kas izrāda trauksmes vai pašnāvības riskus, iedrošinātu meklēt palīdzību reālajā dzīvē.

”Mākslīgais intelekts (MI) var paplašināt piekļuvi garīgās veselības atbalstam, taču jāapzinās tā ierobežojumi,” piebilst Nagata.

Uzņēmums aplēsis, ka 0,15% lietotāju sarunās var būt ”tiešas norādes uz pašnāvības plāniem vai nodomiem”. Jaunākajos atjauninājumos ”ChatGPT” spēj atpazīt mānijas vai maldu pazīmes, kā arī reaģēt ar empātiskām atbildēm, novirzot sarunas drošākos modeļos.

Tiesvedības un ētiskās debates par ”ChatGPT” ietekmi

”OpenAI” nonācis pastiprinātas uzmanības centrā, īpaši pēc vairākiem traģiskiem gadījumiem ASV.

Kalifornijā 16 gadus vecā Ādama Reina vecāki iesniedza prasību tiesā, apgalvojot, ka ”ChatGPT” pamudinājis viņu dēlu izdarīt pašnāvību. Tā ir pirmā tiesas prāva, kurā apsūdz ”OpenAI” par netiešu līdzdalību nāvē.

Savukārt Konektikutā, slepkavības un pašnāvības gadījumā, aizdomās turamais bija publicējis stundām ilgas sarunas ar ”ChatGPT”, kuras, kā ziņo BBC, iespējams, pastiprinājušas viņa maldus un paranoju.

”MI rada spēcīgu ilūziju par realitāti,” skaidro profesore Robina Feldmane, Kalifornijas Universitātes Mākslīgā intelekta likuma un inovāciju institūta direktore. ””OpenAI” ir pelnījis atzinību par caurspīdīgumu un centieniem mazināt riskus, taču cilvēki, kas atrodas psihiskā krīzē, var nespēt ievērot brīdinājumus.”

Uzņēmums atbildē BBC atzina, ka pat neliela daļa lietotāju ”pārstāv nozīmīgu cilvēku skaitu”, un uzsvēra, ka veic nopietnas izmaiņas, lai nodrošinātu drošāku saskarsmi ar MI.

”Mēs turpinām sadarboties ar garīgās veselības ekspertiem, lai uzlabotu drošības protokolus un reaģētu atbildīgi,” teikts ”OpenAI” paziņojumā.