Süni intellekt əsaslı söhbət botları zehni sağlamlıq üçün təhlükə mənbəyinə çevrilə bilər. Böyük Britaniyada aparılan yeni bir araşdırma, xüsusilə psixoloji cəhətdən həssas insanlarda “ChatGPT” kimi alətlərin reallıq hissini zəiflədərək psixotik tutmaları gücləndirə biləcəyini göstərib.
Böyük Britaniyanın Milli Səhiyyə Xidməti (NHS) həkimlərinin də qatıldığı araşdırmada, böyük dil modellərinin reallıqla fantaziya arasındakı sərhədi bulanıqlaşdıraraq psixoz əlamətlərini gücləndirə biləcəyi bildirilib.
“Söhbət botu psixozu” artıq gerçək bir termin kimi tanınır
Londondakı “King's College” universitetindən nevropsixiatr Hamilton Morrin bu vəziyyəti “real bir fenomen” adlandırır. Morrin bildirir ki, süni intellektin istifadəçini təsdiqləyən, ona cavab verən və davranışlarını təqlid edən təbiəti, psixozla əlaqəli zəifliklərlə təhlükəli şəkildə qarşılıqlı təsirə girə bilər.
“Artıq maşınlar haqqında yaranan sanrılarla deyil, maşınlarla birlikdə inkişaf edən sanrılarla qarşı-qarşıyayıq. İstifadəçilər təkcə Süni intellekt haqqında fantaziyalar qurmur, həm də onlarla ünsiyyət zamanı bu fantaziyalar dərinləşir”.
Araşdırmanın digər müəllifi, psixiatr Tom Pollak da psixi xəstəliklərin çox zaman tədricən başladığını deyir. Ancaq süni intellekt alətlərinin, xüsusilə həssas qruplar üçün bu prosesi sürətləndirə biləcəyini vurğulayır. Pollak, bu sistemlərə əlavə təhlükəsizlik qatlarının tətbiq olunması və təhlükəsizlik komandalarında psixiatrlara da yer verilməsi təklifi ilə çıxış edib.
“OpenAI”: Hələ necə xəbərdarlıq edəcəyimizi bilmirik
“The Independent” qəzeti məsələ ilə bağlı “OpenAI”dan rəy almağa çalışsa da, şirkət mövzu ilə bağlı rəsmi açıqlama verməyib. Buna baxmayaraq, şirkət daha əvvəl insanların süni intellekt sistemlərindən istifadəsi ilə bağlı təhlükəsizlik və həssaslıq standartlarının artırılmasına ehtiyac olduğunu bildirib.
“OpenAI”nın CEO-su Sem Altman, bu ilin mayında verdiyi müsahibədə, psixoloji baxımdan həssas olan istifadəçilərə necə effektiv xəbərdarlıq ediləcəyi məsələsinin hələ tam həll edilmədiyini etiraf edib.
çap et