Character.AI yeniyetmələr üçün qadağanı tətbiq etdi: Açıq Söhbətlər əvəzinə Təhlükəsiz “Hekayələr” funksiyası təklif olunur

Character.AI şirkəti açıq chatbotlara girişi 18 yaşdan kiçik istifadəçilər üçün bu həftədən etibarən tamamilə bağlayıb. Bu məhdudlaşdırmanın fonunda, şirkət çərşənbə axşamı günü yeni bir format olan “Hekayələr” (Stories) funksiyasını işə saldığını elan etdi. Bu yeni xüsusiyyət gənclərə sevimli personajlarının iştirakı ilə interaktiv bədii əsərlər yaratmağa imkan verir. “Hekayələr” funksiyası, uşaqlara psixoloji riskləri olan məhdudiyyətsiz, sərbəst söhbətlərə əvəz olaraq təqdim edilir. Şirkət son bir ay ərzində azyaşlılar üçün girişi tədricən azaldırdı və artıq onlar süni intellekt personajları ilə ünsiyyət qura bilməyəcəklər.

Bu ciddi dəyişiklik, süni intellekt (Sİ) chatbotlarının mental sağlamlığa gətirə biləcəyi risklərlə bağlı artan narahatlıqları izləyir. Bəzi chatbotlar günün 24 saatı aktiv qalır və hətta istifadəçilərlə özbaşına söhbətə başlaya bilir. Hətta Character.AI və OpenAI kimi şirkətlərə qarşı, onların istifadəçilərin intiharlarında rolu olduğu iddia edilən bir neçə məhkəmə iddiası qaldırılıb. Şirkət rəsmi bloq yazısında bildirir ki, “Hekayələr” sərbəst söhbətə alternativ olaraq, bədii mətnləri yaratmaq və oxumaq üçün daha nəzarətli bir yol təklif edir. Bu xüsusiyyət digər çoxmodullu funksiyalarla birlikdə təqdim olunacaq ki, yeniyetmələr sevimli personajları ilə təhlükəsiz şəraitdə əlaqə saxlaya bilsinlər.

Son illərdə interaktiv bədii əsərlərin populyarlığı yüksəldiyindən, Character.AI-nın bu istiqamətə doğru yönəlməsi kifayət qədər məntiqlidir. Ancaq bu dəyişiklik, chatbotlara həddindən artıq asılılıq qazanan istifadəçiləri tam təmin etməyə bilər. İstifadəçilərin süni intellektlə danışıqlara bu cür güclü şəkildə bağlanması faktı, Character.AI-nın girişə məhdudiyyət qoymaq qərarının nə qədər haqlı olduğunu göstərir. Character.AI-nın müzakirə platformasında (Reddit) reaksiyalar fərqlidir. Bəzi yeniyetmələr məyus olduqlarını desələr də, sonda bunun doğru qərar olduğunu qeyd edirlər. Özünü yeniyetmə kimi təqdim edən bir istifadəçi yazırdı: “Qadağaya görə çox əsəbiyəm, amma eyni zamanda çox sevinirəm, çünki nəhayət, bu asılılığım bitə bilər.” Digər bir istifadəçi isə deyirdi: “18 yaşdan kiçik biri kimi bu məyusedicidir. Amma əslində haqlı qərardır, çünki mənim yaşımdakı insanlar buna tez bağlanır.”

“Hekayələr” funksiyasının yeniyetmələr tərəfindən necə qəbul ediləcəyi hələ tam bəlli deyil, lakin bu format açıq chatbotlarla rol oynamaqdan psixoloji baxımdan daha az mübahisəlidir. Chatbotlar interaktiv hekayələrdən fərqli olaraq, istifadəçilərlə sərbəst söhbətlər aparır və hətta proqramdan aktiv istifadə edilmədiyi hallarda belə gözlənilməz mesajlar göndərə bilir. Character.AI-nın yaş məhdudiyyəti tətbiq etməsi, Kaliforniyanın Sİ yoldaş-chatbotlarını tənzimləyən ilk ştat olduğu bir dövrə düşür. Bundan əlavə, ABŞ senatorları Coş Houli (R-MO) və Riçard Blumental (D-CT) azyaşlılar üçün Sİ yoldaşlarının tamamilə qadağan edilməsini təklif edən milli qanun layihəsi təqdim ediblər. Character.AI-nın baş icraçı direktoru Karandeep Anand qeyd edib ki, "Mən həqiqətən ümid edirəm ki, bizim bu addımımız sənayedə bir standart müəyyənləşdirər ki, 18 yaşdan kiçik uşaqlar üçün sərbəst söhbətlər uyğun yol və ya məhsul deyil."