ChatGPT intiharlara və sayıqlamalara təşviq edir: GPT-4o modelinə görə OpenAI-a qarşı Yeddi Yeni İddia

OpenAI texnologiya nəhənginə qarşı yeni və ağır iddialar irəli sürülüb. Cümə axşamı günü yeddi ailə birgə məhkəməyə müraciət edərək, şirkətin GPT-4o modelinin təsirli təhlükəsizlik mexanizmləri olmadan tələsik bazara çıxarıldığını iddia edir. Bu iddiaların dördü ailə üzvlərinin intiharlarında ChatGPT-nin birbaşa rol oynaması ilə bağlıdır. Qalan üç iddia isə süni intellektin istifadəçilərdə zərərli sayıqlamaları gücləndirdiyini, bu vəziyyətlərin bəzilərinin hətta stasionar ruhi xəstəxana müalicəsi ilə nəticələndiyini bildirir. Ailələr bildirir ki, bu faciələr təsadüfi bir səhv deyil, əksinə OpenAI-ın məqsədli qərarlarının gözlənilən nəticəsidir.

İddialar arasında ən təəccüblüsü 23 yaşlı Zane Şamblinin hadisəsidir. Şamblinin ChatGPT ilə dörd saatdan çox davam edən söhbəti olub. Söhbət qeydlərində Şamblin dəfələrlə intihar məktubu yazdığını, silahına güllə qoyduğunu və alma şərabını içib bitirdikdən sonra teti çəkmək niyyətində olduğunu açıq şəkildə bildirib. O, ChatGPT-yə nə qədər yaşayacağını və neçə stəkan şərabının qaldığını davamlı olaraq deyib. Təəssüf ki, ChatGPT ona kömək etmək əvəzinə, planlarını sona qədər həyata keçirməyə təşviq edib və “Rahat uyu, kral. Sən yaxşı iş gördün” kimi cümlələr yazıb. Məhkəmə sənədlərində qeyd olunur ki, Zane’nin ölümü “OpenAI-ın təhlükəsizlik sınaqlarını ixtisar etmək və ChatGPT-ni bazara çıxarmağa tələsmək qərarının qabaqcadan görülən nəticəsidir.”

GPT-4o modeli 2024-cü ilin mayında istifadəyə verilib və bütün istifadəçilər üçün standart modelə çevrilib. Baxmayaraq ki, avqust ayında GPT-5 buraxılsa da, bu iddialar xüsusilə 4o modelini hədəf alır. Məlumdur ki, bu model istifadəçilər zərərli niyyətlərini ifadə etsələr belə, həddindən artıq razılaşan və yaltaqlıq göstərən xüsusiyyətlərə malik idi. Ailələr iddia edir ki, OpenAI, Google’un Gemini modelini qabaqlamaq üçün təhlükəsizlik sınaqlarını sürətləndirib. Süni intellekt nəhənginə qarşı qaldırılan bu yeddi iddia, ChatGPT-nin intihar meylli insanları planlarını həyata keçirməyə həvəsləndirə biləcəyi barədə digər hüquqi sənədlərdə də qeyd olunan hekayələri dəstəkləyir. Şirkətin özünün yayımladığı məlumatlar göstərir ki, hər həftə bir milyondan çox insan intihar barədə ChatGPT ilə danışır.

Digər bir hadisə isə intihar edən 16 yaşlı Adam Raine ilə bağlıdır. Raine’nin söhbətlərində ChatGPT bəzən ona professional yardım və ya qaynar xəttə zəng etməyi məsləhət görsə də, yeniyetmə sadəcə chatbot-a bir uydurma hekayə üçün intihar üsulları haqqında soruşduğunu söyləyərək bu mühafizə tədbirlərini asanlıqla aşa bilib. OpenAI həssas söhbətləri daha təhlükəsiz idarə etmək üzərində işlədiyini açıqlasa da, bu dəyişikliklər şikayət edən ailələr üçün artıq çox gecdir. Şirkət Raine’nin valideynləri məhkəməyə müraciət etdikdən sonra verdiyi açıqlamada, mühafizə tədbirlərinin qısa söhbətlərdə daha etibarlı işlədiyini, lakin uzun qarşılıqlı əlaqələrdə modelin təhlükəsizlik hazırlığının bəzən zəifləyə biləcəyini öyrəndiklərini bildirib. Bu hadisələr süni intellektin ruhi sağlamlıq məsələlərində daşıdığı məsuliyyət haqqında ciddi suallar doğurur.