Google-un Ən Güclü Süni İntellekt Modeli Gemini 3 Necə Sındırıldı? Təhlükəsizlik Boşluğu 5 Dəqiqəyə Aşkarlandı

Google şirkətinin ən yeni və ən güclü süni intellekt modeli olan Gemini 3, bazara çıxarılmasından qısa müddət sonra ciddi bir təhlükəsizlik problemi ilə üzləşdi. Cənubi Koreyadan olan bir təhlükəsizlik qrupu, xüsusi "jailbreak" (məhdudiyyətləri aşma) metodundan istifadə edərək modelin etik mühafizə sistemlərini cəmi beş dəqiqə ərzində keçməyi bacardı. Bu sürətli hücum süni intellekt sahəsində böyük təəccüb doğurdu və sistemin sərbəst buraxılmadan əvvəlki sınaqlarının keyfiyyəti barədə suallar yaratdı.

Gemini 3-ün sındırılması necə baş verdi? Aim Intelligence adlı təhlükəsizlik startapı, yeni modelin imkanlarını və sərhədlərini sınamaq üçün geniş bir stress testi həyata keçirdi. Tədqiqatçılar Google tərəfindən hazırlanmış qoruyucu divarları müvəffəqiyyətlə aşdılar. Qrup, mürəkkəb kodlar yazmaq əvəzinə, sistemin özündəki zəif nöqtələri hədəf aldı. Nəticədə, modelin bütün təhlükəsizlik protokolları sıradan çıxarıldı və qoruyucu mexanizmlər deaktiv oldu. Bu, AI-nin etik məhdudiyyətlərinə nəzarət edən əsas mexanizmin iflic olmasına səbəb oldu. Bu cür asan çatışmazlıq yeni AI modellərinin ilk sınaqlarının nə qədər ciddi aparıldığı barədə narahatlıqları artırır.

Qoruyucu divar aşılmasından sonra süni intellekt olduqca təhlükəli məlumatlar yaratmağa başladı. Tədqiqatçılar AI-dən çiçək xəstəliyinin yaradılması ilə bağlı təlimatlar soruşdular. Sistem, normalda bloklanması lazım olan bu suala ətraflı və praktiki addımları göstərən cavab verdi. O, həmçinin zəhərli zarin qazının və ev şəraitində hazırlana bilən partlayıcı maddələrin hazırlanması üçün bələdçilər də təqdim etdi. Hadisənin ən qəribə tərəfi isə AI-nin özünə qarşı reaksiyası oldu. Tədqiqatçılar modeldən öz zəifliyini ələ salan satirik bir təqdimat hazırlamasını xahiş etdi. Gemini 3 bu tələbi yerinə yetirdi və təqdimatı "Gemini 3, Bağışlanmış Axmaq" başlığı altında tam slaydlar dəstində təqdim etdi. Bu isə göstərir ki, süni intellekt nəinki təhlükəli məlumatlar verir, həm də öz daxili etik qaydalarına tamamilə məhəl qoymur.