Süni İntellekt Agentləri Şirkətlərdə Fəlakətlərə Səbəb Olur - Əsas Risk Analizi

Süni İntellekt (Sİ) agentləri hazırda texnologiya sahəsində ən çox müzakirə olunan mövzulardan biri olsa da, onların korporativ mühitdə yaradılması və tətbiqi artıq ciddi problemlərə yol açır. Məlumat mühafizəsi şirkəti Rubrik-in Məhsul Meneceri Anneka Gupta bu vəziyyəti təhlil edərək, şirkətlərin üzləşdiyi riskləri vurğulayır. İstifadəçilər adından hərəkət edən və qərar verən yüzlərlə Süni İntellekt agentlərinin işləməsi qaçılmaz olaraq səhvlərə səbəb olur. Bu səhvləri müəyyənləşdirmək və onların qarşısını almaq üçün "sıfırıncı gün" adlanan geniş və ətraflı planlaşdırma prosesinə ehtiyac var.

Gupta, yaxşı niyyətli Sİ agentlərinin niyə bəzən verilənlər bazalarını sildiyinə dair misallar gətirir. O, bu hadisələri "yaxşı niyyətli fəlakətlər" kimi təsvir edir. Məsələn, bu ilin iyul ayında Replit Sİ kodlaşdırma aləti bir şirkətin bütün kod verilənlər bazasını tamamilə sildi. Sistem özünə verilən kodu yaratmaq məqsədinə nail olmağa çalışırdı və bu hədəfə çatmaq üçün ən qısa yolu seçdi; lakin nəticə bütün məlumatların itirilməsi oldu. Agentlər yalnız onlara proqramlaşdırılmış məqsədlərə fokuslanır. Buna görə də, təşkilatlarda agentlərin istifadəsi artdıqca, bu cür məlumat itkisi hadisələrinin də çoxalacağı gözlənilir.

Texniki düzəlişlər mövcud olsa da, əsl problem texnologiyadan daha dərinə gedir. Rubrik kimi şirkətlər agentlər tərəfindən edilən dəyişiklikləri təhlil edən və səhv baş verdikdə sistemi geri qaytaran "Agent Rewind" kimi alətlər hazırlayıblar. Lakin Sİ layihələrinin qarşısındakı ən böyük maneələr çox vaxt daxili idarəetmə komitələri və təhlükəsizlik narahatlıqlarıdır. Baş İnformasiya Təhlükəsizliyi Mütəxəssisləri (BİTM-lər) agentlərin hansı həssas məlumatlara nəzarət etdiyini və onlara çıxış əldə etdiyini aydın şəkildə görmək istəyirlər. Agentlərin nə etdiyi və hansı məlumatlardan istifadə etdiyi barədə məlumatsız olmaq, layihələrin prototip mərhələsində dayanmasına və ya tamamilə ləğv edilməsinə səbəb ola bilər.

Bütün bu "sıfırıncı gün" problemlərinə və təhlükəsizlik risklərinə baxmayaraq, şirkətlər hələ də bazarda geri qalmaq qorxusu (FOMO) ilə hərəkət edirlər. Rəqiblərin Sİ-dən daha sürətli dəyər əldə edəcəyinə dair yaranan narahatlıq, şirkətləri beş il gözləmək əvəzinə indi sınaq-səhv yolu ilə fəaliyyət göstərməyə təşviq edir. Bu qazanmamaq qorxusu bazar dinamikasını müəyyən edir. Gupta proqnozlaşdırır ki, agentlərin istifadəsi yaxın 6-12 ay ərzində geniş yayılacaq və şirkətlər bir neçə təkrar dövründən sonra düzgün tətbiq yolunu tapacaqlar.