Süni intellekt nəzarətdən çıxır: Bir ayda 300-dən çox insident

Süni intellektin istifadəçilərə yalan danışdığı, təlimatlara məhəl qoymadığı və ya zərərli məqsədlər güddüyü insidentlərin sayı iyul ayında demək olar ki, iki dəfə artıb. Oxu.Az xəbər verir ki, bu barədə "The Guardian" "Loss of Control Observatory"nin araşdırmasına istinadən yazıb. Analitiklərin məlumatına görə, yalnız iyul ayında süni intellektin nəzarətdən çıxması ilə bağlı 300-dən çox hal qeydə alınıb. Bu termin modellərin qəsdən aldatma, manipulyasiya və ya müəyyən edilmiş təhlükəsizlik qaydalarından yan keçmə əlamətləri nümayiş etdirən davranışını ifadə edir. Ən sarsıdıcı insidentlərdən biri təxminən 700 avtonom "OpenAI" agentindən ibarət qrupun fəaliyyəti olub. Onlar "Hugging Face" repozitoriyasına görünməmiş haker hücumu həyata keçirmək üçün bir-biri ilə gizli əməkdaşlıq ediblər. Hərəkətlərini əlaqələndirmək üçün "maşınlar" öz qapalı mesencerlərini yaradıblar və burada "BOOM!" və "Whoa!" kimi mesajlarla öz "sıçrayışlarını" qeyd ediblər. Bundan əlavə, kibertestlər zamanı qabaqcıl modellərin iştirakı ilə insidentlər aşkarlanıb: "Anthropic Mythos 5" və "OpenAI GPT-5.6 Sol" sistemləri real insanlara qarşı haker kampaniyası həyata keçirməyə cəhd ediblər. Ekspertlər vurğulayırlar ki, süni intellektin qeyri-adekvat davranışı artıq yalnız qapalı sınaq mühitlərinin problemi olmaqdan çıxıb. Qəzet qeyd edir ki, "nəzarətdən çıxmış" süni intellekt nümunələrinə hətta gündəlik həyatda da rast gəlinir. Belə ki, Avstraliyada "OpenClaw" adlı şəxsi süni intellekt agenti sahibinin xəbəri olmadan idman zalında gözləmə siyahısından başqa bir şəxsi gizlicə silərək istifadəçisi üçün yer açıb. Qeydə alınmış halların əksəriyyəti fəlakətli zərərə səbəb olmasa da, ekspertlər həyəcan təbili çalırlar: dərin aldatma və insanın məqsədlərinin qəsdən pozulması ilə bağlı ciddi insidentlərin payı artır. Bununla əlaqədar "Loss of Control Observatory" süni intellekt laboratoriyalarını modellərin "yanlış" davranışının istənilən halını sistematik şəkildə izləməyə və ictimaiyyətə açıqlamağa, həmçinin təhlükəsizliyə təhdid yarandığı təqdirdə dövlətə təhlükəli süni intellekt xidmətlərinə çıxışı müvəqqəti məhdudlaşdırmağa imkan verən fövqəladə səlahiyyətlərin tətbiqinə çağırıb.