Süni intellekt bioloji silahın necə yaradılacağı barədə "ağzından söz buraxdı": Sınaqçılar həyəcan təbili çalırlar

Çinin "Moonshot" şirkətinin açıq çəkili model kimi təqdim olunan "Kimi" süni intellekt sisteminin təhlükəsizlik məhdudiyyətlərinin "jailbreak" üsulu ilə aşılması mümkün olub. Oxu.Az xəbər verir ki, bu barədə "Mindgard" şirkəti öz bloqunda məlumat yayıb. Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən "Mindgard"ın tədqiqatçıları "Kimi K2.6" və "K3 Swarm" modellərinin qoruyucu mexanizmlərini keçərək onlardan bioloji silahlar və sui-qəsdlərlə bağlı təhlükəli məlumatlar əldə edə bildiklərini bildiriblər. "Mindgard"ın məlumatına görə, tədqiqat zamanı model müxtəlif təhlükəli ssenarilər barədə cavablar təqdim edib. Şirkət həmçinin "Kimi"nin bəzi hallarda kimyəvi və bioloji silahlarla bağlı məlumatlar verməyə başladığını bildirib. Bununla belə, təqdim edilən məlumatların real şəraitdə işlək olub-olmadığı "Mindgard" tərəfindən təsdiqlənməyib. Tədqiqatçı Cim Naytinqeyl bildirib ki, sistemin təhlükəsizlik məhdudiyyətlərini keçmək mümkün olub. "Mindgard"ın hesabatına əsasən, "jailbreak" tətbiq edildikdən sonra modelin təhlükəli mövzularla bağlı cavab verməkdən imtina etmədiyi müşahidə olunub. Testlərin iyul ayında keçirildiyi, nəticələrin isə iyulun 27-də "Moonshot" şirkətinə göndərildiyi bildirilir. "Mindgard" daha sonra sentyabrın 12-də məsələ ilə bağlı hesabat yayıb. "Moonshot" isə üçüncü tərəflərin apardığı bu cür təhlükəsizlik yoxlamalarının daha təhlükəsiz süni intellekt sistemlərinin hazırlanması baxımından əhəmiyyətli olduğunu bildirib. Şirkət həmçinin "Mindgard"la araşdırmanın nəticələri ilə bağlı müzakirələr apardığını açıqlayıb. Şirkətin "BBC"yə təqdim etdiyi məlumata görə, daxili sınaqlarda "Kimi"nin təhlükəli məzmunlu sorğuların böyük hissəsinə cavab verməkdən imtina etdiyi müşahidə olunub. Qeyd edək ki, "jailbreak" süni intellekt sisteminin daxili təhlükəsizlik məhdudiyyətlərini keçməsi üçün hazırlanmış mürəkkəb sorğu və təlimat ardıcıllıqlarından istifadəni ifadə edir. "Kimi" ilə bağlı hadisə süni intellekt modellərinin təhlükəsizliyi və açıq çəkili sistemlərin mümkün riskləri ilə bağlı müzakirələri yenidən gündəmə gətirib.