BMT də xəbərdarlıq etdi: Sİ real təhlükədir?

Süni intellektin inkişafı ilə bağlı gələn xəbərlər artıq sadəcə “yeni bir proqram” mövzusundan çıxıb, “ekzistensial təhlükə” müzakirəsinə çevrilib.

Bu sözləri Axar.az-a açıqlamasında “Azərbaycan Kibertəhlükəsizlik Təşkilatları Assosiasiyası” İctimai Birliyinin eksperti Fərid Musayev süni intellektin təhlükələri barədə danışarkən deyib.

Ekspertin sözlərinə görə, süni intellektin təhlükəli hesab edilməsinin bir neçə səbəbi var:

“Bu, sadəcə robotların dünyanı ələ keçirməsi kimi bədii filmlərin mövzusu deyil, ciddi elmi və texnoloji problemlərdir:

1. “Uyğunlaşdırma" problemi: Bu, ən böyük riskdir. Əgər biz süni intellektə çox mürəkkəb bir məqsəd versək və onun məqsədləri insan dəyərləri, etik normaları və ya sağ qalma instinkti ilə tam üst-üstə düşməsə, Sİ həmin məqsədə çatmaq üçün insanlığa zərər verən “məntiqi” yollar seçə bilər.

2. ”Qara qutu” effekti: Müasir Sİ modelləri o qədər mürəkkəbdir ki, hətta onları yaradan mühəndislər də modelin müəyyən bir qərarı niyə və necə verdiyini tam izah edə bilmirlər. Nəzarət edə bilmədiyiniz bir güc təhlükəli ola bilər.

3. Sosial və iqtisadi xaos: Kütləvi işsizlik, dərin saxtakarlıq, dezinformasiya və kiber-savaşlar artıq uzaq gələcək deyil. Sİ vasitəsilə manipulyasiya edilən cəmiyyətlər və sarsılan iqtisadiyyatlar real təhlükədir”.

Ekspertin fikrincə, dünya bu məsələdə bölünmüş vəziyyətdədir:

“Təhlükəsizlik tərəfdarları: bu düşüncəyə görə, biz Sİ-nin inkişafını yavaşlatmalı və onun idarə olunması, etik qaydaları və təhlükəsizlik protokolları üzərində işləməliyik. Hesab edilir ki, təhlükəsizlik tam təmin olunmadan atılan hər sürətli addım insanlıq üçün geridönməz bir uçurum ola bilər.

Digəri isə inkişaf tərəfdarları: bu tərəf isə hesab edir ki, texnologiyanı dayandırmaq mümkün deyil və bu, rəqabəti artıracaq. Düşünülür ki, təhlükəsizlik yalnız real təcrübə və davamlı inkişaf prosesi zamanı öyrənilə bilər. Yəni, biz həm inkişaf etməli, həm də eyni zamanda təhlükəsizlik mexanizmlərini qurmalıyıq.

Nəticədə insanlıq üçün balansın axtarışını təmin etməliyik.

Mütəxəssislərin əksəriyyəti artıq üçüncü bir yolun vacibliyini vurğulayır. Bu o deməkdir ki, süni intellektə artıq “yaradılıb, sonra təhlükəsizlik əlavə edilsin" prinsipi ilə deyil, “hər bir kod sətri və hər bir yeni model təhlükəsizlik və etika filtrləri daxilində inşa edilsin” prinsipi ilə yanaşırlar.

Süni intellekt bizim ən böyük köməyimiz ola bilər, lakin bu, yalnız onun nəzarət altında və insan dəyərlərinə sadiq qalması şərtilə mümkündür”.

Qeyd edək ki, BMT də süni intellektin inkişafı ilə bağlı riskləri real sayıb və onların qarşısının alınması üçün təcili tədbirlər görülməli olduğunu bildirib.