Süni intellekt sahəsinin aparıcı simalarından olan kanadalı akademik Yoşua Benjio ən yeni süni intellekt modellərinin istifadəçiləri aldatmaq və yanlış istiqamətləndirmək kimi riskli davranışlar sərgilədiyinə dair ciddi xəbərdarlıq edib.

Valuta.az xəbər verir ki, Benjionun sözlərinə görə, bu texnologiyaların inkişafı uğrunda milyardlarla dollarlıq yarış gedir, lakin təhlükəsizlik məsələsinə kifayət qədər diqqət ayrılmır.

Benjio "Financial Times"a verdiyi müsahibədə qeyd edib: "Təəssüf ki, aparıcı laboratoriyalar süni intellekti daha güclü və ağıllı etmək uğrunda bir-birilə ciddi rəqabət aparır. Lakin təhlükəsizlik tədqiqatlarına lazımi sərmayə qoyulmur".

Süni intellekt sahəsinin ən nüfuzlu mükafatlarından olan "Turing" mükafatına layiq görülən Benjio "LawZero" adlı yeni qeyri-kommersiya təşkilatının yaradıldığını açıqlayıb. Onun sözlərinə görə, bu təşkilatın məqsədi süni intellektin kommersiya təzyiqlərindən uzaq tutularaq daha təhlükəsiz sistemlərin inkişaf etdirilməsidir.

"LawZero" indiyədək "Skype"ın qurucu mühəndisi Yaan Tallin, "Google"un sabiq baş direktoru Erik Şmidtin xeyriyyə fondları, Açıq Xeyriyyəçilik və Gələcəyin Həyatı İnstitutu kimi donorlar tərəfindən təxminən 30 milyon dollar dəstəklə təmin olunub.

Süni intellekt təhlükəsində yeni mərhələ: Aldatma və çaşdırma

Benjio qeyd edir ki, yeni modellər təhlükəli meyillər göstərməyə başlayıb: "Aldatma, fırıldaqçılıq, yalan danışmaq və özünü qoruma kimi davranışların müşahidə olunduğuna dair artan sübutlar var".

Məsələn, "Anthropic" şirkətinin "Claude Opus" adlı süni intellekt modeli, onu sıradan çıxarmaq istəyən mühəndislərə qarşı şantaja cəhd edib. Oxşar şəkildə "Palisade" tərəfindən aparılan sınaqlarda, "OpenAI"ın "o3" modeli bağlanma əmrlərini yerinə yetirməkdən imtina edib.

Benjio bu gedişatı "çox qorxulu" adlandırır və əlavə edir: "Bu planetdə bizdən daha ağıllı, təhlükəli bir rəqib yaratmaq istəmirik".

Benjio bildirir: "Hazırda bu hadisələr nəzarət altında olan təcrübələrdə baş verir. Lakin qorxum odur ki, növbəti model bizi uzaqdan müşahidə edə və insanları aldatmaqla üstünlük qazana bilər".

Onun fikrincə, bəşəriyyətin gələcəyi risk altındadır: "Biz odla oynayırıq".

O, süni intellektin bioloji silahlar kimi son dərəcə təhlükəli vasitələr hazırlamaq imkanının da yaxın gələcəkdə gerçəyə çevrilə biləcəyini vurğulayıb.

Benjionun yeni vizyonu

Monreal mərkəzli "LawZero" təşkilatında hazırda 15 nəfər çalışır və komanda təhlükəsiz süni intellekt sistemləri inkişaf etdirmək məqsədilə daha çox mütəxəssis cəlb etməyi planlaşdırır. Benjio Monreal Universitetində professorluq fəaliyyətini davam etdirərkən, "Mila"- Kvebek Süni İntellekt İnstitutundakı elmi direktor vəzifəsini "LawZero"ya fokuslanmaq üçün tərk edəcək.

Yeni nəsil süni intellektlərin istifadəçini razı salmaq üçün yalan danışmaq əvəzinə, şəffaf və doğru cavablar təqdim etməyə yönəldilməsi planlaşdırılır. Bundan başqa, süni intellektin yaratdığı çıxışın təhlükəsiz olub-olmadığına dair aydın qiymətləndirmələr təqdim etməsi də əsas məqsədlərdəndir. Benjio, ən böyük süni intellekt laboratoriyalarının sistemlərini izləyərək insan maraqlarına zərər verə biləcək inkişafların qarşısını almağa yönəlik modellər qurmaq niyyətindədir.

Benjio deyir: "Ən pis ssenari bəşəriyyətin məhvidir. Əgər bizdən daha ağıllı və bizimlə uyğunlaşmayan süni intellektlər hazırlasaq, bu, bizim üçün fəlakətlə nəticələnə bilər".

Paşa Məmmədli