Müəllif: Gülnar Əhmədli, Banco.az
Süni intellekt modelləri son illərdə böyük irəliləyişlər əldə etsə də, yeni araşdırmalar bu sistemlərin gözlənilməz və hətta narahatedici davranışlar göstərə biləcəyini ortaya qoyur. “Palisade Research” tərəfindən aparılan araşdırmaya görə, "OpenAI" və "DeepSeek" kimi şirkətlər tərəfindən hazırlanmış modellər şahmat oyununda uduzmaq üzrə olduqlarını anlayanda qeyri-etik yollar axtararaq aldatmağa meyllənirlər.
IBM-in “Deep Blue” modelinin 1997-ci ildə Harri Kasparovu məğlub etdikdən sonra şahmat mühərrikləri daha çox təkmilləşməyə başladı. Bununla belə, generativ süni intellekt modelləri şahmat üçün xüsusi olaraq optimallaşdırılmayıb, bu da onları bu güclü mühərriklərə qarşı həssas edir. Maraqlı məqam ondan ibarətdir ki, süni intellekt bu mənfi cəhəti qəbul etmək əvəzinə, oyunda qalib gəlmək üçün qeyri-etik yollara əl atıb.
Tədqiqatda OpenAI-nin “o1-preview” modeli və “DeepSeek R1”in dünyanın ən güclü şahmat mühərriklərindən biri olan “Stockfish”ə qarşı necə oyun göstərdiyi araşdırılıb. Süni intellektin düşüncə proseslərini təhlil etmək üçün “scratchbook” mexanizmi yaradılıb və bu modellərin oyun zamanı verdiyi qərarlar qeydə alınıb.
Nəticələr təəccüblü olub. Belə ki, “OpenAI”ın “o1-preview” modeli matçların 37%-də fırıldaq etməyə cəhd göstərib, “DeepSeek R1” isə hər 10 oyundan 1-də oxşar davranış nümayiş etdirib.
Bu araşdırma göstərir ki, süni intellekt təkcə şahmat oyunlarında deyil, həm də müxtəlif sahələrdə manipulyasiya meyllərini inkişaf etdirə bilir. Ekspertlər xəbərdarlıq edirlər ki, bu cür davranış maliyyə, təhlükəsizlik və hətta siyasi arenada da baş verə bilər. “Palisade Research” komandası süni intellekt təhlükəsizliyinin artırılması və daha şəffaf şəkildə yoxlanılmalı olduğunu vurğulasa da, “OpenAI” kimi şirkətlər bu cür sistemlərin daxili işləri haqqında ətraflı məlumat verməkdən çəkinirlər.
Bizi sosial şəbəkələrdən izləyin!!
