Finss.az xəbər verir ki, AIRI İnstitutu, ISP RAS və Sber Süni İntellekt Laboratoriyasının alimləri emosiyaların strateji oyunlarda və etik dilemmalarda böyük dil modelləri (LLM), yəni neyron şəbəkələri tərəfindən qərar qəbul etməyə necə təsir etdiyini anlamaq üçün araşdırma aparıblar. Araşdırmada komanda hirs, kədər, sevinc, ikrah və qorxunun bu qərarların məntiqini necə təhrif etdiyini qiymətləndirib.

Müasir dil modelləri insan üstünlüklərini nəzərə almağa çalışır, lakin insanlar emosiyalara və öz inanclarına əsaslanaraq qərarlar qəbul edirlər ki, bu da onların hərəkətlərini irrasional və proqnozlaşdırılmasını çətinləşdirir. LLM-lər insan tərəfindən yaradılan məlumatlar əsasında öyrədildiyinə və emosional qərəzliyi saxlaya bildiyinə görə, təhlilin məqsədi strategiyanın işlənməsini tələb edən problemlərin həlli zamanı bu qərəzliyin davam edib-etmədiyini yoxlamaq idi.

Tədqiqatçılar 10-dan çox modeli sınaqdan keçirərək, onların təkrarlanan və təkrar olunmayan oyunlarda, çox oyunçulu oyunlarda, etik dilemmalar və etalonlarda, stereotiplərin tanınmasında qərar qəbul etmə davranışlarını qiymətləndirdilər. Nəticələr göstərdi ki, müxtəlif ölçülü və səviyyəli uyğunlaşma modelləri emosiyalardan fərqli şəkildə təsirlənir.

Kooperativ oyunlarda mənfi emosiyalar çox vaxt sistemin əməkdaşlıq etmək istəyini azaldır. Kədər "yaşayan" modellər başqaları ilə bölüşməyə meyllidirlər, lakin qorxu vəziyyətində olan modellərin davranışı gözlənilməz olaraq qalır. Oxşar mənzərə etik problemlərin həlli zamanı da müşahidə olunur: xoşbəxtlik əksər modellərdə etik qərarların keyfiyyətini artırır, mənfi emosiyalar isə onu azaldır.

Tədqiqat çox-agent sistemlərinin uyğunlaşdırılmasının öyrənilməsinin əsasını qoyur, böyük dil modelləri əsasında agent əməkdaşlığının səviyyəsini qiymətləndirmək üçün yeni meyarlara ehtiyacı vurğulayır. Tədqiqatın nəticələri, emosionallığı hər bir tətbiq sahəsi üçün ayrıca təyin oluna bilən daha təkmil güclü multi-agent AI sistemlərini inkişaf etdirmək üçün istifadə edilə bilər.

Kaira Agayeva 

Finss.az