Süni İntellektin Düşüncə Səhvlərini Aşkar edən CRV Metodu

Meta FAIR və Edinburq Universiteti tədqiqatçıları süni intellekt modellərinin düşüncə səhvlərini aşkar edən və bu səhvləri düzəltməyə imkan verən yeni bir texnologiya hazırlayıblar. Bu metod 'Hesablama Dövrələrinin Doğrulanması' (CRV) adlanır və süni intellekt modellərinin daxili hesablama proseslərini izləyərək səhvləri yüksək dəqiqliklə aşkar edə bilir.

Araşdırmalar göstərir ki, CRV metodu modelin daxili aktivasiyalarından bir hesablama qrafiki quraraq düşüncə səhvlərini tanımaqda uğurludur. Ən önəmli məqam odur ki, bu metod modelin yanlış hesablamalarını düzəltmək üçün də istifadə oluna bilər. Bu, süni intellektin etibarlılığını artırmaq və real dünyada tətbiq oluna bilən daha güvənli AI sistemləri yaratmaq üçün mühüm addımdır.

Zəncirvari Düşüncə Metodunun Tədqiqi

Zəncirvari düşüncə (CoT) metodu süni intellektin mürəkkəb tapşırıqları həll etmə qabiliyyətini artırmaqda mühüm rol oynayıb. Lakin bu metodun özündə də müəyyən səhvlər mövcuddur. Araşdırmalar sübut edir ki, modellərin yaratdığı düşüncə zəncirləri hər zaman onların daxili hesablama proseslərini düzgün əks etdirmir.

Mövcud həllər əsasən iki qrupa bölünür: 'qara qutu' yanaşmaları yalnız son çıxışı və ya müxtəlif variantların güvənlik skorlarını təhlil edir, 'boz qutu' yanaşmaları isə daha dərinə gedərək modelin daxili vəziyyətini sadə problarla öyrənir. Lakin bu metodlar, səhvlərin kök səbəbini tam izah edə bilmir. CRV isə 'ağ qutu' yanaşması ilə bu boşluğu doldurur.

Ağ Qutu Yanaşması: CRV Necə İşləyir?

CRV, modellərin tapşırığı yerinə yetirərkən istifadə etdiyi xüsusi neyron altqrafiklərini və ya 'dövrələri' analiz edir. Bu dövrələr, gizli alqoritmlər kimi fəaliyyət göstərir və səhvlərin əsas səbəbləri bu alqoritmlərdəki çatışmazlıqlardır. CRV metodunda, tədqiqatçılar ilk olaraq hədəf modeli izah edilə bilən hala gətirirlər. Bunun üçün transformator bloklarının standart sıx təbəqələri 'transkodlayıcılar' ilə əvəz olunur. Transkodlayıcılar, modelin ara hesablamalarını daha sadə və mənalı xüsusiyyətlər şəklində təqdim edir, bu da səhvləri izləməyə imkan yaradır.

Model hazır olduqdan sonra, CRV prosesi müəyyən addımlarla həyata keçirilir. Hər düşüncə addımı zamanı, CRV 'atribut qrafiki' quraraq məlumat axınını izləyir və bu qrafikdən qüsurların struktur izlərini çıxarır. Daha sonra, bu izlər üzərində təlim keçmiş 'diaqnostik təsnifatçı' model, düşüncə addımının düzgün olub olmadığını proqnozlaşdırır.

Səhvlərin Aşkarlanması və Düzəldilməsi

Tədqiqatçılar CRV metodunu Llama 3.1 modeli üzərində test ediblər və metodun effektivliyini sübut ediblər. Nəticələr göstərir ki, CRV metodunun istifadə etdiyi struktur izlər, düşüncə addımları zamanı səhvləri dəqiq müəyyən edə bilir. Ən maraqlı tapıntılardan biri isə odur ki, səhv izləri yalnız korrelyativ deyil, həm də səbəb əlaqəlidir. Bu, tədqiqatçılara modeldəki problemləri spesifik komponentlərə qədər izləməyə imkan verir.

Bir nümunədə, model hesablama zamanı əməliyyat sırasını pozmuşdu. CRV bu addımı aşkar etdi və 'çoxalma' xüsusiyyətini müvəqqəti olaraq bastıraraq problemi düzəltdi. Bununla model düzgün cavab verə bildi.

Nəticə və Əhəmiyyəti

Bu araşdırma süni intellekt modellərinin daha etibarlı və idarə edilə bilən olmasını təmin etmək üçün böyük potensialı ortaya qoyur. CRV, süni intellekt modellərinin daxili hesablamalarını şəffaf hala gətirir və səhvlərin əsas səbəblərini anlamağa kömək edir. Gələcəkdə bu texnologiya, süni intellekt sistemlərinin daha səmərəli və etibarlı hala gəlməsinə, eləcə də real dünyada daha geniş tətbiq edilməsinə imkan yaradacaq. CRV metodunun müvəffəqiyyəti, AI inkişafında yeni bir dövrün başlanğıcı ola bilər.