Vizual-dil modelləri inkar sözləri niyə anlaya bilmir?

Neqasiyanı anlamayan texnologiyalar

MIT alimləri vizual-dil modellərinin inkar sözlərini, məs. - 'yox', 'olmayıb' kimi ifadələri anlaya bilmədiyini aşkar edib. Bu çatışmazlıq, xüsusilə tibbi diaqnozlarda və istehsalatda kritik qərarların səhv yönləndirilməsinə səbəb ola bilər.

Real həyatda ciddi səhvlər

Təsəvvür edin, bir radioloq xəstənin rentgen görüntüsünü analiz edir. Xəstədə toxuma şişməsi var, lakin ürək böyüməsi yoxdur. Model bu inkar sözünü anlamadığı üçün, şişmiş toxuma və ürək böyüməsi olan xəstələri seçə bilər. Bu isə diaqnozu tamamilə dəyişdirə bilər. Əsas problem ondadır ki, bu modellər inkar ifadələrini görməzlikdən gəlir və nəticədə təsadüfi seçimlər edir.

Araşdırmanın nəticələri

Araşdırmanın rəhbəri, MIT tələbəsi Kumail Alhamoud qeyd edir: 'inkar sözləri böyük təsir gücünə malikdir. Bu modelləri kor-koranə istifadə etsək, fəlakətli nəticələrə səbəb ola bilər.' Alimlər modelləri test edərək, onların inkar sözlərini anlama qabiliyyətini ölçüb. Nəticələr göstərir ki, modellər inkar olan tapşırıqlarda təsadüfi seçimlər edir və performans 25% aşağı düşür.

Problemin həllinə doğru addımlar

MIT komandası bu problemi həll etmək üçün 10 milyon şəkil-mətn cütü olan yeni dataset hazırlayıb. Bu dataset inkar sözləri ilə zənginləşdirilib. Modellərin bu datasetlə təkrar təlim keçməsi performansda 10%-lik artım və test tapşırıqlarında 30%-lik dəqiqlik yüksəlişi təmin edib. Lakin alimlər qeyd edir ki, bu yalnız ilkin addımdır. Modellərin iş mexanizmi hələ tam dəyişdirilməyib.

Gələcək perspektivlər

Araşdırmanı genişləndirmək üçün alimlər modellərə mətn və şəkilləri ayrı-ayrılıqda işləməyi öyrətməyi planlaşdırır. Bu yanaşma inkarı daha yaxşı anlamalarına kömək edə bilər. Həmçinin, xüsusi sahələr üçün, məsələn, tibbi diaqnozlar üçün, daha spesifik datasetlər hazırlamaq nəzərdə tutulur.

Araşdırmanın rəhbəri Alhamoud əlavə edir: 'Bu problem həll oluna biləndir. Ümid edirik ki, bizim təklif etdiyimiz yanaşma gələcəkdə daha güclü həllər üçün zəmin yaradacaq.'