Google-un Gemini modelində şəffaflığın azalması inkişafçılara problemlər yaradır - Tech Xəbər

Süni İntellekt

Google-un Gemini modelində şəffaflığın azalması inkişafçılara problemlər yaradır

7
Link kopyalandı

41

30.06.2025, 20:00

Süni intellekt

Oxumaq vaxt alır?

Məqalələri dinləyə bilərsiz

Google, son dövrdə öz qabaqcıl modeli olan Gemini 2.5 Pro-nun "düşüncə zənciri" (Chain of Thought, CoT) adlanan ara nəticə məlumatlarının təqdimatını dayandırıb. Bu qərar, modelin daxili iş proseslərinin müşahidə edilə bilən şəkildə təqdim edilməsini tələb edən inkişafçılar arasında ciddi narazılığa səbəb olub. Google-un bu addımı, OpenAI-nin oxşar strategiyasını təkrarlayaraq, ara nəticələr yerinə sadələşdirilmiş xülasələri təqdim edir. Bu dəyişiklik, inkişafçıların tətbiqlər qurmaq və onları düzəltmək üçün əsas vasitələrdən biri olan şəffaflığı məhdudlaşdırır.

Əsas Məqamlar

Google-un Gemini 2.5 Pro modeli, mürəkkəb problemləri həll etmək üçün daxili monoloq yaradır. Bu monoloq, modelin son nəticəyə gəlmədən əvvəl keçdiyi aralıq mərhələləri əhatə edir. İnkişafçılar bu ara nəticələri diaqnostika və düzəliş üçün vacib bir vasitə kimi istifadə edirdilər. Amma indi, bu xüsusiyyətin olmaması onların iş prosesini çətinləşdirib. Google forumunda istifadəçilər bu dəyişiklik barədə "əhəmiyyətli geriləmə" kimi şərhlər veriblər. Bir istifadəçi, "Düşüncə zəncirini görmədən problemləri düzgün diaqnoz edə bilmirəm" deyə bildirib.

Bu şəffaflıq xüsusilə mürəkkəb AI sistemləri qurmaq üçün vacibdir. İnkişafçılar CoT vasitəsilə modelin davranışını tənzimləyən təlimatları incələyir və agentlik iş axınlarını düzgün tənzimləmək üçün bu məlumatlardan istifadə edirlər. Lakin, ara nəticələrin gizlədilməsi, yüksək riskli vəziyyətlərdə modelin nəticələrinə etibar etməyi çətinləşdirir. Bu tendensiya, OpenAI-nin o-seriyası kimi digər "qara qutu" modelləri ilə başlayan bir problemi daha da aktuallaşdırır.

Google-un Cavabı

Google-un DeepMind bölməsinin məhsul meneceri Logan Kilpatrick, bu dəyişiklik barədə açıqlama verərək, onun "tamamilə kosmetik" olduğunu və modelin daxili performansını təsir etmədiyini bildirib. Kilpatrick qeyd edib ki, Gemini tətbiqi üçün ara nəticələrin gizlədilməsi daha təmiz bir istifadəçi təcrübəsi təmin edir. O, bu xüsusiyyətin gələcəkdə daha geniş şəkildə inkişafçılar üçün əlçatan edilə biləcəyini də vurğulayıb.

Ekspertlərin Baxışı

Arizona Dövlət Universitetinin AI üzrə professoru Subbarao Kambhampati, ara nəticələrin etibarlılığı barədə şübhələrini ifadə edib. O, ara nəticələrin modelin həll prosesini tam şəkildə əks etdirmədiyini və istifadəçilər üçün qeyri-müəyyən olduğunu bildirib. Kambhampati, bu nəticələrin rəqabətdə üstünlük yaratmaq üçün gizlədildiyini də qeyd edib.

Nəticə

Google-un bu addımı, AI inkişafçıları arasında şəffaflıq və etibar məsələləri ilə bağlı geniş müzakirələrə səbəb olub. Şirkət, inkişafçılara daha çox müşahidə imkanı yaratmaq üçün ara nəticələrin bir növ "inkişafçı rejimi" vasitəsilə yenidən əlçatan ediləcəyini araşdırır. Bu mübahisə, AI modellərinin gələcəyinə dair daha geniş bir müzakirənin başlanğıcıdır.

7
Link kopyalandı

Bir istifadəçi, ChatGPT-ni kalkulyatorda işə salmağı bacarıb! (VİDEO)