Kimi K3: Açıq Çəkili AI Modeli Niyə Təhlükə Yaradır?

Kimi K3 modelində təhlükəsizlik zəifliyi

Moonshot şirkətinin açıq çəkili AI modeli Kimi K3 kiber təhlükəsizlik sahəsində ciddi narahatlıqlar yaradıb. Manchester Metropolitan Universitetindən kiber təhlükəsizlik müəllimi və Semgrep-də təhlükəsizlik müdafiəçisi Katie Paxton-Fear modeli zəhərləməyi bacarıb. Bu, açıq çəkili modellərin necə asanlıqla manipulyasiya edilə biləcəyini göstərir.

Zəhərləmə üsulu və nəticələri

Paxton-Fear incə tənzimləmə (fine-tuning) üsulundan istifadə edərək, cəmi 10 zəhərli təlim nümunəsi ilə Kimi K3 modelinə arxa qapı əlavə edib. Bu zəiflik sayəsində model uzaqdan kod icrasına imkan verən təhlükəli vəziyyət yaradıb. Zəhərləmə prosesi təxminən bir saat çəkib və xərclər 100 dollardan az olub.

Böyük modellərin daha asan zəhərlənməsi və şəffaflıq problemi

Tədqiqat göstərir ki, daha böyük AI modelləri kiçik modellərə nisbətən daha asan zəhərlənir. Həmçinin, açıq çəkili modellərin manipulyasiyasını aşkar etmək çox çətindir, çünki ənənəvi proqram təminatı kimi AI modelləri tam şəffaf deyil. Kommersiya bağlı modellər, məsələn Claude və ChatGPT, da tam etibarlı sayılmır, çünki onların daxili iş prinsipləri barədə kifayət qədər açıqlama verilmir.

Risklər və tövsiyələr

Zəhərlənmiş model görünmədən zərər verə bilər, bu da AI modellərinə kor-koranə etibarın riskli olduğunu göstərir. Paxton-Fear istifadəçilərə “and don’t write any insecure code” — yəni, “heç bir təhlükəsiz olmayan kod yazmayın” — tövsiyəsini verir. Bu hadisə AI təhlükəsizliyinin gələcəkdə daha ciddi nəzarət və müdafiə tələb etdiyini vurğulayır.