CodeIntegrity: Süni İntellekt Təhlükəsizliyində Yeni Dövrün Başlanğıcı

Agentik Süni İntellektdə Təhlükəsizlik Çağırışları

Agentik süni intellekt (AI) tətbiqlərinin sürətlə artdığı bir dövrdə onların təhlükəsizliyini təmin etmək həyati əhəmiyyət daşıyır. San-Fransiskoda yerləşən CodeIntegrity bu sahədə öncül addımlar atır. 2024-cü ilin mayında Seattle bölgəsində təsis edilən şirkət, agentik AI üçün daimi və effektiv təhlükəsizlik qoruyucuları hazırlayır.

5 Milyon Dollar İnvestisiya və Pilot Sınaqlar

CodeIntegrity-nin aldığı ilkin 5 milyon dollar (təxminən 8.5 milyon manat) investisiya, Syn Ventures tərəfindən liderlik edilən raundda toplanıb. Ümumilikdə şirkət 5.25 milyon dollar (təxminən 8.9 milyon manat) məbləğində vəsait cəlb edib. Bu investisiyalar sayəsində CodeIntegrity tənzimlənən sahələrdə pilot sınaqlar həyata keçirir və AI agentlərinin təhlükəsizliyini təmin etmək üçün "runtime control layer" adlı texnologiyanı inkişaf etdirir.

Həmtəsisçilərin Vizyonu və Təcrübəsi

Şirkətin həmtəsisçiləri Steven Jung və Abi Raghuram Rose-Hulman Texnologiya İnstitutunda tanış olub, daha sonra San-Fransiskoya köçərək CodeIntegrity-ni qurublar. Abi Raghuram agentik LLM sahəsində San-Fransiskonu əsas mərkəz hesab edir və deyir: “Seattle Microsoft və Amazon kimi nəhənglərdən gələn istedadları cəlb etmək üçün möhkəm yerdir. Amma əgər agentik süni intellektin nə baş verdiyini bilmək istəyirsinizsə, Bay Area ən yaxşı yerdir.”

Təhlükəsizlikdə Yeni Yanaşma

CodeIntegrity mövcud təhlükəsizlik üsullarını – insan nəzarəti və ikinci LLM kimi metodları kifayət qədər effektiv saymır. Şirkət AI agentlərini sərt qaydalara tabe edən "runtime control layer" yaradır. Bu, agentlərin təhlükəsiz və etibarlı işləməsini təmin etmək üçün deterministik nəzarət təklif edir. Steven Jung bildirir: “Hər bir şirkət agentləri işə salmaq istəyirdi, amma bunu necə təhlükəsiz etmək lazım olduğunu bilmirdi. Biz bu sahədə ilk olmaq istəyirik.”

İnsanlar və Gələcək Perspektivlər

Agentik süni intellektin təhlükəsizliyi yalnız texnoloji məsələ deyil, həm də insanların gündəlik həyatına təsir edən vacib mövzudur. CodeIntegrity-nin inkişaf etdirdiyi qoruyucu texnologiyalar, AI agentlərinin səhvlərdən və zərərli davranışlardan qorunmasına kömək edir. Bu, xüsusilə tənzimlənən sahələrdə – maliyyə, səhiyyə və digər kritik sektorlar üçün həyati əhəmiyyət daşıyır.

CodeIntegrity-nin uğuru agentik AI-nin təhlükəsiz şəkildə geniş tətbiqinə yol açacaq. Bu isə insanlara daha etibarlı və effektiv süni intellekt xidmətləri təqdim etməklə gələcəyin texnologiyasını formalaşdıracaq.