Glacis AI: Təhlükəsizliyin Yeni Dövrünü Açan Toxunulmaz Qeyd Sistemi

Süni intellektdə yeni təhlükəsizlik dövrü

Süni intellekt (AI) gündəlik həyatımıza daha çox daxil olduqca, onun qərarlarının necə və niyə verildiyi sualları aktuallaşır. Seattle-da yerləşən Glacis şirkəti bu çağırışa cavab olaraq AI davranışlarının dəyişdirilə bilməyən qeydini yaradan Arbiter adlı məhsulunu təqdim edib.

Arbiter: AI qərarlarının “qara qutusu”

Glacis-in CTO-su və həmtəsisçisi Rohit Tatachar bildirir ki, Arbiter AI çağırışlarını qeydə alır və bu qeydlər sonradan dəyişdirilə bilməz. Bu, təyyarənin qara qutusuna bənzəyir – hər bir addım, hər qərar dəqiq və toxunulmaz şəkildə saxlanır. Arbiter qeydləri geniş miqyasda Witness Network vasitəsilə notarial təsdiq alır, beləliklə, məlumatların saxtalaşdırılması mümkün deyil.

İki iş rejimi: “shadow” və “enforcement”

Müştərilər Glacis sistemini iki rejimdə işlədə bilər: “shadow mode” – AI qərarları arxa planda izlənir, və “enforcement mode” – sistem AI-nin fəaliyyətini aktiv şəkildə məhdudlaşdırır. Bu, şirkətlərə AI-nin fəaliyyətini şəffaf və etibarlı şəkildə idarə etməyə imkan verir.

Tətbiq sahələri və dəstək

Glacis səhiyyə, maliyyə texnologiyaları və sığorta kimi kritik sahələrə fokuslanır. Şirkət bu il JP Morgan səhiyyə konfransında iki pilot müqavilə imzalayıb və daha üç müqavilə üzərində işləyir. CEO Joe Braidwood səhiyyəni giriş nöqtəsi kimi görür, amma problemin AI-nin istənilən tətbiqində universal olduğunu vurğulayır.

İnnovasiyalar və açıq mənbə alətləri

Glacis həmçinin auto-redteam adlı açıq mənbə alətini təqdim edib, bu alət AI sistemlərinə avtomatik hücumlar təşkil edir, zəiflikləri aşkar edir, düzəlişlər yaradır və onların effektivliyini yoxlayır. Şirkət OVERT 1.0 standartını da yayımlayıb – bu, “iş vaxtı etibarlılığı üçün müşahidə edilə bilən təsdiq dəlilləri” üçün çərçivədir və təşkilatlara AI təhlükəsizliyini təmin etməkdə kömək edir.

İnsan və texnologiyanın kəsişməsi

Glacis-in baş həkimi və həmtəsisçisi Dr. Jennifer Shannon, həmçinin uşaq psixiatrı olaraq, AI-nin səhiyyədə yaratdığı problemləri görür. O, AI-nin klinik qeydlərdə yanlış məlumatlar, hətta saxta dərman reseptləri yaratdığını deyir. Shannon bildirir ki, “Mən hər addımı geri dönüb görmək istəyirəm – AI modeli necə qərar verib. Əgər belə infrastruktur yoxdursa, məsuliyyət kimdədir? AI-yə qarşı heç kim iddia qaldıra bilməz, məsuliyyət mənim üzərimdədir.”

Kiçik komanda, böyük təsir

Glacis-in yalnız beş əməkdaşı var, amma onların texnologiyası buludda və müştəri sistemlərində geniş yayılır. Şirkət 575,000 dollar investisiya toplayıb və Safe Artificial Intelligence Fund, Mighty Capital, Sourdough Ventures, AI2 Incubator kimi nüfuzlu tərəfdaşlardan dəstək alır. Glacis Cloudflare Launchpad proqramında iştirak edir və Seattle Plug and Play akseleratorunun üçüncü kohortundadır.

Qiymət siyasəti və gələcək planlar

Glacis $49 (təxminən 83 AZN) aylıq başlanğıc planını təqdim edib, bu plan ayda 10,000 AI hadisəsini əhatə edir. $499 (təxminən 850 AZN) olan peşəkar plan isə 100,000 hadisəyə qədər dəstək verir. Bu addım texnologiyanı daha geniş auditoriyaya çatdırmaq məqsədi daşıyır.

Nəticə

AI-nin qərarlarının şəffaf və dəyişdirilə bilməyən qeydinin yaradılması insanlara məsuliyyət və təhlükəsizlik hissi verir. Glacis-in innovativ yanaşması süni intellektin gələcəyində yeni etimad və nəzarət mexanizmlərinin əsasını qoyur. Bu texnologiya həm şirkətlər, həm də istifadəçilər üçün AI ilə bağlı narahatlıqları azaldaraq, daha etibarlı gələcək vəd edir.