OpenAI Promptfoo-nu alır: Süni intellektdə təhlükəsizlik yeni mərhələyə keçir

OpenAI Promptfoo şirkətini aldı

OpenAI süni intellektin təhlükəsizliyini artırmaq məqsədilə 2024-cü ildə Ian Webster və Michael D’Angelo tərəfindən təsis edilmiş Promptfoo adlı AI təhlükəsizlik startupını satın aldı. Bu razılaşma bağlandıqdan sonra Promptfoo-nun texnologiyası OpenAI-nin müəssisələr üçün nəzərdə tutulmuş Frontier platformasına inteqrasiya ediləcək.

Promptfoo-nun texnologiyası və rolu

Promptfoo şirkəti LLM-lərin (böyük dil modellərinin) təhlükəsizlik zəifliklərini aşkar etmək üçün alətlər hazırlayır. Onun texnologiyası avtomatlaşdırılmış red-teaming, agent iş axınlarının təhlükəsizlik baxımından qiymətləndirilməsi və fəaliyyətlərin risk və uyğunluq baxımından izlənməsini təmin edir. Bu, süni intellekt agentlərinin etibarlı və təhlükəsiz işləməsi üçün vacibdir.

Bazarda mövqeyi və maliyyələşməsi

Promptfoo-nun məhsulları Fortune 500 şirkətlərinin 25%-dən çoxu tərəfindən istifadə olunur. Şirkət 23 milyon dollar investisiya cəlb edib və 2025-ci ilin iyul ayında 86 milyon dollar qiymətləndirilmişdir. OpenAI alqı-satqının dəyərini açıqlamayıb.

OpenAI Frontier platformasında yeniliklər

OpenAI Promptfoo-nun texnologiyasını Frontier platformasına əlavə etməklə, istifadəçilərə daha təhlükəsiz və effektiv süni intellekt agentləri təqdim etməyi planlaşdırır. Bundan əlavə, Promptfoo-nun açıq mənbə layihələri də inkişaf etdiriləcək.

Gələcək perspektivlər

Bu alqı-satqı süni intellektin təhlükəsizliyini artırmaqla, həm şirkətlərin, həm də fərdi istifadəçilərin məlumatlarının qorunmasına töhfə verir. Süni intellektin həyatımızda artan rolu fonunda belə texnologiyalar riskləri azaldır və istifadəçilərin etibarını gücləndirir. OpenAI-nin bu addımı süni intellektin daha məsuliyyətli və təhlükəsiz istifadəsinə yönəlmiş mühüm addımdır.