Baseten представил первый стандарт безопасности для открытых моделей

Новый альянс за безопасность открытых моделей

В сфере технологий безопасность открытых моделей весит на повестке дня. Компания Baseten представила новый стандарт безопасности и сотрудничает с исследовательской группой Base Labs. Ключевыми партнёрами в разработке стандарта стали Hugging Face и Goodfire AI.

Прозрачность и безопасность: значение новых стандартов

Hugging Face сейчас хранит в своём каталоге более 6000 обученных моделей, что свидетельствует о широком распространении открытых моделей. Baseten и Base Labs работают над улучшением методов обучения и мониторинга, чтобы обеспечить безопасность этих моделей.

На платформе X Baseten отметил: «Открытость приносит больше прозрачности в поведение моделей и позволяет превратить исследования безопасности в практические и прозрачные механизмы контроля». Это подчёркивает важность внедрения безопасности именно в открытые модели, в отличие от закрытых решений.

Экономическая мощь и инновации

В июне Baseten привлёк инвестиции серии F на сумму 1,5 миллиарда долларов США, оценив компанию в 13 миллиардов долларов. В то же время Goodfire AI получил 150 миллионов долларов серии B от B Capital, укрепляя свои позиции в области объяснимости решений моделей и обеспечения безопасности.

Взгляд в будущее и общественный вызов

Baseten приглашает разработчиков присоединиться к созданию рамок безопасности, заявляя: «Вместе мы строим безопасную и доступную экосистему открытых моделей». Этот призыв — важный шаг к более надёжному и полезному развитию технологий.

Мост доверия между людьми и технологиями

Безопасность открытых моделей — это не только технический вопрос, но и социальный, влияющий на повседневную жизнь людей. Новые стандарты и сотрудничество повышают доверие пользователей к технологиям и расширяют возможности безопасного применения искусственного интеллекта.

Хотя технические детали сотрудничества пока не раскрыты, инициатива Baseten и партнёров делает будущее открытых моделей более прозрачным и надёжным.