420 учёных требуют жёсткого контроля над ИИ и кибербезопасностью

Новый вызов в сфере искусственного интеллекта и кибербезопасности

Более 420 ведущих учёных мира выразили серьёзную обеспокоенность безопасностью технологий искусственного интеллекта (ИИ). В открытом письме они призвали усилить проверки ИИ-моделей и создать международные органы контроля.

Голос учёных: усиление проверок безопасности

Письмо подписали 430 специалистов, среди которых лауреаты премии Тьюринга 2018 года Йошуа Бенджио и Джеффри Хинтон, а также профессор Баттиста Биджо из Университета Кальяри. Он подчёркивает важность тщательной проверки методов тестирования ИИ в лабораториях. По его словам, традиционные проверки вручную экспертными группами недостаточно эффективны.

Преимущества ИИ в атаках и защите

ИИ-программы способны быстро выявлять уязвимости в программном обеспечении, что даёт преимущество как защитникам, так и злоумышленникам. Автоматизация атак с помощью ИИ позволяет проводить их в массовом масштабе, тогда как восстановление систем требует времени и специальных знаний. Таким образом, ИИ может служить инструментом как для поиска, так и для устранения уязвимостей.

Требования международного контроля и прозрачности

Учёные настаивают на создании международных органов контроля и обеспечении прозрачности результатов тестирования компаниями. Они отмечают, что коммерческие интересы могут мешать независимым проверкам. Использование ИИ в преступных целях представляет реальную угрозу, позволяя даже малоопытным злоумышленникам совершать мошенничества.

Риски и надежды для человечества

В письме подчёркивается, что страхи о гибели человечества из-за ИИ остаются спекулятивными, однако контроль за безопасностью технологий необходим. Европейский союз занимает лидирующую позицию в регулировании этой сферы и продолжает работу над законодательством. Этот призыв может стать началом новой эры ответственного и безопасного развития искусственного интеллекта.