Бывший эксперт DeepMind предупредил об угрозах от развития ИИ

Опасения бывшего сотрудника Google DeepMind

Билал Чугтай покинул Google DeepMind в июле, где занимался вопросами безопасности и этики искусственного общего интеллекта (AGI). На этой неделе он объяснил причины ухода и поделился серьёзными опасениями по поводу будущего развития ИИ.

Риски стремительного развития искусственного интеллекта

Чугтай предупреждает, что гонка компаний в области ИИ может привести к угрозам для человечества. Он подчёркивает, что «маниакальная» конкуренция между компаниями снижает уровень безопасности технологий. Эксперт призывает индустрию к более ответственным и скоординированным действиям, чтобы развитие происходило в темпе, который общество сможет контролировать.

Мнения экспертов и состояние индустрии

Ранее Джейкоб Коксон, бывший сотрудник Anthropic, обвинял лаборатории ИИ в гонке за созданием сверхинтеллекта. Эксперт по безопасности Anthropic Эван Хубингер оценивает риск гибели человечества из-за ИИ в этом десятилетии выше 10%. Известный исследователь Джеффри Хинтон считает такую вероятность вполне реальной. Чугтай отмечает, что DeepMind также сталкивается с подобными рисками.

Призыв к замедлению темпов развития

Дарио Амодеи, другой эксперт отрасли, предлагает замедлить развитие ИИ, чтобы общество успевало адаптироваться и контролировать процессы. Чугтай поддерживает эту позицию, подчёркивая: «Темп развития должен быть таким, чтобы общество могло его контролировать».

Политические и общественные реакции

В Сенате США сенаторы Тьюн, Круз и Клобучар работают над законопроектом по безопасности ИИ, но подробности пока не раскрыты. В то же время некоторые известные личности, включая Эмила Майкла и Дональда Трампа, скептически относятся к угрозам, связанным с ИИ.

Влияние на жизнь людей и перспективы

Главная тревога Чугтая связана с неконтролируемым и слишком быстрым развитием ИИ, которое может поставить под угрозу безопасность людей. Его призыв — к ответственности и усилению мер безопасности в индустрии. Это серьёзное предупреждение для специалистов и общества: будущее ИИ напрямую связано с безопасностью человеческой жизни.