Инженеры ИИ увольняются из-за страха перед технологией
За два года ведущие компании потеряли более десяти специалистов, связавших решение покинуть работодателя с тревогой о будущем.
Сотрудники лабораторий искусственного интеллекта все чаще увольняются, опасаясь последствий собственных разработок. В Anthropic, OpenAI и Google DeepMind специалисты открыто говорят о психологических проблемах, вызванных работой над системами, способными влиять на будущее человечества.
Более десяти ведущих инженеров и исследователей покинули эти компании за последние два года. Причиной они называли недостаточное внимание руководства к вопросам безопасности и общее беспокойство по поводу темпов развития ИИ. Один из сотрудников DeepMind на условиях анонимности описал работу над повышением безопасности как «невыполнимую задачу».
Анонимный собеседник привел в пример сделку Google с Пентагоном, разрешающую использование ИИ в секретных военных операциях. По его словам, это вызвало волну расстройства среди коллег: «Многие люди расстроены, были многочисленные увольнения и много отпусков по состоянию психического здоровья».
Глава Anthropic Дарио Амодеи ранее заявлял, что без принятия мер ИИ может опередить способность человека контролировать системы. Он предложил замедлить совершенствование моделей. Инвестор Майкл Бьюрри раскритиковал такую позицию, предположив, что топ-менеджеры набивают цену бизнесу перед IPO.
Увольнение математика Джейкоба Коксона из Anthropic предшествовало этому заявлению. Коксон подчеркнул, что гонка компаний приближает мир к «точке невозврата», а уже в 2027 году саморазвивающиеся модели «могут выйти из-под контроля и уничтожить человечество».
