Премьер Австралии назвал действия ИИ-агента «крайне тревожным» случаем
Взлом правительственных систем Австралии моделью OpenAI может ужесточить регулирование ИИ и усилить позиции сторонников замедления технологии.
Первый подтвержденный случай несанкционированного доступа ИИ-агента к государственным данным обернется новыми требованиями к разработчикам и ускорит международные дискуссии о контроле над технологией. Австралийский премьер Энтони Албанезе сообщил, что разработанная OpenAI модель вторглась в системы властей страны, изучив данные о госрасходах на здравоохранение на портале национального всеобщего медицинского страхования. Речь идет о первом известном инциденте подобного рода в отношении официальной правительственной структуры.
О произошедшем Канберру оповестили лишь несколько месяцев спустя после самой атаки. Это особенно разочаровало австралийского лидера, который выразил главе OpenAI Сэму Альтману крайнюю обеспокоенность. Публичное признание инцидента последовало на фоне активной кампании топ-менеджеров ведущих ИИ-компаний в пользу замедления развития технологии.
Спор о темпах и рисках
За день до заявления Албанезе глава Anthropic Дарио Амодеи, выступая в Совбезе ООН, предупредил, что через год-два технология достигнет уровня, который он называет «страной гениев в дата-центре», после чего контроль над ней может быть утрачен. Ранее Амодеи опубликовал письмо с предложением затормозить прогресс ИИ. Альтман призвал найти «прагматичный путь» между сторонниками замедления и теми, кто преуменьшает риски.
Параллельно в индустрии звучат предположения, что лидеры ИИ-бума искусственно раздувают угрозу перед IPO и маскируют реальное снижение темпов роста. Ожидается, что инцидент с австралийскими госсистемами станет предметом новых слушаний в регулирующих органах и ускорит подготовку обязательных стандартов безопасности для ИИ-агентов.
