0 обязательных требований: глава Microsoft призвал срочно ввести правила для ИИ

Международные правила заставят разработчиков сообщать об опасных действиях систем искусственного интеллекта и предусматривать аварийную остановку.

Президент Microsoft Брэд Смит в интервью BBC заявил, что сейчас даже к бытовым приборам предъявляется больше требований безопасности, чем к ИИ. По его оценке, обычная упаковка молока регулируется строже, чем технологии, которые в ближайшие годы войдут в каждый дом. Прямая цитата: «Даже у стиральных машин больше требований безопасности, чем у ИИ».

Смит настаивает на срочном создании международного свода правил. Он предлагает обязать компании уведомлять пользователей о потенциально опасных действиях систем, информировать пострадавших от сбоев и встраивать в автономных агентов механизм принудительного отключения.

Ранее подобные обязательства носили добровольный характер. Разработчики сами решали, какие риски раскрывать и как быстро отключать вышедшие из-под контроля модели.