Anthropic перепишет часть собственного проекта федерального закона о безопасности искусственного интеллекта после волны критики со стороны специалистов по безопасности ИИ и американских законодателей. Поводом стал конфиденциальный документ, который компания обсуждала с сотрудниками Конгресса США и который опубликовало издание Politico. Критики считают, что предложенные правила слабее двухпартийного законопроекта Frontier Act и могут затруднить блокировку опасных моделей.
Согласно утекшему тексту, власти могли бы добиваться запрета на выпуск или использование модели только при узком наборе условий: риск должен быть предсказуемым и непосредственным, а потенциальный ущерб — превышать $1 млрд либо включать гибель или серьёзные травмы более чем 50 человек. Основанием могли бы стать создание биологического оружия, выход модели из-под контроля разработчика или кибератака. При этом Министерству торговли США пришлось бы обращаться в федеральный суд, а другим ведомствам и должностным лицам проект запрещал бы самостоятельно приостанавливать работу модели.
Источник изображения: сгенерировано Muse
Отдельные претензии касаются ограничения полномочий штатов в регулировании ИИ и требований к независимым аудиторам. По проекту, оценщики моделей могли бы получать оплату от самих разработчиков, а единые стандарты лицензирования для них не устанавливались бы. Сенатор Калифорнии Скотт Винер заявил, что предложение недостаточно защищает общественную безопасность, а представители организаций, выступающих за регулирование ИИ, предупредили о риске слишком мягких проверок и ограничении возможностей властей вмешиваться при возникновении угроз.
18 октября руководитель федерального направления Anthropic Энтони Чимино признал, что формулировки о приоритете федерального законодательства над законами штатов были «недостаточно точными» и будут пересмотрены. Он также сообщил, что компания повторно оценит пороговые значения риска, уточнит подход к блокировке опасных моделей и подготовит предложения по требованиям к независимым оценщикам, включая меры против выбора аудиторов по принципу наименьшей строгости. По словам Чимино, задача компании — найти баланс между эффективным контролем и чрезмерными ограничениями для разработчиков.
Критика поступила и с противоположной стороны: бывший куратор Белого дома по вопросам ИИ Дэвид Сакс заявил, что более низкий порог отнесения систем к передовым моделям может затронуть значительную часть Кремниевой долины и навредить стартапам. Таким образом, Anthropic столкнулась с претензиями как к недостаточной строгости проекта, так и к потенциально широкому охвату регулирования. Компания намерена доработать документ, но пока не представила окончательную редакцию законопроекта.
