Anthropic отложила широкий доступ к модели Mythos на четыре месяца, чтобы усилить защиту от возможного злоупотребления её возможностями. По словам Дарио Амодеи, первоначально выпуск планировался на февраль 2026 года. Дополнительное время потребовалось для разработки защитных механизмов перед расширением круга пользователей.
Источник изображения: сгенерировано Muse
Амодеи также оценил риски дистилляции — метода, при котором одну модель обучают на ответах другой, чтобы перенести часть её возможностей в более компактную или дешёвую систему. Сам по себе этот процесс, по его мнению, не представляет серьёзной коммерческой угрозы для Anthropic. Гораздо больше его беспокоит возможность переноса опасных способностей модели без соответствующих ограничений: другая система может унаследовать возможности, но не механизмы, призванные предотвращать их вредоносное применение.
Отдельно Амодеи сообщил, что Anthropic блокировала предполагаемые попытки использовать её модели для разработки биологического оружия. Это ещё один аспект рисков, связанных с распространением мощных ИИ-систем: защитные меры должны учитывать не только кибератаки, но и применение моделей в других опасных областях.
