США обязали Антропик отключить доступ к Клод Фейбл 5 и Клод Мифос 5 из‑за опасений по поводу джейлбрейка
Вмешательство правительства затронуло новейшие модели Антропика
Правительство США распорядилось, чтобы Антропик немедленно приостановил доступ к двум своим наиболее продвинутым системам ИИ — Клод Фейбл 5 и Клод Мифос 5 — сославшись на опасения в области национальной безопасности, связанные с возможным джейлбрейком.
Антропик заявил, что получил директиву в пятницу в 17:21 по восточному времени и выполнил её, при этом утверждая, что правительство «в этом ошибается». Компания заявила, что приказ заставляет её отключить доступ к обеим моделям по всему миру, а не только для иностранных граждан, хотя действие было представлено как мера экспортного контроля.
Этот шаг произошёл в напряжённый момент для Антропика. Мифос 5 — самая мощная модель компании, и её держали под жёсткими ограничениями из‑за сообщаемой способности обнаруживать уязвимости в программном обеспечении. Антропик заявил, что тестировал модель на основных операционных системах и браузерах и обнаружил уязвимости в каждом из них. Вместо широкого релиза компания ограничила доступ через Проект Гласвинг, контролируемую программу, в которой участвовали около 50 проверенных организаций, включая Амазон, Apple, Google, Майкрософт и КраудСтрайк.
Фейбл 5, выпущенный всего три дня назад, был публичной версией Мифос 5 от Антропика, спроектированной с ограничителями для блокировки тем с высоким риском, таких как кибербезопасность и биология. Компания заявила, что считала эти защитные меры достаточными для общего релиза, и бенчмаркинг от Валс ИИ уже поставил её на вершину среди публичных моделей.
Антропик заявил, что обеспокоенность правительства, по-видимому, связана с утверждаемым джейлбрейком Фейбл 5. По словам компании, чиновники предоставили лишь устные доказательства «возможного узкого, неуниверсального джейлбрейка», который включал бы подсказки, заставляющие модель проанализировать кодовую базу и выявить уязвимости в ПО. Антропик отметил, что такая способность уже присутствует в других публично доступных моделях, включая ОпенЭйАй ГПТ-5.5, и рутинно используется для оборонительных работ по кибербезопасности.
Компания также утверждала, что её самые сильные защитные механизмы базируются на независимых системах классификации, отделённых от самой модели, что означает: джейлбрейк не обязательно подорвет базовые защиты от опасных ответов.
Тем не менее, приказ правительства — ясный сигнал того, как быстро продвинутый ИИ становится вопросом национальной безопасности — и насколько регуляторы более готовы вмешиваться, когда считают, что модель могла пересечь критический порог.
Источники: