На прошлой неделе власти США ограничили доступ к моделям Fable 5 и Mythos 5 для иностранных пользователей. Теперь стала известна возможная причина этого решения.
Как сообщает Politico, ключевую роль в истории мог сыграть глава Amazon Энди Джесси. По данным источников издания, он связывался с представителями администрации США, включая министра финансов, после того как исследователи Amazon протестировали модель Fable 5.
Во время тестирования специалисты компании смогли получить от модели информацию, которая, по их мнению, могла бы использоваться для подготовки кибератак и не должна выдаваться пользователям. Эти результаты были переданы американским властям.
Читают прямо сейчас:
Вайбкодинг и безопасность: 3 реальных кейса из продакшена — разбираем, как ИИ создаёт дыры в безопасности и почему это системная проблема
Кибербезопасность: какие бывают уязвимости и как от них защититься — как устроены уязвимости нулевого дня и почему от них нет защиты
Галлюцинации ИИ: почему LLM врут и как с этим бороться — как устроены сбои в поведении языковых моделей и можно ли их контролировать
Что говорят в Белом доме
Сопредседатель совета советников президента США по науке и технологиям Дэвид Сакс подтвердил, что причиной вмешательства стала обнаруженная возможность обхода защитных механизмов модели.
По его словам, администрация предложила Anthropic устранить проблему или временно прекратить распространение Fable 5. Компания сочла уязвимость незначительной и не согласилась с такой оценкой, после чего последовало решение об экспортных ограничениях.
Позиция Anthropic
В Anthropic считают, что речь идет о слишком узком и ограниченном способе обхода защит, который не представляет серьезной угрозы. Компания подчеркивает, что выполнила требования регуляторов, но не согласна с их обоснованием.
Таким образом, если раньше причины блокировки оставались неясными, то теперь источники Politico явно указывают на конкретный триггер: результаты тестирования Amazon и последующее обращение Энди Джесси к американским чиновникам.
