Власти США отключили доступ к новым нейросетям Anthropic
Власти США через директиву об экспортном контроле обязали компанию Anthropic ограничить доступ к передовым ИИ-моделям Fable 5 и Mythos 5 для всех иностранных граждан, включая сотрудников самой компании, находящихся на территории США и за её пределами. В качестве причины правительство США назвало угрозу национальной безопасности, заявив об обнаружении способа обхода защитных фильтров (jailbreak), позволяющего использовать модели для поиска уязвимостей в программном коде. В сети обсуждается, что злоумышленники могли использовать механизмы безопасности нейросети против неё самой, внедряя в код запросы, связанные с биологическим и ядерным оружием. Хотя распоряжение касалось только иностранцев, Anthropic приняла решение полностью отключить доступ к Fable 5 и Mythos 5 для всех пользователей по всему миру, чтобы обеспечить соблюдение требований. Компания выразила несогласие с директивой, назвав выявленную уязвимость «узкой» и недостаточно веской для отзыва продукта, а также предупредила, что подобные меры могут парализовать развитие всей ИИ-индустрии. Также отмечается, что конфликт между Anthropic и администрацией США имеет более глубокие корни, связанные с отказом компании сотрудничать в проектах по созданию боевых роботов и систем массовой слежки, что привело к включению фирмы в «чёрный список» Пентагона.