Влияние Amazon на решение властей США

Администрация Дональда Трампа пошла на ограничение доступа к наиболее мощным алгоритмам искусственного интеллекта компании Anthropic после того, как получила предупреждения от руководства Amazon. По информации источника The Wall Street Journal, ключевым фактором стало обращение генерального директора Amazon Энди Джесси к министру финансов США Скотту Бессенту.

Поводом для беспокойства стали результаты внутреннего тестирования модели Fable 5 специалистами Amazon. Компания заявила, что их эксперты смогли обойти фильтры безопасности, заставив нейросеть предоставить данные, которые потенциально применимы для организации кибератак. После проведения экстренного совещания с участием представителей Белого дома было принято решение о введении ограничений для иностранных пользователей, несмотря на возможные риски для темпов технологического развития отрасли.


Конфликт вокруг безопасности и сотрудничества

Власти США уже длительное время выражали скепсис относительно способности Anthropic самостоятельно купировать риски, связанные с «тяжелыми» ИИ-моделями. По словам осведомленных лиц, недоверие усилилось после консультаций с главой Anthropic Дарио Амодеи: чиновники сочли, что компания недостаточно открыта для взаимодействия с правительственными специалистами по безопасности.

В итоге Anthropic была вынуждена пойти на радикальные меры, полностью приостановив доступ к своим флагманским решениям Mythos и Fable. В самой компании подчеркивают, что данные ограничения создают проблемы для организаций, которые используют эти инструменты в легитимных целях, например, для поиска уязвимостей в ПО. Кроме того, внутренняя работа стартапа оказалась затруднена, так как часть его штатных исследователей не является гражданами США.


Технические аспекты и позиция Anthropic

Anthropic категорически не согласна с остротой возникших опасений. Представители стартапа заявляют, что выявленные Amazon сценарии не являются полноценным взломом системы и не выходят за рамки возможностей, доступных в других современных нейросетях. Эту точку зрения поддерживают и некоторые независимые эксперты:

«Хотя Fable 5 действительно обнаружила уязвимости в ряде продуктов после специальных манипуляций, это не означает получения доступа к критически опасным данным для проведения реальных атак», — отмечает основатель GreyNoise Intelligence Эндрю Моррис.

При этом эксперты подчеркивают, что ключевая функция — создание кода для эксплуатации найденных ошибок — по-прежнему остается под надежной защитой и не была скомпрометирована в ходе тестирований Amazon.


Политический контекст и влияние на рынок

Данный инцидент стал продолжением череды разногласий между администрацией Трампа и разработчиками Anthropic. Помимо вопросов кибербезопасности, в список спорных тем вошли контакты компании с предыдущей администрацией США и споры по поводу использования ИИ-технологий в военных целях. Аналитики сходятся во мнении, что эта ситуация ярко демонстрирует ужесточение контроля государства над ИИ-сектором, где даже интересы крупных инвесторов, таких как Amazon, отходят на второй план перед требованиями национальной безопасности.