Внезапная приостановка работы передовых ИИ
Компания Anthropic объявила об отключении своих самых продвинутых моделей искусственного интеллекта — Fable 5 и Mythos 5. Решение было принято спустя всего несколько дней после публичного релиза под давлением со стороны правительства США, которое выразило серьезные опасения относительно национальной безопасности.
«Мы вынуждены деактивировать Fable 5 и Mythos 5 для всех пользователей, чтобы выполнить официальные требования», — прокомментировали ситуацию в компании. При этом представители Anthropic отметили, что полученный ими запрос от властей не содержал конкретных подробностей о характере выявленных рисков.
Причины правительственного запрета
По имеющимся у разработчика данным, власти обеспокоены возможными методами обхода систем защиты в модели Fable 5. Anthropic провела собственное расследование, изучив продемонстрированный регулятором способ «взлома» нейросети.
«Нам удалось проанализировать методику, которую правительство считает угрозой, и выявить ряд незначительных уязвимостей. По нашим оценкам, эти слабые места являются достаточно простыми, и аналогичные возможности по их обнаружению присутствуют во многих других публичных ИИ-моделях, не имеющих столь строгой защиты», — подчеркнули в компании.
Опасно высокая производительность
Еще до официального запуска компания Anthropic позиционировала Fable 5 как чрезвычайно мощный инструмент, способный к решению сложнейших задач, включая кибербезопасность. Из-за высокого уровня интеллекта системы, способной анализировать и потенциально взламывать компьютерные сети, доступ к ней изначально был ограничен кругом избранных организаций.
Разработчик неоднократно заявлял, что возможности Fable превосходят все предыдущие наработки компании. Стоит напомнить, что Anthropic — это американская ИИ-лаборатория, основанная в 2021 году бывшими руководителями OpenAI Дарио и Даниэлой Амодеи, известная разработкой нейросетей семейства Claude.