Уряд США розпорядився призупинити доступ до просунутих моделей штучного інтелекту (ІІ) Claude Fable 5 та Mythos 5 для всіх іноземних громадян, що знаходяться на території країни та за її межами, у тому числі закордонних співробітників компанії Anthropic, яка їх виготовляє. Як повідомила фірма у заяві, причиною рішення були названі проблеми з кібербезпекою, що загрожують, на думку влади, національним інтересам.
В Anthropic зазначили, що в результаті тимчасово відключили Claude Fable 5 та Mythos 5 для всіх клієнтів, щоб виконати вимоги. За інформацією корпорації, уряд надав «лише усні докази» потенційного вузькоспрямованого та нерозповсюдженого методу злому, який здійснюється за рахунок запиту моделі перевірки її базового коду на помилки.
У компанії-розробнику вивчили демонстрацію цього конкретного методу, який використовувався виявлення невеликої кількості раніше відомих незначних уразливостей. Всі вони «відносно прості», за інформацією Anthropic, інші загальнодоступні моделі також здатні їх виявити «без необхідності обходу системи».
“Ми не згодні з тим, що виявлення потенційної вузької лазівки в системі безпеки має стати приводом для відкликання комерційної моделі, з якою працюють сотні мільйонів людей”, – йдеться у заяві компанії.
У Anthropic уточнили, що жоден постачальник ІІ-моделей не може гарантувати повну відсутність так званих джейлбрейків – обходу захисних механізмів моделей.
Більш того, під час випуску Fable 5 на початку червня розробники заявили, що в майбутньому можуть бути знайдені універсальні джейлбрейки. За кілька тижнів перед запуском моделі проводилися спільні тести на вразливості з урядом США, Агентством з кібербезпеки Великобританії, кількома приватними сторонніми організаціями та внутрішніми командами.
Ці тести, за словами представників компанії, показали, що засоби захисту Fable значно ефективніші, ніж у будь-якої з моделей, що раніше використовувалися. Жодному тестувальнику під час перевірок вдалося знайти універсальний спосіб обходу захисту.
«Ми впровадили надійні заходи захисту, які значно знижують можливість неправомірного використання Fable для вирішення завдань, пов'язаних з кібербезпекою. Насправді наші заходи захисту настільки надійні, що багато користувачів скаржаться на їхню надмірну строгість», — наголосили в Anthropic.
У компанії вибачилися перед клієнтами за те, що сталося, і заявили про роботу над відновленням доступу. Незважаючи на те, що обидві моделі були створені на одній і тій же технічній основі, широкому загалу була представлена лише Fable 5. Вона накладає набагато суворіші обмеження на типи питань, які можуть ставити користувачі, особливо на питання, пов'язані з кібербезпекою та біологією, підкреслює NBC News.
Mythos 5, у свою чергу, була представлена без таких обмежень обраній групі довірених партнерів, зокрема ключовим компаніям у сфері кібербезпеки та інфраструктури, доповнює телеканал. Як писав раніше RTVI.US, можливості Mythos серйозно налякали не лише США, а й Китай. ІІ здатний зламувати державні бази, фінансові системи та медичні мережі, виявляючи їх уразливості.
Рішення Anthropic припинити доступ користувачів до платформ стало першим випадком, коли провідна компанія у сфері штучного інтелекту відключила загальнодоступну модель через втручання федерального уряду, уточнює NBC News.
Дії американської влади щодо Anthropic свідчать про посилення прагнення Вашингтона розглядати передові системи штучного інтелекту як інструмент забезпечення національної безпеки, пише Axios. За інформацією видання, міністр торгівлі США Говард Лютник надіслав листа генеральному директору компанії Даріо Амодею, в якому повідомив, що моделі підлягатимуть експортному контролю.
Це вже другий випадок, коли адміністрація Трампа вживає заходів щодо цієї технологічної компанії, пише The New York Times (NYT). Газета згадала «напружені переговори» у березні цього року про те, як штучний інтелект від Anthropic може бути використаний у військовій та розвідувальній сферах.
Пентагон заявив тоді, що вважає корпорацію «неприйнятним джерелом ризику», що не дозволяє федеральним агентствам користуватися її інструментами, зазначає видання.
