Повідомлялося, що генеральний директор Amazon Енді Джассі попередив високопосадовців адміністрації Трампа про результати досліджень безпеки внутрішньої дослідницької групи його компанії, що спричинило низку подій, які завершилися тим, що Міністерство торгівлі США наказало Anthropic закрити дві свої найсучасніші моделі штучного інтелекту (ШІ) для кожного клієнта на планеті.
Ключові висновки:
- Як повідомляється, 12 червня генеральний директор Amazon Енді Джассі повідомив представникам Трампа про результати джейлбрейка Fable 5, що призвело до глобального закриття.
- Трейдери Polymarket оцінюють ймовірність того, що Anthropic відновить доступ до Fable 5 до 1 липня 2026 року, у 71%.
- Anthropic назвав директиву Міністерства торгівлі «непорозумінням» і пообіцяв відновити доступ якомога швидше.
Що сталося
12 червня 2026 року Міністерство торгівлі видало директиву щодо експортного контролю, яка вимагає від Anthropic призупинити доступ до Claude Fable 5 та Claude Mythos 5 для будь-яких іноземних громадян, незалежно від того, чи перебувають вони в Сполучених Штатах, чи за їх межами. Оскільки доступ до API не може надійно фільтрувати користувачів за національністю, Anthropic вимкнула обидві моделі для всіх клієнтів у всьому світі. Інші моделі Anthropic продовжували працювати.
Директива надійшла близько 17:21 за східним часом. До вечора Anthropic підтвердила закриття у публічній заяві.
Зв'язок з Амазонкою
За словами джерел, знайомих з цим питанням, на яких посилається Wall Street Journal, Джассі повідомив міністра фінансів Скотта Бессента, міністра торгівлі Говарда Лутніка та Національного директора з кібербезпеки Шона Кернкросса, що дослідники Amazon використовували спеціально створені підказки у Fable 5 для отримання інформації про вразливості програмного забезпечення, які модель мала відхилити.
Дослідження виявило підказки, які обходили деякі вбудовані класифікатори безпеки Fable 5 щонайменше в чотирьох програмах. Дослідники виявили, що модель може виявляти програмні помилки та, теоретично, допомагати перетворити їх на код експлойту, хоча захисні огородження блокували повну реалізацію в перевірених випадках. Жодних доказів того, що Amazon використовував або мав доступ до наступальних можливостей.
Звернення Джассі було частиною ширших переговорів між керівниками технологічних компаній та адміністрацією щодо ризиків, пов'язаних зі штучним інтелектом. Після цього адміністрація вирішила запровадити експортний контроль, і президент Трамп, як повідомляється, підписав це рішення, незважаючи на застереження щодо впливу інновацій.
Що означає «джейлбрейк» моделі штучного інтелекту
Традиційний «джейлбрейк», який став відомим завдяки Джорджу Хотцу, коли він розблокував оригінальний iPhone у 2007 році, передбачає пошук та використання низькорівневих вразливостей прошивки або апаратного забезпечення для усунення обмежень виробника. Оперативний джейлбрейк у штучному інтелекті працює інакше.
Джейлбрейк швидкого доступу означає створення текстових вводів, призначених для обману великої мовної моделі (LLM), щоб вона ігнорувала правила безпеки. Замість використання коду дослідники використовують мову. Одним із найперших прикладів було запрошення «DAN» (Do Anything Now – «Зроби що завгодно зараз»), яке поширилося на Reddit наприкінці 2022 року, яке наказувало ChatGPT грати роль необмеженого персонажа. Методи варіюються від сценаріїв рольових ігор та гіпотетичного фреймінгу до автоматизованих методів, що оптимізують змагальні текстові рядки.
У випадку з Fable 5 дослідники Amazon використовували методи на основі підказок, щоб спонукати модель вивести інформацію про вразливості, яку вона мала відхилити.
Незгода Антропіка
Anthropic виконала директиву, але рішуче заперечила. Компанія переглянула демонстрацію Amazon і дійшла висновку, що вона виявила лише невелику кількість раніше відомих, незначних вразливостей, які можна виявити за допомогою інших загальнодоступних моделей без будь-якого обходу. Anthropic заявила, що універсального джейлбрейка для Fable 5 або Mythos 5 не існує, незважаючи на широку співпрацю з урядом США, Інститутом безпеки штучного інтелекту Великобританії та третіми сторонами.
Компанія стверджувала, що застосування цього стандарту в масштабах всієї галузі «по суті зупинить усі розгортання нових моделей». Anthropic назвала ці дії «непорозумінням» і заявила, що працює над відновленням доступу, зберігаючи при цьому 30-денну політику зберігання даних для дослідницьких цілей.
Колишній радник Білого дому з питань штучного інтелекту та крипто-цар Девід Сакс заявив, що обмеження було введено «неохоче», і висловив сподівання, що Anthropic виправить проблему, щоб експортний контроль можна було зняти.
За словами Сакса, «надійний довірений партнер» знайшов спосіб обійти вразливість Fable та повідомив про це як Anthropic, так і уряд США. Він стверджує, що адміністрація попросила генерального директора Anthropic Даріо Амодея або виправити вразливість, або видалити модель, але Anthropic відмовився.
«М’яч на стороні Anthropic», – написав Сакс на X, додавши, що адміністрація сподівається, що Anthropic вирішить проблему, щоб обмеження можна було зняти, а Fable знову стала загальнодоступною. Ерік Вурхіс, засновник Venice AI та ShapeShift, заперечив версію подій уряду.
У темі Sacks Вурхіз припустив, що ймовірний джейлбрейк, ймовірно, був рутинною проблемою безпеки, а не серйозною загрозою, і стверджував, що Anthropic, можливо, розглядала вимоги зупинити розгортання моделі як надмірні. Вурхіз також припустив, що федеральні чиновники використали цю суперечку як можливість покарати Anthropic за попередні розбіжності з Вашингтоном, додавши, що він більше довіряє оцінці Anthropic питань безпеки ШІ, ніж оцінці федерального уряду.
Дослідниця з питань безпеки Кеті Муссуріс з Luta Security, яка переглянула висновки Amazon, назвала реакцію уряду «повністю перебільшеною реакцією», зазначивши, що ця інформація допомагає, перш за все, захисникам, а не зловмисникам.
Що кажуть прогнозні ринки
Трейдери швидко визначили ціну на графік повернення Fable 5.
На Polymarket 13 червня було відкрито три контракти на певну дату із загальним обсягом торгів у 18 263 долари США:
- Рішення від 15 червня: ймовірність 22%, обсяг $13 975
- Рішення від 22 червня: ймовірність 54%, обсяг $4 011
- Рішення від 1 липня: ймовірність 71%, обсяг $1595
Трейдери Калші використовують аналогічні контракти на загальну суму $6 419 з 24-годинним обсягом:
- До 15 червня: ймовірність 14%
- До 20 червня: ймовірність 51%
- До 1 липня: ймовірність 68%
Натовп схиляється до ухвалення рішення у другій половині червня, і його твердо переконали, що відновлення того ж тижня малоймовірне.
Чому це важливо
Це знаменує собою одне з найпряміших застосувань експортного контролю США для обмеження глобального доступу до певної передової моделі штучного інтелекту від американської компанії, окремо від обмежень щодо чіпів та апаратного забезпечення, які визначали попередню політику. Цей крок впливає на дослідників іноземного походження, які працюють у США, на глобальні операції з кібербезпеки, що залежать від інструментів Anthropic, а також на комерційні терміни та часові рамки IPO Anthropic. Amazon є як інвестором Anthropic, так і основним партнером з хмарного розповсюдження її моделей через Amazon Bedrock.
Дебати про «закритий штучний інтелект»
Деякі спостерігачі стверджують, що ця директива знаменує собою початок ери «закритого штучного інтелекту», коли найпотужніші прикордонні моделі більше не є широкодоступними, а обмежені через схвалення уряду, KYC, перевірки національності та перевірені ліцензії. Громадськість отримує старіші або понижені версії, тоді як схвалені партнери отримують доступ до повного стеку, таких як Fable та Mythos.
Один користувач X описав цей інцидент як переломний момент для ШІ, стверджуючи, що «найпотужніша модель ШІ на землі працювала 3 дні», перш ніж уряд фактично закрив її діяльність. У дописі стверджувалося, що Anthropic, компанія, яка раніше «благала про регулювання», побачила, що «уряд регулює їх», порушуючи доступ до її флагманської моделі. Користувач також стверджував, що епізод показав, що передовий ШІ має «вимикач», і що «компанія його не тримає».
Занепокоєння менше пов'язане з цим інцидентом, а радше з тим, що він сигналізує. Якщо вузької демонстрації джейлбрейка достатньо, щоб вивести з експлуатації комерційно розгорнуту модель, яку використовують сотні мільйонів, критики кажуть, що планка для майбутніх обмежень нижча, ніж хтось припускав.