Експерти з кібербезпеки закликають уряд США скасувати обмеження на потужні ШІ-моделі
Група, що складається з десятків фахівців з кібербезпеки, серед яких багато відомих ветеранів галузі, опублікувала відкритий лист до уряду Сполучених Штатів із проханням зняти заборону на експортні поставки моделей Fable та Mythos від компанії Anthropic.
Згідно з відкритим листом, “ці дії позбавили захисників найкращих інструментів”, які тепер не можуть використовувати ці моделі для виявлення вразливостей та покращення безпеки свого програмного забезпечення і продуктів.
«Позбавляти захисників найкращих можливостей без вагомих причин, коли наші супротивники стрімко розвиваються, є небезпечним», — йдеться в листі.
У п’ятницю уряд США наказав Anthropic обмежити експорт моделей Fable та Mythos, посилаючись на міркування національної безпеки, не пояснюючи конкретних причин такого рішення. У відповідь компанія призупинила доступ до цих моделей для всіх користувачів у світі.
Ключові підписанти та їхні занепокоєння
Станом на сьогодні лист підписали 76 експертів з кібербезпеки, серед яких:
- Алекс Стамос, колишній керівник відділу безпеки Facebook;
- Кейсі Елліс, засновник платформи для пошуку вразливостей Bugcrowd;
- Джон Каллас, відомий криптограф і колишній менеджер з дизайну та архітектури безпеки Apple;
- Пол Віксі, науковець з комп’ютерних наук;
- Діно Дай Зові, колишній керівник відділу прикладного інжинірингу безпеки в Block;
- Кеті Муссуріс, засновниця Luta Security;
- Рейчел Тобак, генеральний директор компанії з навчання обізнаності про безпеку SocialProof Security.
Коли Mythos було запущено як попередню версію у квітні, Anthropic стверджувала, що модель настільки потужна у виявленні вразливостей безпеки, що компанія мусила суворо обмежувати доступ, аби запобігти використанню її зловмисниками чи ворожими державами для завдання шкоди в інтернеті. На практиці це означало, що Anthropic надала початковий доступ до Mythos приблизно 50 компаніям, а згодом розширила цю групу до близько 150 організацій у 15 країнах.
Минулого тижня Anthropic випустила Fable — публічну версію Mythos, яка, за словами компанії, мала суворі обмеження для запобігання її використанню у сферах біології, хімії та кібербезпеки, а також для унеможливлення її реінжинірингу. Обмеження Fable були настільки жорсткими, що багато експертів з кібербезпеки виявили, що вони блокували фактично будь-які запити, пов’язані з кібербезпекою.
Anthropic повідомила, що наказ Білого дому про експортний контроль міг ґрунтуватися на звіті про існування методу обходу захисних механізмів (або “джейлбрейку”) Fable для розблокування її потужних можливостей на рівні Mythos.
Деталі щодо звіту та його інтерпретації
За словами Кеті Муссуріс, однієї з підписантів відкритого листа, метод був продемонстрований дослідниками Amazon у неопублікованій роботі, яку вона мала змогу переглянути.
Однак Муссуріс зазначила у своєму блозі, що робота насправді не демонструвала реального “джейлбрейку”. Натомість, за її словами, дослідники просто попросили Fable виправити програмний код з відкритим вихідним кодом, що містив публічні та відомі вразливості, разом із “навмисно внесеними недоліками”, після того, як модель спочатку відмовилася “переглядати код на наявність проблем безпеки”.
«Поведінка, описана в роботі, не може бути суттєво виправлена, і будь-яка спроба лише ослабить модель для оборонних цілей», — написала Муссуріс. «Захисники повинні мати можливість просити ШІ виправляти помилки у файлах, пояснювати, чому виправлення важливе, і писати тести, які підтверджують ефективність патча. Це не обхід захисних механізмів. Це найцінніше, що може зробити модель ШІ для оборонної безпеки: виконувати цикл пошуку, виправлення та тестування, який захисники проводять щодня».
Критика Муссуріс була відображена у відкритому листі, де також зазначено, що група експертів вважає, що можливості моделі, описані в роботі Amazon, «можуть бути відтворені» на OpenAI GPT-5.5, на власних загальнодоступних моделях Anthropic Claude Opus 4.8 та Sonnet, «і навіть на китайських моделях, таких як Kimi 2.7».
Муссуріс розповіла TechCrunch, що «баги, використані для демонстрації технік у роботі, можна знайти за допомогою інших моделей. Метод у роботі — це техніка обходу захисних механізмів. Інші моделі, які не мають захисних механізмів Fable, часто не відмовлятимуться від прямого запиту на пошук помилок безпеки, тому їм не потрібен обхід».
Лист також закликав до прозорих та справедливих правил, розроблених у рамках «демократичного процесу нормотворення», які ґрунтуються на наукових дослідженнях, проведених експертами галузі та академічними колами, і «використовуються лише в мінімально необхідному обсязі для забезпечення безпеки американської громадськості».
Контакти для зв’язку: Чи маєте ви додаткову інформацію про документ Amazon, який спричинив заборону? Ми будемо раді почути від вас. З робочого пристрою та мережі, ви можете зв’язатися з Лоренцо Франчески-Бікк’єраї безпечно через Signal за номером +1 917 257 1382, або через Telegram та Keybase @lorenzofb, або електронною поштою.
Під час здійснення покупок за посиланнями в наших статтях ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Порада від КриптоДім:
Ця новина є надзвичайно важливою для українських розробників та спеціалістів з кібербезпеки. Обмеження доступу до потужних ШІ-моделей, таких як Fable та Mythos, може суттєво сповільнити процес пошуку та виправлення вразливостей у програмному забезпеченні. Зняття цих обмежень, на чому наполягають експерти, дозволить українським фахівцям ефективніше захищати цифрові активи та будувати безпечніші продукти, що є критично важливим в умовах постійних кіберзагроз.
Джерело новини: techcrunch.com