Увага, техкомпанії США: Уряд може втрутитись у вашу діяльність
Лист від уряду Сполучених Штатів до компанії Anthropic, який фактично змусив компанію припинити роботу своїх новітніх моделей штучного інтелекту напередодні вихідних, має стати тривожним сигналом для будь-якої американської технологічної компанії, чи то лабораторії ШІ, чи то будь-якої іншої.
Щоб ви були в курсі останніх подій: у п’ятницю вдень Міністерство торгівлі США надіслало Anthropic листа, посилаючись на маловідому директиву експортного контролю. Ця директива заборонила негромадянам США, включно зі співробітниками Anthropic, отримувати доступ до моделей Fable 5 та Mythos 5, посилаючись на невизначену причину національної безпеки. Anthropic повідомила, що, на їхню думку, лист пов’язаний із обходом захисних механізмів моделі, але вони не впевнені, оскільки в листі відсутні конкретні деталі. Сам лист не був опублікований.
У відповідь Anthropic припинила доступ до обох своїх провідних моделей для всіх користувачів, щоб гарантувати дотримання директиви. Результатом стало те, що уряд США успішно змусив технологічну компанію припинити роботу своїх моделей за допомогою швидких і односторонніх дій, які, здавалося, не потребували судового дозволу.
Втручання адміністрації Трампа в п’ятницю демонструє, що індустрія ШІ не застрахована від державного втручання. Це також є попередженням для ширшої технологічної галузі: дотримуйтесь, або ми можемо зупинити вас та вашу продукцію.
З посиланням на джерела, видання Axios описало напружену ситуацію протягом вихідних між двома основними сторонами, зазначивши, що “особистісні розбіжності” між Anthropic та адміністрацією Трампа призвели до видання директиви експортного контролю, а не до технічної проблеми з продуктами ШІ.
Нові деталі проблеми, що з’явилися протягом вихідних, ще більше ставлять під сумнів і без того хибне обґрунтування уряду.
Кеті Муссуріс, ветеран кібербезпеки та дослідниця, яка заснувала Luta Security, повідомила у своєму блозі, що Anthropic нещодавно поділилася з нею приватною копією статті, написаної дослідниками безпеки. У цій статті описується ймовірний обхід захисних механізмів у Fable 5. (The Wall Street Journal повідомляє, що автори статті є дослідниками безпеки з Amazon). Муссуріс зазначила, що Anthropic звернулася до неї за консультацією щодо цієї статті.
У своєму блозі Муссуріс описала, як дослідники активували обхід захисту, але зазначила, що сам цей обхід “ніколи не мав би бути підставою для експортного контролю”. Різниця полягає переважно між запитом до моделі ШІ “переглянути код на наявність проблем безпеки” та запитом “виправити цей код”. Кінцевий результат значною мірою однаковий, навіть якщо запити сформульовані по-різному.
“Поведінка, описана в статті, не може бути суттєво виправлена, а будь-яка спроба лише послабить модель для захисту”, – заявила Муссуріс, яка розкритикувала директиву експортного контролю як поспішну, надмірну та помилкову.
Муссуріс та десятки інших провідних дослідників і експертів з безпеки закликали адміністрацію Трампа скасувати наказ про експортний контроль, назвавши цей крок, який позбавляє американських захисників мереж передових можливостей кібербезпеки, “небезпечним”.
Минулі адміністрації приймали широкі рішення щодо прогалин у знаннях. Наприклад, термінологія, яку використовував уряд США у 2010-х роках для виправлення експортного законодавства, що охоплювало інструменти кібербезпеки, які також могли використовуватися для кібератак, була настільки широкою, що ненавмисно майже заборонила законні дослідження безпеки та вразливостей.
Однак, директива адміністрації Трампа виглядає як помста.
Джастін Гендрікс, редактор Tech Policy Press, заявив, що крок адміністрації Трампа “ймовірно, викличе тривогу в іноземних столицях щодо надійності американського ШІ для критично важливих застосувань”. Посил полягає в тому, що компаніям ШІ у Сполучених Штатах не можна довіряти роботу без втручання уряду США.
Адміністрація Трампа не підтвердила, чому саме вона застосувала свою директиву експортного контролю. Чи чиновники неправильно прочитали звіт і запанікували? Чи сказав генеральний директор Amazon Енді Джессі щось старшим державним посадовцям, що спричинило таку реакцію, з обережності чи зі злості? Чи щось було втрачено при перекладі, або це був спосіб тиску на Anthropic, з якою у адміністрації вже були напружені стосунки? Можливо, Білий дім не усвідомлював далекосяжних наслідків вимоги листа, і чиновники намагаються виправити шкоду, яку вони самі завдали.
Цитуючи Гендрікса: “Клімат характеризується хмарою підозр, що старші посадовці обирають улюбленців на основі особистих та політичних факторів”. Наслідком є те, що уряд встановив небезпечний прецедент щодо того, наскільки великий контроль він має намір здійснювати над випуском програмного забезпечення американського виробництва.
Цього разу уряд мав претензії до Anthropic; завтра це може бути хто завгодно.
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.
Порада від КриптоДім:
Ця новина підкреслює важливість розуміння правових та регуляторних ризиків, пов’язаних з розробкою та розповсюдженням передових технологій. Для компаній, що працюють у сфері ШІ, це означає необхідність бути готовими до можливих обмежень з боку уряду, навіть якщо вони здаються необґрунтованими. Особливо це стосується виходу на міжнародні ринки, де регуляторні вимоги можуть бути ще складнішими.
Джерело новини: techcrunch.com