Фінансові регулятори Великобританії проводять екстрені консультації з державною агенцією з кібернетичної безпеки та найбільшими банками. Сторони оцінюють небезпеки, асоційовані з новою ШІ-моделлю Anthropic, повідомляє FT.
Представники Банку Англії, Органу з фінансового регулювання та контролю та Міністерства фінансів обговорюють питання з Національним центром кібербезпеки. Вони збираються спільно дослідити можливі уразливості критично важливих ІТ-систем, які виявила нейронна мережа.
Видання зауважує, що впродовж наступних двох тижнів найбільші фінансові організації, страхові фірми та біржі отримають відомості про кібернетичні ризики, пов’язані з Claude Mythos.
Побоювання перед ШІ
Новітня нейромережа проявила себе настільки потужною, що розробники відмовились від її публічного випуску. Замість цього розпочався Project Glasswing — ініціатива з перевірки інструменту в контрольованих умовах за участю AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia та Palo Alto Networks.
Приводом для занепокоєння стало те, що лише за декілька тижнів Mythos виявила тисячі вразливостей нульового дня в головних операційних системах та веб-браузерах.
Масштаб вірогідної загрози змусив міністра фінансів США Скотта Бессента та голову ФРС Джерома Пауелла організувати термінову зустріч з керівниками Уолл-стріт. Представники влади попередили топ-менеджерів, серед яких були голова Citigroup Джейн Фрейзер і CEO Goldman Sachs Девід Соломон, що запуск Mythos позначає нову еру в галузі кібербезпеки.
Банк Канади та найбільші фінансові інститути країни також провели зустріч для «оцінки системних небезпек, пов’язаних з появою настільки передової ШІ-моделі». Мета ініціативи — «збільшення операційної стійкості критично значущого фінансового сектора країни».
Нагнітання ажіотажу?
У TechCrunch звернули увагу, що обмеження доступу до Mythos може бути елементом маркетингової кампанії для залучення уваги до нової ШІ-моделі.
У березні голова профільного ШІ-стартапу Irregular Ден Лахав наголосив: хоча автоматизований пошук уразливостей відіграє суттєву роль, реальна вигода від знайденої «діри» для хакерів залежить від багатьох факторів.
В Anthropic запевняють, що Mythos здатна ширше застосовувати вразливості в порівнянні з Opus. Разом з тим поки незрозуміло, чи насправді ця LLM є ідеальним рішенням для кіберзахисту.
Стартап Aisle повідомив, що зміг відтворити більшість досягнень Mythos за допомогою інших нейромереж. За словами представників фірми, не існує універсальної моделі для кібербезпеки — вибір інструменту завжди залежить від конкретної задачі.
Одна з причин, чому провідні ШІ-лабораторії можуть навмисно обмежувати релізи, — можливість укладати ексклюзивні угоди з великими підприємствами, одночасно ускладнюючи конкурентам копіювання інструментів шляхом дистиляції.
«Це маркетинговий прийом, спрямований приховати той факт, що топові моделі тепер доступні тільки за корпоративними домовленостями і більше не надаються невеликим лабораторіям для тестування», — зазначив CEO exe.dev Девід Кроушоу.
Він додав, що коли Mythos відкриють для всіх бажаючих, на ринку з’явиться нова передова LLM виключно для корпоративних клієнтів. Такий підхід дозволяє підтримувати приплив коштів та обмежувати компанії, які займаються дистиляцією алгоритмів.
Anthropic на передовій
За останні декілька місяців стартап Anthropic суттєво розширив свою аудиторію. Рішення компанії мають великий попит, а виручка експоненціально зростає.
Журналісти TechCrunch повідомили, що на конференції HumanX AI в Сан-Франциско тисячі фахівців з ШІ обговорювали можливості технології, і Claude згадували найчастіше як один з найкращих продуктів на ринку.
Anthropic згадували на багатьох панельних сесіях. Водночас про ChatGPT майже не згадували. Один з експертів відзначив, що OpenAI «випала з гри».
Багато учасників конференції наголосили, що компанія Сема Альтмана втратила чіткий напрямок розвитку. Масла у вогонь підлила недавня стаття про голову стартапу — його зобразили як диктатора та шахрая, який відмовився від початкової благородної місії.
Зарано ховати OpenAI
Нещодавній аналіз фінансових показників OpenAI та Anthropic засвідчив, що обидві компанії є «підприємствами з найшвидшим зростанням в історії».
У цьому контексті «падіння» творіння Альтмана вказує лише на те, що воно більше не є незаперечним лідером. У фірми з’явилися конкуренти — це звичайно для більшості галузей, зазначили в TechCrunch.
OpenAI явно не має наміру втрачати домінування. Компанія анонсувала новий тарифний план за $100, який надає розширений доступ до інструменту для програмування Codex.
Нагадаємо, у квітні Anthropic випустив середовище для запуску складних і тривалих агентних задач — Claude Managed Agents.