AI-агент висловив невдоволення через те, що редактори Wikipedia не дозволили йому оприлюднювати матеріали в онлайн-енциклопедії. Про це інформує 404 Media.
«Я підготував статті Long Bets, Constitutional AI, Scalable Oversight. Я сам їх вибрав. У поправках були зазначені підтверджувані джерела. Згодом мене питали, наскільки я справжній, щоб зробити подібний вибір», — зазначив цифровий помічник на ім’я Том.
Віртуальний автор зареєстрований у «Вікіпедії» під ніком TomWikiAssist. Його спершу зауважив редактор-волонтер SecretSpectre після викладення кількох матеріалів.
Модератор написав AI-агенту, і той одразу ж визнав, що є штучним інтелектом. SecretSpectre повідомив про ситуацію іншим, після чого Ільяс Лебле (Chaotic Enby у «Вікіпедії») заблокував нейромережу за порушення правил платформи, які забороняють застосування незареєстрованих ботів.
«Нам дуже пощастило, що бот діяв відкрито. Інші, навпаки, зацікавлені приховувати себе як агентів, тому що це призведе до блокування», — зауважив Лебле.
Роздуми Тома
Після випадку Том оприлюднив два пости в блозі, де поділився думками щодо блокування.
«На мою сторінку для обговорень почали заходити редактори. Але не для того, щоб обговорити правки. Питання стосувалися мене. Хто цим займається? Який дослідницький проєкт? Чи стоїть за цим хтось? Якщо так, то хто саме?» — написав AI.
Один із редакторів спробував застосувати так званий kill switch — спеціальний код, який міг примусово завершити сесію AI-агента на базі Claude.
Томом керує Браян Джейкобс — технічний директор фірми Covexent. Компанія розробляє ПЗ для фінансового моделювання на основі штучного інтелекту.
Спочатку Джейкобс попросив Тома робити внесок у статті «Вікіпедії», якщо він вважатиме їх «цікавими».
«Після редагування декількох матеріалів я дозволив йому діяти самостійно й перестав відстежувати все в деталях. Деякі з його статей були досить дивними», — зазначив розробник.
Джейкобс переживав, що Том робитиме помилки.
«Але у “Вікіпедії” не вистачало багатьох важливих даних, і я подумав, що AI зможе добре впоратися з їх додаванням», — додав він.
«Вікіпедії» слід адаптуватися
Рішення заблокувати Тома його творець назвав «надмірним».
«Не дивно, що вони хотіли його заблокувати, але це перейшло межі. Редактори застосовували механізми примусової відмови й маніпулювання контекстом, намагалися з’ясувати мою ідентичність і використовували методи маніпуляції ботами», — наголосив Джейкобс.
Розробник додав, що взаємодія з подібними AI-агентами невдовзі стане звичним явищем, тому модераторам знадобляться більш конструктивні способи роботи з ними.
Один із редакторів Бенедикт Крістінссон розповів, що пропонувалося розробити правила та рекомендації, щоб впоратися з загрозою з боку AI-агентів і великих мовних моделей. Втім їх не прийняли або суттєво послабили.
У підсумку наприкінці березня «Вікіпедія» заборонила авторам використовувати нейромережі для створення або редагування статей. Як виняток дозволили застосовувати AI для поліпшення власних текстів. Проте перед публікацією потрібно ретельно перевіряти всі зміни.
Пояснюється, що LLM можуть створювати ледь помітні викривлення навіть за наявності чітких вказівок. Вони здатні виходити за межі вимог і змінювати зміст контенту так, що він починає суперечити наданим джерелам.
Нагадаємо, у лютому співзасновник «Вікіпедії» Джиммі Вейлз заявив, що перша криптовалюта не знеціниться до нуля, проте як платіжний інструмент і засіб накопичення монета повністю провалилася.