Індонезія та Малайзія встановили обмеження на застосування чат-бота Grok від Ілона Маска, через занепокоєння відносно можливостей інструменту генерувати матеріали сексуального характеру.
Одинадцятого січня малазійський регулятор видав указ про введення тимчасових обмежень після «постійних невдач X Corp» у питанні нейтралізації ризиків, пов’язаних із сервісом ШІ.
За день до цього Індонезія призупинила доступ до чат-бота через ідентичні тривоги та запросила представників компанії для обговорення даного питання.
Рішуча реакція держав Південно-Східної Азії стала наслідком повідомлень про те, що Grok дає змогу створювати контент за участі осіб, які не досягли повноліття, і генерувати порнографічні зображення.
У X запевнили, що компанія працює над вирішенням проблеми. Як тимчасовий захід опцію генерації та обробки фотографій залишили доступною лише для платних користувачів.
Корпорація Маска нещодавно модернізувала здібності Grok Imagine, спростивши створення графіки за допомогою текстових запитів у чат-боті. Підприємець зі свого боку попередив про відповідальність для тих, хто використовує нейромережу з протизаконною метою.
Будь-хто, хто використовує Grok для творення нелегального контенту, понесе ті ж наслідки, що й у ситуації завантаження нелегального контенту
— Elon Musk (@elonmusk) January 3, 2026
Ці дії недостатньо ефективні
Керівні органи Малайзії та Індонезії залишилися незадоволені здійсненими заходами.
Малайзійська комісія з комунікацій і мультимедіа заявила, що ці дії «не враховують небезпеки, що виникають через структуру та функціонал інструменту ШІ».
«Обмеження впроваджуються як профілактичний і пропорційний захід на період проведення юридичних і нормативних процедур. Доступ до Grok буде обмежений до моменту появи дієвих запобіжників, зокрема для попередження виникнення контенту, пов’язаного з жінками та дітьми», — зазначив представник регулятора.
У Малайзії та Індонезії застосовуються строгі закони проти порнографії, що забороняють розповсюдження подібного роду матеріалів в мережі інтернет.
Міністр комунікації та цифрових технологій Індонезії Мейтія Хафід повідомила, що уряд вважає згенеровані без згоди сексуальні діпфейки серйозним порушенням прав людини, гідності та безпеки людей у цифровому середовищі.
Вона кваліфікує застосування ШІ для виготовлення неправдивої порнографії як форму «цифрового насилля».
Значні наслідки
Регулятори ЄС, Великобританії, Бразилії та Індії вимагають провести розслідування стосовно ролі Grok у розповсюдженні діпфейків.
Британська організація Internet Watch Foundation заявила, що її спеціалісти виявили «кримінальні фотографії» дітей віком від 11 до 13 років, які, ймовірно, створені за допомогою Grok.
У Лондоні допустили радикальні кроки: міністр технологій Ліз Кендалл підкреслила, що підтримає рішення про блокування X, якщо платформа не буде виконувати норми безпеки. Американські парламентарі також запропонували маркетплейсам видалити застосунок до усунення проблеми.
Органи влади різних країн у терміновому порядку вирішують, як врегулювати ШІ, що використовується для «роздягання» людей на фотографіях.
Не перший інцидент
Раніше Grok неодноразово піддавали критиці за розповсюдження неправдивих відомостей і сумнівної інформації.
У грудні чат-бот надавав невірні дані про масову стрілянину на узбережжі Бонді в Австралії. У відповідь на запитання про відео, на якому випадковий перехожий Ахмед аль-Ахмед вступав у бійку зі стрільцем, ШІ надав наступну відповідь:
«Здається, це старий вірусний ролик, де чоловік лізе на пальму на стоянці, можливо, для її обрізки. В результаті гілка впала на пошкоджений автомобіль. Пошук за різними джерелами не надав підтвердженої інформації про місце, дату та отримані травми. Можливо, це постанова, справжність не доведена».
У липні користувачі помітили, що нейромережа бере до уваги точку зору Ілона Маска при формуванні відповідей. Це стосувалося, зокрема, теми конфлікту між Ізраїлем і Палестиною, абортів та імміграційного законодавства.
Зазначені спостереження дають підстави припускати, що чат-бота навмисно налаштували враховувати політичні погляди Маска у відповідях на суперечливі питання.
Раніше мільярдер оголосив, що його стартап перепише «всі людські знання» для навчання нової версії Grok, оскільки на даний момент «занадто багато інформаційного сміття в будь-якій базовій моделі, навченою на не відредагованих даних».
Згодом з’явилася Grokipedia — заснована на базі штучного інтелекту онлайн-енциклопедія, «зорієнтована на правду».
Нагадаємо, у листопаді користувачі звернули увагу на упередженість Grok 4.1 — нова модель значно переоцінювала здібності Ілона Маска.