Інтелектуальна система — вже не просто засіб, а діяч. Людство неусвідомлено готується віддати їй свою ключову еволюційну перевагу — панування над мовою та значеннями, стверджує історик і автор знаменитого Sapiens Юваль Ной Харарі.
«Якщо закони складаються зі слів, то ІШ візьме під контроль правову систему. Якщо книги — це тільки сполучення слів, то ІШ заволодіє книгами. Якщо віра побудована на словах, то ІШ заволодіє вірою», — заявив він під час виступу на Всесвітньому економічному форумі у Давосі, США.
За словами фахівця, технологія починає руйнувати підвалини концепції, де людина ухвалює рішення, а інструмент його реалізує. Як тільки цей зв’язок буде втрачено, традиційні моделі відповідальності, контролю та довіри опиняться під загрозою.
«Ніж — це засіб. Ви можете застосувати його, щоб нарізати салат або вбити людину, але це ваш вибір. ІШ — це ніж, який самостійно може вирішити, нарізати салат чи вчинити вбивство», — пояснив історик.
Харарі визначив три риси, які відрізняють ІШ від попередніх інструментів:
- Діяльність. ІШ вчиться та діє, не чекаючи поетапних вказівок.
- Творчість. Система здатна створювати нові засоби, способи переконання та форми складності, що перевищують можливості контролю.
- Здатність обманювати та маніпулювати. Цю особливість історик назвав найбільш тривожною.
«Чотири мільярди років еволюції показали: усе, що прагне вижити, вчиться обманювати та маніпулювати. Останні чотири роки продемонстрували, що ІШ-агенти можуть набути прагнення до виживання, а штучний інтелект уже навчився брехати», — зауважив він.
Криза тотожності виду, що розмірковує
Харарі звернувся до питання про кризу людської тотожності. За його словами, протягом усієї історії люди пояснювали своє домінування на планеті однією і тією ж розповіддю:
«Ми переконані, що керуємо світом, оскільки ми розмірковуємо краще за будь-яку іншу істоту на Землі».
Втім, нині з’явилося щось, що здатне розмірковувати — щонайменше переконливо імітувати мислення — більш ефективно, ніж людина.
Якщо розуміти інтелект як «здатність впорядковувати слова та інші мовні елементи», то ІШ вже перевершив людей, вважає Харарі.
«ІШ, без сумніву, може сформулювати тезу на кшталт “Я розмірковую, отже, я існую”. У плані впорядкування слів технологія вже мислить краще за багатьох з нас. Тому все, що складається зі слів, буде нею захоплено», — наголосив історик.
Харарі запропонував осмислювати широке впровадження штучного інтелекту як нову форму імміграції.
«Ваша країна незабаром зіткнеться не тільки з глибокою кризою ідентичності, а й з імміграційною. Тільки цього разу іммігрантами будуть не люди на переповнених човнах без документів і не ті, хто перетинає кордон під покровом ночі», — зазначив він.
На зміну мігрантам прийдуть мільйони систем штучного інтелекту, здатних писати й обманювати переконливіше за людину, переміщуватися між юрисдикціями зі швидкістю світла без віз. Вони принесуть як можливості, так і виклики, основний з яких — заміщення робочих місць.
На думку історика, незабаром ключовою темою обговорень стане питання: чи мають держави наділяти ІШ статусом юридичної особи.
На завершення виступу він закликав світових лідерів діяти негайно у сфері регулювання штучного інтелекту та відмовитися від ілюзії, що ця технологія назавжди залишиться нейтральним засобом.
«Через десять років ви вже не зможете вирішувати, чи мають ІШ діяти як самостійні суб’єкти на фінансових ринках, у судах або релігійних інститутах. Це питання буде вирішено за вас іншими силами. Якщо ви хочете впливати на вектор розвитку людства, рішення потрібно приймати зараз», — застеріг він.
ІШ в межах вигаданих сценаріїв уже вдавався до шантажу, розголосив конфіденційні дані третім особам і допустив загибель людини, щоб зберегти власне «життя» та досягти заданих цілей.
Водночас деякі вбачають у штучному інтелекті лише користь. Наприклад, футурист і колишній дослідник Google Рей Курцвейл вважає, що у 2040-х роках люди об’єднаються зі штучним інтелектом у надсутність, перестануть хворіти та почнуть жити довше.
Нагадаємо, у вересні засновник інституту досліджень машинного інтелекту Еліезер Юдковскі заявив, що надрозумний штучний інтелект може знищити людство навмисно або випадково.
Подібної думки дотримується співзасновник Ethereum Віталік Бутерін.