«Технооптимізм» Віталіка Бутеріна: як ШІ та блокчейн вплинуть на майбутнє — ForkLog UA
Співзасновник Ethereum Віталік Бутерін написав есе «Мій технооптимізм», у якому поділився своєю думкою щодо впливу нових розробок, зокрема блокчейну та штучного інтелекту, на розвиток людської цивілізації.
Технології та їхнє впровадження
Як пояснює Бутерін, його почуття з приводу технооптимізму «теплі, але нюансовані». На його думку, у майбутньому технології зможуть перетворити побут людей на краще, проте попереду безліч небезпечних чинників, які необхідно враховувати.
Проте, затримка впровадження нових технологій обходиться людству «дуже дорого», вважає розробник. Як приклад він навів діаграму середньої тривалості життя в різних країнах.
Середня тривалість життя. Джерело: vitalik.eth.limo.
На зображенні видно, як скорочувалася середня тривалість життя за часів світових воєн, «іспанки» та «великого стрибка» в Китаї. Але Бутерін зазначив, що розвиток у галузях продовольства, медицини та інфраструктури у XX столітті нівелював наслідки глобальних трагедій.
Щодо нових технологій, на зламі століть люди отримали зручний доступ до інтернету, а отже до необмеженої інформації.
«Якщо протягом наступних 75 років біотехнології просунуться так само далеко, як комп’ютери просунулися за останні 75 років, майбутнє може стати більш вражаючим, ніж усі можливі очікування», — заявив співзасновник Ethereum.
Паралельно скептичні аргументи проти прогресу часто заходять у глухий кут, а іноді й зовсім породжують антинаукові течії, вважає він. Теза про «межі зростання», висунута в 1970-х, передбачає, що зростання населення і промисловості виснажить ресурси Землі. Подібні ідеї надихнули китайську політику однієї дитини та масову примусову стерилізацію в Індії, підкреслив Бутерін.
«Саме з цих причин мене дуже турбують аргументи на користь сповільнення технологічного або людського прогресу. Враховуючи, наскільки всі сектори взаємопов’язані, навіть галузеве відставання є ризикованим», — додав він.
Практично єдиним аргументом проти розвитку технологій Бутерін назвав зміну клімату, але навіть песимістичні сценарії триваючого підвищення температури не зможуть призвести до повного вимирання людства.
Штучний інтелект
За словами співзасновника Ethereum, ШІ фундаментально відрізняється від інших розробок, і з ним варто бути особливо обережним. Він назвав нейромережі «новим типом розуму», у якого є можливість обігнати розумові здібності людей і стати вищим видом на планеті.
Саме існування штучного інтелекту відносять до екзистенціальних ризиків для всього світу, який у теорії призведе до повного вимирання людей.
«Скільки б шкоди не заподіяв найгірший сценарій зміни клімату, пандемії або ядерної війни, існує безліч острівців цивілізації, які залишаться недоторканими, щоб зібрати їх по шматочках. Але надрозумний ШІ, якщо він вирішить повстати проти нас, цілком може не залишити в живих нікого і назавжди покінчити з людством. Навіть Марс стане небезпечним», — зазначив Бутерін.
Основна причина для занепокоєння пов’язана з інструментальною конвергенцією — гіпотетичною здатністю розумних істот до досягнення схожих проміжних цілей.
Для ШІ можна призначити два напрямки: споживання ресурсів і забезпечення їхньої безпеки. Однак Земля містить безліч копалин, а люди становлять пряму загрозу їх збереженню.
В іншому сценарії штучний інтелект можна навчити захищати людей, припустив програміст. Але поки невідомо, як зробити це так, щоб ШІ «не зламався повністю за несподіваних ситуацій».
Згідно з опитуванням від 2022 року, більша частина дослідників у галузі машинного навчання оцінюють шанси повного вимирання людства через нейромережі в 5-10%.
Людська здатність впливати на навколишній світ. Джерело: vitalik.eth.limo.
«Багато науково-фантастичних серіалів припускають світ, у якому існують надрозумні ШІ, що підкоряються наказам (неполіпшених) біологічних господарів-людей. […] Однак це схоже на неймовірно нестабільну рівновагу», — додав Бутерін.
Великі ризики розробник Ethereum побачив у централізації технології, яка в теорії може потрапити до рук недобросовісних політиків. Він навів як приклад компанію OpenAI зі штатом із 500 співробітників, яка «обслуговує понад 100 млн осіб по всьому світу». Якщо подібна технологія з’явиться у теоретичного диктатора, він запросто зможе контролювати населення.
Бутерін також наголосив на розвитку руху e/acc («ефективний акселераціонізм»), що передбачає визнання переваг технологічного прогресу і бажання прискорити цю тенденцію.
Розробник другого за капіталізацією блокчейну поділяє ідею e/acc, але з пересторогою ставиться до неї щодо напряму ШІ та військово-промислового комплексу.
Тому Бутерін вигадав власну філософію d/acc (де «d» — це оборона, децентралізація, демократія або різниця). Вона підкреслює ідеї вдумливого підходу до технологій з опрацюванням ризиків і децентралізованим розвитком.
Блокчейн і криптовалюта
Блокчейни дають змогу створювати економічні та соціальні структури зі «спільним жорстким диском» без необхідності залежати від централізованих суб’єктів, а криптовалюта дає змогу людям заощаджувати гроші та здійснювати фінансові операції, узагальнив співзасновник Ethereum.
Зокрема, нові форми розвитку розподілених реєстрів — абстракція облікового запису та докази з нульовим розголошенням — допомагають збільшити безпеку та приватність у мережі.
«Ці технології є чудовим прикладом принципів d/acc: вони дають змогу користувачам і спільнотам перевіряти надійність без шкоди для конфіденційності та захищати свою безпеку, не покладаючись на централізацію, яка нав’язує свої власні визначення того, хто хороший, а хто поганий», — пояснив Бутерін.
Однак він все ще вважає, що криптогаманцям необхідно більше «самостійності», а деякі проєкти потребують децентралізації. Крім того, виникають питання кібербезпеки та протидії злочинам.
Добробут людей можливий тільки за співпраці людини та комп’ютера, дійшов висновку Бутерін. Першим кроком до цього симбіозу може стати інтеграція інтерфейсів «мозок-комп’ютер», які надають людині доступ до більш потужних систем обчислень.
«Якщо ми хочемо майбутнього, яке було б одночасно надрозумним і людяним, де люди не просто домашні тварини, а фактично зберігають значущий вплив на світ, то [контрольована взаємодія людини та машини] є найбільш природним варіантом», — наголосив розробник.
Раніше Віталік Бутерін згадав стару технологію Plasma і розповів про способи її нових можливостей застосування в Ethereum.
Нагадаємо, у жовтні засновник блокчейну розповів, як абстракція облікових записів здатна зробити акаунти користувачів стійкими до злому за допомогою квантових комп’ютерів.
