Глава Католицької Церкви представив свою першу енцикліку. Цей документ, що має назву Magnifica Humanitas, зосереджений на “захисті людської гідності в епоху штучного інтелекту”.
Джерело: vatican.va.
Хоча штучний інтелект слугує основним приводом, понтифік звернув увагу на значно давніші та ширші проблеми: соціальну нерівність, військові конфлікти, ослаблення демократичних інститутів та надмірну концентрацію влади у небагатьох, чиї наміри не спрямовані на процвітання людства.
Обсягом у 200 сторінок, цей документ був представлений на заході у Ватикані, в якому брав участь співзасновник Anthropic Кріс Олах. У ньому наголошується, що технології, розроблені та контрольовані вузьким колом еліти, за своєю природою не можуть служити суспільному благу.
«Коли така значна сила зосереджується в руках обмеженої кількості осіб, вона, як правило, стає непрозорою і виходить з-під громадського контролю. Зростає загроза викривлених шляхів розвитку, що призводять до нової залежності, виключення, маніпуляцій та нерівності», — зазначається в енцикліці.
Ключові загрози від ШІ
Папа Римський стверджує, що, подібно до інших масштабних технологічних зрушень, штучний інтелект має тенденцію посилювати вплив тих, хто вже володіє значними економічними ресурсами, експертними знаннями та доступом до даних. Еліти можуть використовувати цей вплив для “формування інформаційних та споживчих моделей, втручання в демократичні процеси та спрямування економічних тенденцій у власних інтересах”.
Окремо понтифік застеріг від ототожнення штучного інтелекту з людським розумом. На його думку, подібні системи здатні імітувати мову, поведінку та аналітичні здібності, однак їм бракує життєвого досвіду, фізичної сутності, сумління та усвідомлення відповідальності за свої дії.
Глава Церкви виділив три аспекти потенційної шкоди від індивідуального використання ШІ: легкість отримання готових відповідей, ілюзія об’єктивності та імітація людського спілкування. Він попереджає, що чат-боти на базі ШІ можуть створювати враження турботи, дружби чи прихильності, особливо в ситуаціях, коли людині бракує справжніх соціальних зв’язків.
Понтифік також звернувся до держав із закликом не передавати повністю алгоритмам рішення, які стосуються працевлаштування, кредитування, доступу до державних послуг та репутації особи. За його словами, такі системи можуть здаватися “нейтральними”, але насправді здатні закріплювати упередження розробників і призводити до виключення вразливих верств населення без чіткого механізму оскарження.
Серед інших загроз, папа Римський вказав на екологічний вплив ШІ: розвиток великих моделей потребує значних обсягів енергії, води, обчислювальних потужностей, створення центрів обробки даних та іншої інфраструктури.
Окрема глава присвячена застосуванню штучного інтелекту у військовій сфері. Понтифік заявив, що моральні рішення не можна зводити до математичних розрахунків, а летальні чи незворотні рішення не слід довіряти непрозорим автоматизованим системам. На його думку, ШІ може прискорити конфлікти, зробити їх більш безособовими та знизити поріг застосування сили.
Ефективний розвиток
Папа Римський закликав спрямовувати розвиток LLM, керуючись “чіткими критеріями та ефективним регулюванням”. До цього процесу слід залучати ті спільноти, на які технологія справлятиме вплив.
Крім того, понтифік наголосив на необхідності припинення гонки озброєнь у сфері ШІ — прагнення до створення все потужніших алгоритмів та обробки великих масивів даних з метою забезпечення політичного та комерційного домінування.
«Роззброїтися означає зруйнувати переконання, що технологічна перевага автоматично надає право на управління», — підкреслив він.
Нагадаємо, у лютому під час зустрічі з представниками духовенства Римської єпархії, глава Католицької Церкви закликав “протистояти спокусі проповідувати за допомогою штучного інтелекту”.