Папа Лев XIV Опубликовал Новую Энциклику об Искусственном Интеллекте и Глобальных Проблемах
В центре внимания - защита человечества в эпоху технологий
В понедельник Папа Лев XIV обнародовал свою первую энциклику под названием Magnifica Humanitas, направленную на «защиту человеческой личности в эпоху искусственного интеллекта». Несмотря на акцент на ИИ, текст сосредоточен на таких проблемах, как неравенство, война, эрозия демократии и концентрация власти, которые давно беспокоят общество.
На протяжении 200-страничного документа, который Папа представил вместе с сооснователем Anthropic Крисом Олахом, он утверждает, что технологии, разработанные и управляемые небольшой элитой, не могут служить общему благу по определению. В документе отмечается: «Когда такая сила сосредоточена в руках немногих, она становится непрозрачной и ускользает от общественного контроля, увеличивая риск искажения развития, порождая новые зависимости, исключения, манипуляции и неравенства».
Как сказал Папа, «как и при любом большом технологическом сдвиге, ИИ, как правило, усиливает власть тех, у кого уже есть экономические ресурсы, знания и доступ к данным», что вызывает обеспокоенность возможностью использования этих ресурсов для «формирования информационных и потребительских паттернов, влияния на демократические процессы и управления экономическими динамиками в своих интересах».
Энциклика была опубликована через несколько дней после того, как президент Дональд Трамп отложил подписание исполнительного приказа по ИИ, который должен был дать правительству контроль над новыми моделями до их выхода. Это произошло по совету инвестора Венчурного капитала и бывшего советника по ИИ Белого дома Дэвида Сакса.
Папа Лев призвал к тому, чтобы ИИ регулировался с помощью «четких критериев и эффективного надзора», основанного на участии сообществ, которых это коснется. Более конкретно, он предложил положить конец гонке вооружений в области ИИ, которая заключается в «создании более мощных алгоритмов и увеличении объемов данных», полагая, что это обеспечит «геополитическое или коммерческое доминирование».
«Разоружение означает дискредитацию предположения, что техническая мощь автоматически дает право на управление», - написал он.
Подобные динамики существовали ещё до появления ИИ. В своей энциклике Rerum Novarum в 1891 году Папа Лев XIII поднимал те же проблемы сосредоточения власти во время промышленной революции. Сегодняшние примеры, такие как приобретение Илоном Маском Twitter или освоение средств техноэлитами для блокировки регулирования ИИ, показывают актуальность вопросов, поднятых в новой энциклике.
Папа приходит к выводу, что мощь и возможности современного ИИ значительно повышают ставки в решении глобальных проблем. Профессор права из Нотр-Дамского университета Паоло Карроцца, член Папской академии социальных наук, отметил в интервью TechCrunch, что распространение дезинформации, созданной ИИ, и «глубокие фейки» подтачивают способность обществ различать истину и ложь, что оказывает серьёзное влияние на демократию. Также он подчеркнул, что практика «сбора и манипуляции» данными бросает вызов когнитивной свободе человека.
