Даже сам Папа Римский высказался по поводу искусственного интеллекта (ИИ). Высший иерарх католической церкви, Папа Лев XIV, опубликовал свою первую крупную энциклику под названием Magnifica Humanitas, которая посвящена рискам, связанным с искусственным интеллектом. Главный посыл заключается не в том, что ИИ плох, а в том, что его развитие происходит слишком быстро. Кроме того, частные руки получают слишком много власти, поэтому он призывает остановить технологическую гонку, лучше ее регулировать и всегда ставить человека выше экономической выгоды.
В документе ИИ сравнивается с новой промышленной революцией. Подобно тому, как в 1891 году энциклика Rerum Novarum осуждала трудовые злоупотребления индустриализации, новая энциклика пытается зафиксировать моральную позицию в отношении автоматизации, алгоритмов, контроля данных и концентрации технологической власти. Для Папы Льва XIV ИИ должен служить человеку, а не заменять его или превращать во второстепенную деталь системы.
Папа Лев осудил владение и контроль всех данных, собираемых ИИ
Одним из наиболее важных моментов является критика владения и контроля над данными. Папа предупреждает, что они не могут оставаться исключительно в руках крупных технологических компаний. Он также призывает к независимому надзору, более строгим законам и хорошо информированным пользователям, поскольку ИИ не нейтрален: он отвечает интересам тех, кто его разрабатывает и контролирует.
Энциклика также предупреждает о влиянии на рабочие места. Лев XIV напоминает, что за ИИ стоят работники, которые обучают модели, модерируют контент, производят устройства, добывают полезные ископаемые и обслуживают инфраструктуру. Его беспокоит, что ИИ может привести к новым формам невидимой эксплуатации, особенно в бедных странах или недостаточно регулируемых цепочках поставок.
Папа также высказался по поводу использования ИИ в военной сфере. Папа отвергает возможность того, чтобы автономные системы могли принимать летальные решения без реального человеческого контроля. Он также ставит под сомнение, остается ли актуальной теория «справедливой войны», когда технологии позволяют вести более автоматизированные, дегуманизированные и трудно контролируемые конфликты.
Попытка Папы интегрировать искусственный интеллект в церковную традицию
Папа Лев XIV косвенно сравнивает революцию искусственного интеллекта с Промышленной революцией, то есть с технологическим изменением, способным трансформировать труд, экономику, политику и повседневную жизнь. Однако интересный момент заключается в том, что Церковь вступает не в технические дебаты о том, какая модель мощнее другой, а в моральную и социальную плоскость: кто получает выгоду от этой технологии, кто несет расходы, кто контролирует данные, что происходит с вытесненными работниками и насколько правительства готовы регулировать технологическую власть, которая уже превосходит многие государственные институты.
Именно поэтому Папа Лев XIV обратился со своими словами к правительствам, технологическим компаниям, международным организациям и гражданам, требуя, чтобы ИИ не развивался исключительно под влиянием конкуренции, экономической выгоды или военной гонки. Его основной посыл заключается в том, что искусственный интеллект должен оставаться инструментом на службе человека, а не силой, перестраивающей общество без демократического контроля.
