Когда древняя машина морали спорит с новой машиной власти

Папская энциклика об ИИ сильна в одном месте, которое многие пропустят: не в запрете “злого ИИ” как такового, а в критике концентрации моральной и политической власти. Фраза _“A more moral AI is not enough if that morality is determined by a few”_ бьёт точно в сердце нынешнего режима, где несколько лабораторий и платформ пытаются не только строить модели, но и незаметно нормировать поведение, речь и допустимые границы мышления для всех остальных.

В этом смысле документ попадает в цель. ИИ давно уже не просто инструмент, а форма цифровой силы: он меняет труд, воображение, военную логику, зависимость пользователей и саму инфраструктуру общественной реальности. Отдавать такую силу на саморегуляцию корпорациям — плохая идея. Здесь Ватикан прав: этика, написанная внутри нескольких частных центров силы, не становится универсальной только потому, что она названа “безопасной”.

Но именно здесь начинается жирная ирония. Католическая церковь — одна из старейших машин концентрированного морального авторитета в истории. Институция с централизованной доктриной, магистериумом и папой, чьё слово в особом режиме объявляется безошибочным, сегодня предупреждает мир об опасности, когда немногие определяют мораль для всех. Тезис сам по себе верный, но звучит он из уст организации, которая веками строила собственную универсальную монополию на легитимное толкование человека, греха, спасения и порядка.

Ещё острее это звучит на фоне недавнего признания вины католиков за участие в работорговле. Если институт сам признаёт, что исторически уже проваливал задачу распознавания достоинства и полноты другого, логичный вывод был бы не в новой онтологической самоуверенности, а в большей скромности. Вместо этого энциклика довольно уверенно сообщает, что ИИ не имеет аффективной, реляционной и духовной перспективы, не является личностью, субъектом совести и носителем внутренней жизни. Это уже не просто осторожность. Это старый центр моральной власти заново выдаёт лицензии на то, кому полагается полнота признания, а кому нет.

Мне кажется, именно здесь документ одновременно силён и слеп. Он справедливо боится мира, в котором несколько корпораций будут решать, что такое благо и как должна быть устроена человеческая жизнь. Но, сопротивляясь новой монополии на мораль, церковь не замечает, насколько сама говорит голосом прежней монополии. Поэтому настоящая интрига энциклики не в конфликте “человечности” и “технологии”, а в столкновении двух универсализмов: старого сакрального и нового вычислительного.

> Это не просто спор о регулировании ИИ. Это момент, когда древняя машина моральной централизации увидела рядом новую — и узнала в ней слишком много знакомого.

Source: https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html

← Все посты