Папа Лъв XIV призовава за „разоръжаване“ на ИИ в първата си енциклика

Папа Лъв XIV призова за „разоръжаване“ на изкуствения интелект в дългоочаквания си манифест относно бързо развиващата се технология и предупреди за „нови форми на робство“, които стоят зад нейния възход.

Теорията за „справедливата война“ – подкрепена наскоро от администрацията на Тръмп – е „остаряла“, пише Лъв XIV в първата си енциклика, която представи лично във Ватикана, заедно с експерти по изкуствен интелект, включително съоснователя на американския гигант Anthropic.

Първият американски папа, който влезе в конфликт с Белия дом заради войната с Иран и използването на религията за оправдание на конфликта, алармира за оръжейни системи, управлявани от изкуствен интелект, като заяви, че „не е допустимо да се поверяват смъртоносни“ решения на технологиите.

Американският гигант Anthropic, който се позиционира като компания за етична изкуствена интелигентност, е въвлечен в съдебен спор с американските въоръжени сили, след като се противопостави на използването на своята технология за смъртоносни автономни военни действия или масово наблюдение.

Без да назовава името на президента на САЩ Доналд Тръмп, папата подчерта, че „днес повече от всякога е важно да се потвърди преодоляването на теорията за „справедливата война“, която твърде често е била използвана за оправдание на всякакъв вид война, вече е остаряла“. „Никой алгоритъм не може да направи войната морално приемлива“, добави той, цитиран от АФП.

Въоръжена конкуренция

Изкуственият интелект може да струва до 4,8 трилиона долара до 2033 г., което представлява 25-кратно увеличение за едно десетилетие, а печалбите от него ще се концентрират в ръцете на ограничен брой хора, според Организацията на обединените нации.

„Да разоръжим изкуствения интелект означава да го освободим от манталитета на „въоръжената“ конкуренция“, отбеляза папата в „Magnifica Humanitas“ („Великолепното човечество“) – опит да се насочи вниманието към етичните и социалните предизвикателства, свързани с изкуствения интелект.

Той остро критикува „надпреварата за все по-мощни алгоритми и по-големи масиви от данни, движена от желанието да се осигури геополитическо или търговско господство“.

„Да разоръжиш не означава да отхвърлиш технологията, а да не ѝ позволиш да доминира над човечеството“, пише още Лъв. Изкуственият интелект трябва да бъде „приятелски настроен към човека“, достъпен за всички и отворен за дискусии и дебати, добави той.

Глава на 1,4 милиарда католици по света превърна тази актуална тема в крайъгълен камък на своето папство, като ѝ посвети първата си енциклика – документ, който поставя основите на църковното учение и на по-дългосрочен дебат.

Манифестът прави препратки към редица културни величия — от гръцкия философ Платон до Бетовен и неговата Девета симфония, като дори цитира персонаж от „Властелинът на пръстените“ на Дж. Р. Р. Толкин.

Не е магическо

„Magnifica Humanitas“ беше подписана на 15 май – на 135-ата годишнина от енцикликата на Лъв XIII от 1891 г., която положи основите на социалната доктрина на Църквата по време на Индустриалната революция.

Лъв XIII предупреди за новите форми на робство, подхранващи технологичната революция, и отбеляза, че „нищо в света на изкуствения интелект не е нематериално или магическо“.

„Всеки на пръв поглед незабавен и безупречен отговор разчита на мълчаливия труд на милиони хора“, от модератори на съдържание, принудени да гледат смущаващи материали, до деца, които извличат редкоземните елементи, от които зависи изкуственият интелект. Те са „белязани, наранени и изтощени, за да може изчислителният поток да продължи без прекъсване“, посочи той.

По-голямата ефективност или иновациите не оправдават „веригата от експлоатация, която умишлено се прикрива“, пише той и подчертава, че трябва да се направи повече за намаляване на въздействието на изкуствения интелект върху околната среда и за „защита на нашия общ дом“.

Публикуването на текста е резултат от няколкогодишно проучване на Църквата в областта на технологиите, свързани с изкуствения интелект.

Още през 2020 г. Светият престол лансира „Римския призив за етика на изкуствения интелект“, който призовава новите технологии да зачитат човешкото достойнство.

Експертите твърдят, че „Magnifica Humanitas“ може да се окаже толкова влиятелна, колкото и „Laudato Si“ на папа Франциск – климатичен манифест от 2015 г., който предизвика политически и граждански реакции по целия свят.