Роботы-убийцы. Где проходит черта?
27-31 августа в отделении ООН в Женеве состоится шестая встреча Группы правительственных экспертов по автономным системам оружия летального действия, или роботам-убийцам.
Основной вызов в развитии данных систем оружия заключается в том, что робот принимает решение о выборе цели и последующей атаке самостоятельно, без участия человека. Иными словами, робот - не человек - будет принимать решение о жизни и смерти. Данные виды оружия еще не урегулированы каким-либо международным договором. Более того, их регулирование представляется невозможным, и эксперты призывают запретить этот вид оружия до его появления.
Ожидается, что в конференции примут участие более 70 стран ООН и 19 неправительственных организаций.
Председательствовать на переговорах будет посол Индии Амандип Сингх Гилл, который также является исполнительным директором секретариата Группы высокого уровня по цифровому сотрудничеству, объявленной 12 июля 2018 года Генеральным секретарем ООН.
Предполагается, что конференция выработает рекомендации для дальнейшей работы в данном направлении. Работа конференции основана на консенсусе, поэтому любое государство может выступить против и заблокировать предложение о начале переговоров по новому договору.
Серьезные юридические, моральные, технические проблемы и проблемы распространения, вызванные полностью автономным оружием, привлекли широкое внимание со времени первого совещания по этой теме в мае 2014 года. Тем не менее государства до сих пор не договорились о регуляторном ответе, необходимом для решения проблем гуманитарной и международной безопасности, вызванных роботами-убийцами. Австрия и другие государства предложили начать в 2019 году переговоры о новом запрещающем договоре, который сохранит значимый человеческий контроль над системами вооружений.
"Обещания о большей прозрачности и мягких политических деклараций недостаточно для решения далеко идущих последствий от создания полностью автономного оружия, - заявила Мэри Ворхэм из Human Rights Watch, координатор международной кампании по запрету роботов-убийц. - Запрещающий договор - это тот минимум, который необходим, чтобы эффективно сдерживать развитие автономности в критически важных функциях оружейных систем и избежать бесчеловечного применения силы".
Основной вызов для человечества в развитии искусственного интеллекта, и в военной сфере в частности, лежит в морально-нравственных вопросах.
Выдающийся философ XX века Николай Бердяев считал, что основным вопросом философии является проблема отношения свободы воли человека и свободы воли Бога. Там, где заканчивается свобода воли человека, начинается свобода воли Бога. Где проходит эта черта?
Бурное развитие искусственного интеллекта раскрывает остроту данной проблемы с другой стороны, особенно в сфере развития автономных систем оружия летального действия или, проще говоря, роботов-убийц.
Безусловно, это является прямым противоречием международному гуманитарному праву и оговорке Мартенса, которая гласит, что "в случаях, не предусмотренных настоящим Протоколом или другими международными соглашениями, гражданские лица и комбатанты остаются под защитой и действием принципов международного права, проистекающих из установившихся обычаев, принципов гуманности и требований общественного сознания".
Истоки проблемы лежат гораздо глубже. Примечательно, что философские основы вызова в развитии техники и искусственного интеллекта, с которыми столкнулось человечество, раскрыты Николаем Бердяевым еще в 1931 году в его докладе "Духовное состояние современного мира".
Реальность в данной сфере такова, что человек взял на себя бремя творца, и это оказалось для него непосильной ношей.
Теперь вопрос в развитии искусственного интеллекта стоит перед человечеством следующим образом: где заканчивается свобода воли (автономность) робота и начинается свобода воли человека?
Бердяев по этому поводу метко отмечает: "... Но в одном отношении современный человек оптимистичен и полон веры, у него есть кумир, которому все приносится в жертву. Тут мы подходим к очень важному моменту в духовном состоянии современного мира. Современный человек верит в могущество техники, машины, иногда кажется, что это единственное, во что еще верит. Для его оптимизма в этом отношении есть, казалось бы, очень серьезные основания. Головокружительные успехи техники в нашу эпоху есть настоящее чудо греховного природного мира. Человек потрясен и подавлен могуществом техники, перевернувшей всю его жизнь. Человек сам ее создал, она продукт его гения, его разума, его изобретательности, она детище человеческого духа. Человеку удалось расковать скрытые силы природы и использовать их для своих целей, внести телеологический принцип в действие сил механико-физико-химических. Но овладеть результатами своего дела человеку не удалось. Техника оказалась сильнее самого человека, она подчинила его себе. Техника есть единственная сфера оптимистической веры современного человека, самое большое его увлечение. Но она же приносит человеку много горечи и разочарований, она порабощает человека, ослабляет его духовность, угрожает ему гибелью. Кризис нашего времени в значительной степени порожден техникой, с которой человек не в силах справиться. И это кризис прежде всего духовный".
И далее: "Долгое время технику считали наиболее нейтральной сферой, религиозно безразличной, наиболее удаленной от вопросов духовных и потому невинной. Но это время прошло, хотя и не все это заметили. Техника перестала быть нейтральной. Вопрос о технике стал для нас духовным вопросом, вопросом о судьбе человека, о его отношении к Богу. Техника имеет безмерно более глубокое значение, чем обычно о ней думают. Она имеет космогоническое значение, она создает совершенно новую
действительность. Ошибочно думать, что действительность, порождаемая техникой, есть старая действительность мира физического, действительность, изучаемая механикой, физикой, химией. Это действительность, которой не было в истории мира до открытий и изобретений, совершенных человеком. Человеку удалось создать новый мир. Машина не есть механика. В машине присутствует разум человека, в ней действует телеологический принцип. Техника создает атмосферу, насыщенную энергиями, которые были ранее скрыты в глубине природы. И человек не уверен, что он в состоянии будет дышать в этой новой атмосфере. В прошлом привык он дышать иным воздухом. Еще не выяснено, что принесет для человеческого организма та электрическая атмосфера, в которую он себя вверг. Техника дает в руки человека страшную, небывалую силу, силу, которой может быть истреблено человечество. Прежние орудия, находившиеся в руках человека, были игрушечными. И их можно было еще считать нейтральными. Но когда дана такая страшная сила в руки человека, тогда судьба человечества зависит от духовного состояния человека. Уже одна истребительная техника войны, грозящая почти космической катастрофой, ставит духовную проблему техники во всей остроте. Техника есть не только власть человека над природой, но и власть человека над человеком, власть над жизнью людей. Техника может быть обращена на служение дьяволу. Но именно поэтому она не нейтральна. Именно в наше материалистическое время все приобретает духовное значение, все становится под знак духа".
Развитие полностью автономных систем (и не только оружия) является фундаментальным вызовом самому существованию человечества.
Возвращаясь к начальной постановке вопроса о свободе воли необходимо помнить две ключевые характеристики искусственного интеллекта: полная автономность и вытекающая из нее способность к эволюции.
Никто не может дать гарантий, что робот, используемый в мирной сфере, в какой-то момент самостоятельно не "решит" пойти против человека. Развитие данных систем имеет далеко идущие непредсказуемые последствия.
Бердяев удивительно точно указывает на то, что "человек как будто бы устал от духовной свободы и готов отказаться от нее во имя силы, которая устроит его жизнь, внутренне и внешне. Человек устал от самого себя, от человека, изверился в человеке и хочет опереться на сверхчеловеческое..."
У нас еще есть время и возможность провести четкую границу между роботом и человеком. И поставить робота в подчиненное положение человеку. Эта граница заключается в безусловном признании жизни и права на жизнь как высших ценностей, признании принципов морали и нравственности исключительно сферой ответственности человека, и только человека.
