Миф или реальность: роботы-убийцы

В Женеве под эгидой ООН прошла дискуссия о проблеме использования боевых автономных роботизированных систем (БАРС).

Они более известны в прессе как «роботы-убийцы». Такое название железные друзья человека получили в среде гражданского общества и СМИ, обеспокоенных разработкой военных роботов в США.

Наш следующий репортаж – об угрозах и перспективах применения автономных роботов в боевых действиях.

«Уничтожат ли роботы все человечество? Можно ли относиться к ним, как к Терминатору из известного всем боевика, или как к роботам-Сайлонам из телесериала «Звездный крейсер «Галактика»? Я считаю, что нет, все это – фантастика, досужие домыслы. В моем мозгу совершенно не укладывается концепция робота, который ходит по улицам сам по себе и убивает людей. Да, я люблю фантастику, но реальность – совершенно другая».

Так именитый эксперт в области робототехники – профессор Технологического института Джорджии в США Роналд Аркин объясняет, почему он выступает против использования термина «роботы-убийцы», который так облюбовала пресса:

«С таким же успехом можно окрестить убийцами обычных солдат, снаряды, любое оружие. Роботы – это просто механизмы. Тем более, я бы не стал утверждать и то, что такие системы несут угрозу всему человечеству. Я считаю, что существующие риски и угрозы могут быть минимизированы, если применение БАРС будет регулироваться международным гуманитарным правом еще до того, как такие системы будут приведены в действие. Только после этого они могут быть использованы в том качестве, в котором используются другие виды обычных вооружений».

Как известно, термин «робот» в 1920 году придумал чешский писатель Карел Чапек. В 1942 году Айзек Азимов в своем рассказе «Хоровод» описал три закона робототехники, первый из которых вкратце гласит, что «робот не может причинить вред человеку». А спустя 44 года в романе «Роботы и империя» Азимов предложил «нулевой закон». Он звучит так: «робот не может причинить вреда человеку, если только он не докажет, что, в конечном счете, это будет полезно для всего человечества». Но Роналд Аркин убежден, что роботы – более эффективные бойцы, чем люди:

«Во время боевых действий люди допускают огромное количество ошибок, которые ведут к излишним жертвам среди населения, нарушениям гуманитарного права, а это совершенно недопустимо. Технологии можно и нужно использовать для того, чтобы снизить число жертв среди гражданского населения. Если мы запрограммируем устройство на соблюдение международно-правовых норм, то оно будет соблюдать их лучше, чем любой человек. В результате удастся избежать жертв среди населения. Таким образом, применение БАРС можно будет квалифицировать как гуманитарную операцию. Понятно, что таких технологий пока не существует, но если мы не будем их разрабатывать или изучать применение БАРС на поле битвы, мы попросту упустим шанс защитить население, страдающее в результате конфликта».

Оппоненты Аркина говорят о том, что боевой робот может выйти из-под контроля и рисуют мрачную картину будущего, знакомую по фильмам о Терминаторе. А для профессора Аркина робот – всего лишь машина:

«Принимать решение будет человек, а не робот. Именно человек будет программировать робота, влиять на выбор целей, проверять соответствие его задач нормам права, следить за выполнением работы. БАРС не будут принимать решения независимо от человека, они не в состоянии этого делать. За машиной будет всегда стоять человек».

Аркин понимает, что говорить о роботах, ведущих войны с террористами, пока рано. Все, за что он выступает, – это проводить исследования, ставить эксперименты, делать все возможное, чтобы исключить будущие ошибки:

«Конечно, при использовании таких систем есть вероятность ошибки. Да, в результате действий БАРС могут пострадать гражданские лица. Вопрос в том, способны ли БАРС убить меньше людей, чем обычные солдаты? Ведь человек всегда может допустить оплошность, совершить ошибку или сознательно пойти на нарушения гуманитарного права. Для того чтобы использовать БАРС, нужно доказать, что роботы способны воевать лучше человека, что они способны сохранять жизнь простым гражданам. До тех пор, пока разработчики таких систем не смогут этого доказать, страны и компании должны соблюдать мораторий на использование БАРС».

Сейчас в ООН обсуждают возможность введения моратория на испытания, производство, сборку, передачу, приобретение, подготовку и применение БАРС. А пока DARPA – подразделение Министерства обороны США, занимающееся передовыми оборонными исследовательскими проектами, проводит ставший регулярным конкурс для компаний-разработчиков роботов. Победивший в конкурсе получает не только денежное вознаграждение в размере 2 млн. долларов, но и возможность производства роботов для нужд оборонной промышленности. Остается добавить, что одним из наиболее успешных проектов, разработанных в стенах DARPA, является компьютерная сеть ARPANET, ставшая прототипом современного интернета.