«Ты убиваешь, а потом едешь на семейный ужин»

 

К сожалению, в этот раз операция пройдет неудачно. Когда солдат приблизится к бомбе вплотную, чтобы разглядеть провода, она взорвется. В зависимости от того, насколько близко он стоял и как много взрывчатки было в бомбе, он либо погибнет, либо будет ранен. Надо быть в 50 ярдах от взрывного устройства, чтобы избежать травм. Наш солдат находился прямо у бомбы, так что, когда к месту взрыва приблизилась остальная часть команды, от него почти ничего не осталось. Ночью командир выполнит свой печальный долг, напишет письмо с соболезнованиями в Соединенные Штаты, расскажет, как тяжела эта потеря для их отряда, что они лишились самого храброго солдата, который не раз спасал их жизни. И он выразит сожаление о том, что не сможет вернуть его домой. А затем он сделает странное заключение: «По крайней мере, когда умирает робот, не надо писать писем его матери». Это похоже на научную фантастику, но происходит уже в действительности.

 

В описанном случае солдатом был 20-килограммовый робот по имени PackBot. Командир писал письмо не в какой-нибудь фермерский домик, как нам обычно показывают в старых военных фильмах, а в компанию iRobot, названную по рассказу Азимова. В повести роботы начали с того, что выполняли рутинные операции, а потом стали принимать жизненно важные решения. Это то, с чем мы сталкиваемся уже сейчас. Роботы уже участвуют в войне в качестве прототипов.

 

Нечто значительное происходит сейчас с войной, а может, и со всей историей человечества. Военные США вступили в Ирак с несколькими беспилотными летательными аппаратами. Сейчас их уже больше 5 тысяч. У нас не было беспилотных наземных систем, а сейчас их около 12 тысяч. В этом контексте технический термин killer application приобрел новый смысл. Нужно понимать, что разница настолько же огромная, как между современными автомобилями и моделью Ford Model T.

 

Недавно я встретил генерал-лейтенанта военно-воздушных сил, и он сказал, что скоро участвовать в конфликтах будут десятки тысяч роботов — и это не говоря уже о тех десятках тысяч современных роботов-прототипов, которые завтра станут полноценными солдатами. По закону Мура  можно закладывать в роботов все большие вычислительные возможности. Следовательно, через 25 лет роботы будут в миллиард раз мощнее современных. А это означает, что те вопросы, которые обсуждались только на съездах поклонников научной фантастики вроде Comic Con, будут всерьез рассматриваться в Пентагоне.

Появляются новые нюансы в законе войны и в осознании ответственности. Как относиться к массовым убийствам, которые совершают машины? Что станет с военными преступлениями? У роботов нет чувств, и они не будут подавлены, если кто-то из их отряда будет убит. Они не совершают преступлений в приступе ярости или ради мести. Для них 80-летняя старушка, покачивающаяся на кресле, все равно что танк Т-80: они оба — просто набор единиц и нолей. Нам необходимо понять, как сделать устаревшие законы ведения войны XX века актуальными для технологий XXI.