Автономное оружие смертельного действия (или как их прозвали СМИ – «роботы-убийцы») на прошлой неделе снова обсуждались в ООН. Кампания «Остановим роботов-убийц» стартовала в 2013 году, и этот вопрос, как это ни удивительно, был оперативно взят на рассмотрение Конвенцией о конкретных видах обычного вооружения (CCW) в Женеве.
На самом деле, появление терминаторов и прочих железных убийц вызывает немало опасений. И причин тому множество. Давайте рассмотрим основные пять.
1. Роботы-убийцы уже близко
Возможно, вы представляете себе «Терминатора», робота, которой, если верить фильму, появится в 2029 году. Но на самом деле, роботы-убийцы поначалу будут гораздо проще, и появятся они уже через несколько лет. Представьте себе дрон Predator и его ракеты Hellfire, только управлять ими будет не человек, а компьютерная программа. Технически это возможно уже сегодня.
2. Начнется гонка вооружений
Как только джинн выберется из бутылки, начнется гонка вооружений по совершенствованию изначально примитивных роботов. И конечной точкой подобной гонки станет именно та ужасающая технология, которую все мы видели в «Терминаторе». Тут Голливуд все правильно предугадал.
Закон Мура предсказывает, что количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца. Примерно та же схема будет проявляться в экспоненциальном росте роботов-убийц. Можно назвать это Законом Шварценеггера, чтобы он напоминал нам, к чему все ведет.
3. Роботы-убийцы будут распространятся
Роботы-убийцы будут стоить дешево. И будут становиться еще дешевле. Достаточно просто вспомнить, с какой скоростью упала цена на дроны за последние несколько лет. И роботов будет также просто делать, по крайней мере, примитивных.
Купите себе дрон, смартфон, пистолет и небольшую бомбу. После этого нужно будет лишь раздобыть программное обеспечение для искусственного интеллекта. Военным они очень понравятся, по крайней мере, поначалу, так как им не нужен сон и отдых, длительная, дорогая подготовка или эвакуация с поля боя в случае получения повреждения.
4. Роботы-убийцы будут убивать большое количество гражданских
По некоторым данным, в течение 5 месяцев военной операции США против Талибана и Аль-Каиды в Гиндукуш, «почти 9 из 10 человек», погибших во время использования дронов, «не были прямыми целями».
И это притом, что, наведя прицел на человека, мы все еще принимаем окончательное решение. Современный искусственный интеллект не обладает ситуационной ориентацией и процессом принятия решения, которыми обладают пилоты дронов.
Поэтому статистика полностью автономных дронов, скорее всего, будет еще хуже.
5. Роботов-убийц будет трудно контролировать
Tesla проводит апдейт своего автомобиля Model S, автономно разъезжающего по шоссе, при помощи простого программного обеспечения, предусматривающего беспроводное подключение. Таким образом, можно предположить, что в будущем простое обновление программного обеспечения позволит превратить неавтономную или несмертоносную систему в автономное оружие смертельного действия. По этой причине контролировать роботов-убийц будет очень сложно.
Но если что-то трудно сделать, это не значит, что мы не должны попытаться. И даже запрет, хотя бы частично эффективный, как в случае противопехотных мин, должен быть введен в действие.
А пока нам остается ждать и надеяться на лучшее.
