Письмо также подписали сотни исследователей в области искусственного интеллекта и робототехники. Ранее физик Стивен Хокинг и глава Microsoft Билл Гейтс уже высказывали свои опасения относительно возможности контроля над искусственным интеллектом, и позже к ним присоединился гендиректор Tesla Илон Маск.
А после того, как в интернете был продемонстрирован квадрокоптер, оснащенный пистолетом, угроза автономного оружия с искусственным интеллектом стала очевидна и для многих других ученых.
Авторы письма опасаются «глобальной гонки AI-вооружений» и предсказывают, что «самоуправляемые дроны станут «Калашниковым» ближайшего будущего».
При этом ученые понимают, что технологии искусственного интеллекта могут принести пользу человечеству, однако применение AI-вооружений должно быть запрещено международными соглашениями, как это уже сделано с химическим и биологическим оружием.
Опасения ученых касаются не только военных дронов, но и многих других видов вооружений, таких как стратосферные или орбитальные лазеры.
В то же время военных привлекают преимущества такого оружия, ведь оно позволяет компенсировать разницу в количестве живой силы, а также вести войну дистанционно и без потерь, что значительно удешевляет стоимость боевых действий.
Защитники AI-вооружения, в свою очередь, утверждают, что его разработка мотивирует другие страны перейти на участие боевых роботов в военных конфликтах вместо людей.
Ученые критикуют такие рассуждения и заявляют, что автономные дроны идеально подходят для точечного анонимного устранения ключевых членов общества, дестабилизации политической ситуации, избирательного уничтожения представителей определенных этнических групп.
Авторы письма считают автономные виды вооружений третьей революцией в военной области после изобретения пороха и ядерного оружия. Две предыдущие изменили мировой порядок, и третья может сделать то же самое.
Еще одной угрозой является уязвимость современных компьютерных систем для хакерских атак. Эффективно использовать кибероружие сегодня могут не только крупные мировые державы, но и ряд авторитарных государств и даже террористические группировки. Взлом производственной линии военных дронов и их перепрограммирование могут привести к непредсказуемым последствиям.
Некоторые технологии, которые приближают человечество к полноценному автономному вооружению, существуют уже сейчас.
Военные дроны
Беспилотники, используемые военными, уже обладают функциями автоматического полета по заданному маршруту с использованием GPS, умеют следовать за владельцем на безопасной высоте и нести дополнительное оборудование и припасы. Также развиваются технологии единого пилотирования группы дронов, где каждый беспилотник действует в связке с остальными.
Современные дроны способны нести до 2,5 кг груза и лететь до 32 км без подзарядки, что вполне позволяет оснащать их взрывчаткой и использовать для террористических актов.
С развитием технологий батарей, солнечных элементов питания и мгновенной беспроводной подзарядки дроны могут стать практически автономными и осуществлять полеты, слежение, патрулирование и наблюдение в течение длительного времени. Кроме того, британскими и американскими военными были успешно проведены эксперименты по распечатке дронов на 3D-принтере, что с развитием технологий сделает возможным их ремонт в полевых условиях.
В гонку по разработке коммерческих автономных дронов включается все больше и больше производителей. Так, вслед за GoPro о выпуске автономных летательных аппаратов для аэросъемки с применением облачных технологий обработки данных объявило мобильное подразделение Sony.
Подводные дроны
Беспилотные аппараты разрабатываются не только для воздушных полетов, но и для подводной разведки. Так, ВМС США успешно запустили автономный подводный аппарат Remus 600 с подводной лодки в Средиземном море.
Подводные торпеды российского производства также будут оснащаться цифровой информационной управляющей системой, что, по словам генерального конструктора завода «Дагдизель» Шамиля Алиева, позволит им совместить в себе функции разведчика, наблюдателя, лжеинформатора и средства прямого поражения.
«Умные» бомбы
25 июля 2015 года ВВС Турции нанесли авиаудары по объектам боевиков террористической организации «Исламское государство» (организация запрещена в России), чья деятельность запрещена законодательством разных стран, в том числе и Российской Федерации. Турецкие военные утверждают, что удары наносились из воздушного пространства Турции с применением «умных» бомб, позволяющих избежать жертв среди мирного населения и эффективнее поражать цели. Подобные бомбы также обладают возможностью корректировки конечной цели поражения.
«Умное» стрелковое оружие
В стрелковом оружии также применяется ряд современных информационных технологий. Так, стартап TrackingPoint разрабатывает «умные» винтовки для американской армии, которые позволяют автоматически определять погодные условия, рельеф и другие факторы и давать указание военнослужащим, как целиться и стрелять.
«Умное» оружие может собирать большие данные, которые будут обработаны в облаке для улучшения алгоритмов стрельбы и тактик ведения боя. Эти технологии в будущем могут развиться в самообучающееся вооружение.
Тем не менее развиваются и технологии, призванные защитить людей от неправомерного применения оружия. Например, Safe Gun Technology разрабатывает системы защиты стрелкового оружия на основе распознавания владельца по отпечатку пальцев, которое происходит за считаные доли секунды. Это позволит избежать завладения оружием преступниками и людьми с психическими отклонениями.