Цивилизация
Слежка недопустима
В рамках техконференции Wired генеральный директор Amazon и самый богатый человек мира Джефф Безос заявил о том, что при руководстве крупной компанией нужно быть готовым принимать непопулярные решения, например, согласиться на сотрудничество с военными.
На следующий день после этого сотрудник Amazon, пожелавший остаться анонимным, опубликовал открытое письмо, в котором выражает опасения касательно того пути, который выбрала его компания. При этом он винит Безоса в том, что он остается глухим к мнению своих сотрудников.
«Когда компания создает новые технологии, она несет ответственность за возможные последствия. Amazon, где я работаю, продает полиции страны инструмент для распознавания лиц Rekognition. И я, и другие сотрудники требуем, чтобы это немедленно прекратилось», — говорится в сообщении анонима.
По его словам, Джеффу Безосу и другим высшим менеджерам компании было направлено письмо, подписанное 450 работниками, в котором они просят отказаться от разработки Rekognition, а также программы для работы с данными Palantir, которой часто пользуются американские спецслужбы. Свое требование сотрудники Amazon обосновывают нарушением гражданских свобод американцев и превращением США в полицейское государство.
«Мы в курсе, что Безос знает об этих опасениях... Выступая на сцене, он признал, что продукты техкомпаний могут быть использованы во вред. Но вместо того чтобы объяснить, что Amazon намерен делать, чтобы технология не попала в руки деспотов, Безос предложил дождаться «иммунной реакции» от общества», — заявил автор письма.
«Если Amazon будет медлить, то предотвратить вред будет уже невозможно».
Вице-президент Amazon Тереза Карлсон заявила, что компания всецело приветствует клиентов из правоохранительных органов, оборонного сектора и спецслужб, даже если не знает, «для чего именно они используют купленные технологии». Эта ситуация не устраивает сотрудников Amazon, которые считают, что имеют право на жизнь без слежки со стороны государства.
«Amazon много говорит о ценности лидерства. Если мы хотим лидировать, то должны выбрать между людьми и деньгами. Мы можем и дальше продавать системы слежения полиции, а можем выступить за то, что правильно. Либо одно, либо другое», — завершает свое письмо анонимный сотрудник компании.
ИИ не предназначен для войны
За три дня до этого письма в сети появилось заявление сотрудников другой ведущей технологической компании — Microsoft. Как оказалось, их занимают те же самые проблемы, что и коллег из Amazon.
«Мы пришли в Microsoft, чтобы помогать обществу, ожидая, что наши технологии не принесут людям вред и страдания», — говорят работники компании. На днях они узнали, что Microsoft планирует участвовать в тендере на создание облачных сервисов (JEDI) для Министерства обороны США. Это секретный проект, о нем мало известно.
Тем не менее, отвечая на вопрос о целях сервиса, представитель ведомства Джон Х. Гибсон ответил довольно четко: «Эта программа должна увеличить смертоносность нашего министерства».
Многие сотрудники Microsoft отказываются участвовать в разработке средств для ведения войны. Они указывают на то, что недавно от военного тендера JEDI отказалась компания Google, сотни работников которой заявили о недопустимости использования искусственного интеллекта «для создания оружия, нелегального наблюдения и развития технологий, причиняющих вред».
Что характерно, такая сознательность пришла к руководству Google не сразу. В апреле компания активно сотрудничала с Пентагоном по проекту Maven, разрабатывая алгоритмы компьютерного зрения для анализа видеозаписей с дронов.
Письма от сотрудников Google, протестующих против коллабораций с военными, не возымели должного эффекта, поэтому работники компании начали массово увольняться, чтобы обратить внимание начальства на существующую проблему.
Спустя несколько месяцев генеральный директор Google Сундар Пичаи заявил, что компания не будет продлевать контракт Maven. Теперь сотрудникам Amazon и Microsoft остается надеяться, что их руководство пойдет по пути Google, но для этого явно потребуется что-то большое, чем открытые письма в интернете.
