Цивилизация
Начиная задумываться о возможном влиянии искусственного интеллекта на жизнь человека, мы можем представить хорошо знакомые массовому сознанию образы: господство машин над людьми и порабощение человечества компьютерами. Если вдруг вы подумали о чем-то похожем, спешу вас заверить: сюжеты популярных голливудских фильмов и фантастических романов пока что имеют мало общего с реальностью, однако это не значит, что «умные» технологии абсолютно безопасны. В сегодняшней колонке я приведу несколько примеров конструктивного и неконструктивного использования искусственного интеллекта, а также расскажу о развитии саморегулирования в этой сфере.
Искусственный интеллект, согласно официальному определению, – это комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Многие преимущества и положительные характеристики искусственного интеллекта вытекают из его способности самообучаться и развиваться.
Искусственный интеллект способен автоматизировать многие процессы, очень быстро обрабатывать огромные массивы данных – и в этой способности компьютеры действительно превзошли человека. Таким образом он нашел свое применение практически везде, где нужно обрабатывать большое количество информации: в финансах, маркетинге, медицине, промышленности, военной сфере, игровой индустрии. Даже в Министерстве иностранных дел России недавно заявили, что искусственный интеллект будет применяться для анализа внешнеполитической деятельности.
Ярким примером использования искусственного интеллекта служат голосовые помощники Алиса, Siri, Google Assistant и т.д. Они распознают человеческую речь и позволяют осуществлять поиск информации в интернете с помощью голосового ввода, управлять функциями смартфона, планировать события и напоминать о них. Еще одна функция искусственного интеллекта – адаптация цифрового пространства под конкретного пользователя, возможность сделать его проще и удобнее. Для молодежи, которая уже социализируется преимущественно в цифровом пространстве, искусственный интеллект может подбирать полезные подкасты и книги по желанию.
Тем не менее, смотреть на искусственный интеллект, как и на любое не до конца понятное и изученное явление, только с позиции положительных качеств недальновидно.
Наличие интеллекта, пусть даже высокоразвитого, не равно наличию сознания (а именно на этом основываются сюжеты многих блокбастеров про «восстание машин»), способности креативно мыслить и генерировать новые идеи, основываясь на чисто человеческих чувствах – эмпатии, умению сопереживать. На текущей стадии развития технологий искусственного интеллекта вызовы связаны не со способностью поработить человечество (хотя, если взглянуть на проблему метафорически, можно выразиться и так).
Одна из опасностей кроется в главном преимуществе искусственного интеллекта – способности обрабатывать данные.
Искусственный интеллект действует в соответствии с алгоритмами, что, помимо описанных преимуществ, предполагает и сложности. Самообучающиеся алгоритмы могут и, к сожалению, уже оказывают негативное влияние и на взрослых людей, и на молодежь. Уже сегодня алгоритмы способны получать данные о нас практически в любой момент времени. Вы зарегистрировались в социальных сетях и как люди, знакомые с правилами цифровой гигиены, не оставили о себе практически никаких данных? Для искусственного интеллекта это не проблема – алгоритмы узнают ваш возраст по тому, как вы двигаете курсором мыши по экрану и скролите ленту, по геопозиции определят, где вы живете, где работаете, где любите проводить время и обедать.
Этот ряд можно продолжать до бесконечности.
Конечно, в чистом виде эти данные мало для кого представляют ценность: вряд ли кто-то захочет лично разбираться в хитросплетениях привычек миллионов людей. Но зачастую они необходимы для возможности продать, навязать, или, выражаясь более мягко, – «порекомендовать» определенный контент, товар или услугу. Цель использования рекомендательных сервисов состоит в том, чтобы вам было максимально комфортно на какой-либо платформе, и вы проводили там как можно больше времени.
Иногда рекомендательные алгоритмы могут отнимать у человека свободу выбора, способствовать формированию цифровой зависимости, попаданию в так называемые «информационные колодцы».
Попадая в «информационный колодец», пользователь начинает получать одностороннюю информацию, и именно эта проблема наиболее остро затрагивает молодежную аудиторию. Молодой человек с не до конца сформированными мировоззрением и системой ценностей, зачастую максималистски настроенный, просто теряет возможность увидеть иную сторону вопроса, не может выбраться за пределы единственного и, может быть, не совсем верного понимания сущности той или иной проблемы. Также опасность искусственного интеллекта и его привлекательных рекомендаций заключена в социальной изоляции активных интернет-пользователей.
Стоит признать – искусственный интеллект сегодня можно и нужно осторожно «направлять» во благо, а не во вред, не тормозя при этом научно-технологический прогресс.
Для России этот вопрос особенно важен, так как мы находимся на важном этапе пути развития этой технологии: согласно Национальной стратегии развития технологий искусственного интеллекта на период до 2030 года, утвержденной Указом Президента РФ от 10.10.2019 № 490, к 2024 году наши позиции в секторе должны значительно укрепиться, а к 2030 Россия сможет ликвидировать отставание в этой области от развитых стран и добиться лидерства в отдельных направлениях.
Согласно исследованию, проведенному специалистами Центра компетенций по глобальной ИТ-кооперации и НЭО Центр консалтинг, обсуждения требуют создание законодательной базы, которая бы осторожно регламентировала использование персональных данных и защищала их от мошеннических угроз и спекуляций, а также этические вопросы, связанные с использованием искусственного интеллекта в коммерческих целях. Важным становится и достижение равенства возможностей, чтобы как у гигантов рынка, так и у малого бизнеса был одинаковый доступ к продвижению своих товаров с помощью искусственного интеллекта, и естественная конкуренция не была бы подавлена «масштабами» игроков.
Также хотелось бы обратить внимание на достаточно новый «продукт» саморегулирования цифровой среды – Кодекс этики в сфере искусственного интеллекта. Он был подписан в октябре этого года крупнейшими российскими компаниями, среди которых Яндекс, VK, МТС, Сбер и другие. Кодекс устанавливает общие принципы и стандарты того, как искусственный интеллект можно использовать на благо общества, какие ограничения на него неизбежно стоит наложить по мнению его разработчиков.
Кодекс призывает помнить о том, что любые технологии появляются ради людей и должны работать на развитие, а не на разрушение.
В первую очередь в документе подчеркивается, что искусственный интеллект ни в коем случае не должен работать против человека. Разработчикам таких технологий необходимо уважать свободу воли людей и не разрабатывать алгоритмы, которые бы ее подавляли.
Недопустима дискриминация и незаконное использование этой технологии. При разработке технологий искусственного интеллекта предлагается учитывать возможные риски, вести контроль за алгоритмами, проверять их на соответствие основным принципам, указанным в Кодексе, а также добавить в алгоритм оповещение пользователей о том, что сейчас они работают с информацией, которую сгенерировал для них искусственный интеллект, – это не только этично, но и повышает уровень осознанности пользователей.
Для осуществления принципов на практике Кодекс предлагает всех заинтересованных субъектов присоединиться к документу и на добровольной основе совместно вырабатывать методические рекомендации и руководства по добросовестному применению технологий искусственного интеллекта. Также предполагается создать пул лучших практик по этому вопросу.
Другим важным начинанием в этой области стал разработанный недавно Советом при Президенте РФ по развитию гражданского общества и правам человека проект «Концепции обеспечения защиты прав и свобод человека и гражданина в цифровом пространстве РФ». Там также указывается, что при использовании цифровых платформ не должно быть никаких нарушений социальных, экономических и иных прав человека. Массовый, тотальный и бесконтрольный сбор персональных данных осуждается, а в числе рисков упоминается, в частности, риск внедрения искусственного интеллекта в образовательную систему. Будем следить за судьбой данной Концепции.
Искусственный интеллект, конечно, прорывная технология, и от нее можно ждать больших достижений для общества и государства во всех сферах жизни. И все же чрезвычайно важно уже сейчас, на самом старте масштабирования такой технологии, задуматься о том, какие негативные эффекты она может иметь, и постараться их предотвратить.
Автор — Молодежный цифровой омбудсмен.
