Война с цифрой

Классическая питерская подворотня — правда, немного чище, чем обычно. Возможно, чистота объясняется объявлением на стене: «Здесь проводятся кинопробы на главную роль в сериале «Писающие в подворотне» с прямой трансляцией на YouTube». Самой камеры не видно, возможно, ее и нет. Хотя она вполне может быть спрятана среди обилия проводов, шлангов и труб неясного назначения, покрывающих верхнюю часть подворотни. Исторические здания в центре Петербурга находятся под охраной, их нельзя самовольно сверлить и долбить — поэтому кабели и трубы идут поверх архитектурных деталей. Почти в каждом петербургском дворе есть угол, не просматриваемый из окон — поэтому жители иногда ставят муляжи камер для отпугивания нежелательных гостей.

Вот так и происходит наше общение с мировой информационной системой: мы точно не знаем, что она знает о нас, какие данные о нас доступны, а какие нет, каков наш цифровой образ, насколько он соответствует действительности. Но то, что наши данные где-то записаны и доступ к ним могут получить самые разные структуры и люди, очевидно. Причем речь идет не только о так называемых «простых людях» — даже самые непростые оставляют множество цифровой информации о себе. Чего стоят расследования о деятельности высших российских чиновников и олигархов — даже о них можно узнать многое, сопоставляя данные из открытых хранилищ данных. Чего стоит всенародное выяснение личностей людей, известных под именами «Петров» и «Боширов». Остается надеяться, что они, как утверждают наши власти, не имеют отношения к спецслужбам. Иначе получится, что сведения о сотрудниках спецслужб можно так легко найти. Что же тогда говорить о безопасности данных обычных людей?

Здесь возникает прекрасный повод возопить: «Тотальная слежка! Большой Брат следит за тобой!» На самом деле пока непонятно, о чем вопить, чего пугаться. Во времена написания (1948 год) и действия (1984 год) романа Джорджа Оруэлла «1984» для слежки за всеми людьми нужно было еще почти столько же людей. Сейчас, чтобы следить за всеми, нужны мощные компьютеры, каналы связи и самообучающиеся программы, которые все чаще называют искусственным интеллектом (ИИ). Да и термин «следить» сейчас уже не подходит — за большинством людей следить не имеет никакого смысла, они законопослушны, уровень насилия в мире снижается, жизнь обывателя однообразна. Даже анекдот появился: «ФСБ, проверив разговоры и переписку всех российских граждан, установила, что 99,99% этой информации — полная ерунда».

Современный Большой брат из надзирателя превратился в продавца — используя данные, маркетологи пытаются предугадать наше потребительское поведение и подсунуть нам рекламу, рассчитанную именно на нас.

Уже сейчас мы постоянно получаем письма и звонки из коммерческих организаций, с которыми никогда не общались. Уже сейчас мы видим рекламу, которая предназначена лично нам. Дело дошло даже до новой паранойи — в соцсетях часто можно встретить причитания о том, что человек в частном разговоре что-то упомянул, а затем увидел связанную с этим разговором рекламу. Какие формы приобретет влияние на нас цифрового маркетинга, предугадать невозможно, но очевидно, что избежать его будет очень трудно. Да, можно попытаться не оставлять нигде своих данных, но в реальности это означает выпадение из цивилизации. Информационные технологии дают нам столько возможностей, что отказаться от них мы не в силах.

Поэтому за последние 10 лет человечество накопило данных больше, чем за всю свою историю. Да, основная масса этих данных не трагедии Шекспира и «Война и мир», а описание наших покупок и блужданий по городам. Но что делать с этим данными? Даже непонятно — нужны ли они сейчас кому-нибудь или пока они бесполезно занимают место на компьютерных дисках? Мы постоянно подписываем напечатанные мелким шрифтом согласия на обработку наших персональных данных — эти бумаги должны занимать бесконечные шкафы в специальных помещениях. Кто-нибудь хотя бы раз брал в руки эти бумаги после их подписания?

Но данных о нас будет еще больше — скоро информацию о нашем потребительском поведении будут собирать микроволновки и холодильники. По прогнозам так называемые «умные колонки» к концу 2018 года станут полноправными членами 50 млн семей по всему миру. Это не преувеличение — разговаривающие человеческим голосом домашние устройства дети уже воспринимают почти как родителей. Но для того чтобы это общение стало более качественным, более похожим на контакт с живым человеком, такие системы будут накапливать о людях еще больше информации.

Страшно? Пока непонятно. Мы не в силах осознать, в каком мире будем жить, даже то, что сейчас происходит — не поддается нашему пониманию. Более того, понимания нет ни у политиков, ни у ученых, ни у разработчиков новых технологий. Политики в подавляющем большинстве принадлежат даже не к предыдущему, а к пред-пред-предыдущему поколению: для них обычный мобильный телефон — вершина прогресса. А ученые и разработчики ведут себя как дети — им так нравится их нынешний статус главных людей современности. И вряд ли стоит от них ждать ответственности за внедрение своих изобретений, какую, пусть и запоздало, проявили физики-ядерщики в XX веке, основав мировое движение против ядерной войны. Сейчас лишь один Илон Маск выступает за контроль создания ИИ, который и будет обрабатывать оставляемые нами где попало данные.

При этом развитие информационных технологий все более напоминает Холодную войну, вызванную ядерными технологиями в XX веке — одним из главных аргументов при введении санкций против России стали обвинения о деятельности российских хакеров. И наращивание сил кибербезопасности и кибервойны очень похоже на гонку вооружений. Это привело к тому, что профессия специалиста по защите данных стала крайне востребованной. По разным оценкам, только в США сейчас не хватает около 300 тыс. таких специалистов, а всему миру их требуется почти 3 млн. Причем разница между специалистом по безопасности и кибервоином очень тонкая. И в этой войне непонятно, кто враг, а кто друг. Кто более опасен для нас — государство или цифровые корпорации?

Против государства понятно, как бороться: с помощью выборов, гражданского общества, прессы, в крайнем случае можно устроить революцию. А как бороться с глобальными наднациональными корпорациями, предоставляющими нам товары и услуги? Наша жизнь находится в руках недоучившихся детей — основатель Facebook Марк Цукерберг первый раз в жизни галстук надел, когда пошел на сенатские слушания по поводу утечки персональных данных пользователей соцсети. А если бы не пошел? Какое государство должно контролировать компанию, работающую с персональными данными граждан из разных стран? Какое государство способно это сделать? Вполне возможно, в будущем эти недавние дети создадут свои государства. Выкупят какие-нибудь острова или построят в океане новые — их миллиардов на это хватит. Или, как в Китае, объединятся с государством для создания системы, присваивающей рейтинг каждому гражданину на основе собранных о нем цифровых данных. И этот рейтинг будет превращать человека в уважаемого гражданина или в опасного отщепенца.

Всеобщая цифровизация может привести к совершенно неожиданным последствиям.

Оказалось, что в базах данных хранится столько описаний ДНК, что можно вычислить человека, чья ДНК в этой базе не содержится — через ДНК его родственников. И подобных примеров технологий, позволяющих узнавать наши секреты без нашего ведома, очень много.

Но в обществе, как и в физике, действие рождает противодействие. Раз государство и корпорации усиливают на граждан цифровое давление, то неизбежно появится противодействие снизу. И каким оно будет — тоже непонятно. Оказывается, можно так раскрасить лицо, что ИИ, анализирующий видео с камер слежения, тебя не узнает. Есть же даже в дорогих коллекциях женские вещи камуфляжной расцветки. Почему бы не появиться моде на одежду, скрывающую наши лица от камер. Более того, сама цифровая индустрия так устроена, что быстро умеет реализовывать новые идеи, если они отвечают запросам рынка. Уже стали появляться стартапы, обещающие бороться с усилением цифрового контроля государства или корпораций. Здесь стоит вспомнить не очень успешную блокировку мессенджера Telegram, на базе которого в скором времени должна возникнуть глобальная финансовая система. Или созданный выпускником МФТИ и уже стоящий больше $1 млрд стартап, обещающий избавить клиентов от необходимости пользоваться услугами традиционных банков. Кстати, вполне возможно, именно отечественные специалисты наиболее ярко проявят себя в создании подобных решений — российские программисты традиционно побеждают на олимпиадах по программированию, а нелюбовь к государственной системе у наших граждан в крови.

Впрочем, скорее всего нам придется общаться не с государством и корпорациями, а с обрабатывающим наши персональные данные ИИ. Может, с ним мы напрямую договоримся. Уже сейчас, согласно опросам, наши граждане не против, чтобы их судил компьютерный судья — ИИ действует по закону и взяток не берtт. Хотя от наших чиновников можно чего угодно ожидать — могут и ИИ научить брать взятки. Например, разработчики системы визуального контроля для одного из сибирских городов столкнулись с неожиданными проблемами. На первый взгляд, система удобна чиновникам — она мгновенно сообщает об авариях, о новых ямах и открытых люках на дорогах. Но оказалось, что такой контроль городского хозяйства выгоден руководству города, а мелким чиновникам нет — например, при контроле уборки снега. На это выделяются большие суммы, но снег может растаять и сам. ИИ может точно подсчитать, сколько снега и где выпало и сколько нужно на это денег. И проконтролировать — снег действительно убран или он сам растаял. Если, конечно, зарабатывающие на уборке снега чиновники не придумают, как обмануть ИИ.

Однако тотальное внедрение цифровых технологий может привести и к появлению цифровой демократии. Информационная инфраструктура может быть использована как инструмент контроля граждан, так и их влияния на государство. Россия вторая после Китая в списке стран, население которых верит, что цифровые технологии способны улучшить жизнь.

Наши власти явно готовятся к будущему — президент России сравнил задачу создать цифровую экономику с электрификацией страны в XX веке. В деле внедрения новых технологий наша страна — прежде всего, конечно, в крупных городах — часто обгоняет даже самые развитые страны.

Правда один из самых известных футурологов современности Рэй Курцвейл предсказывает, что в 2045 году наступит так называемая «технологическая сингулярность» и вся наша планета превратится в один гигантский компьютер.

Поэтому, возможно, нам нужно лишь подождать, и все мы со всеми нашими персональными данными сольемся в один всепланетный мозг. И тогда не останется никаких тайн.