Черт из машины

Мы живем во времена новой индустриальной революции. Будущее, которое она обещает, завораживает и пугает. «По своим масштабам, глубине и сложности эта трансформация будет превосходить все, что человечество испытывало раньше», — сказал Клаус Шваб, создатель и президент Давосского форума.

Представьте себе мир, в котором полностью роботизированная промышленность производит сколько угодно одежды, техники, мебели и продуктов получая заказы от вооруженных обычным мобильником потребителей со всего мира. 3D-принтеры печатают дома и машины, дешевые беспилотные такси заменяют общественный транспорт. Себестоимость всех этих благ при этом падает в разы: ведь автопилоту в такси или роботу на фабрике не нужно платить зарплату, им не нужны надсмотрщики, они не берут взяток, не спят, не устают и не совершают ошибок. А разработки в области ИИ позволят технологиям быстро совершенствоваться без больших затрат. Кривая технического прогресса взметнется вверх, уходя в бесконечность.

Но не все так просто. Одной из первых в очереди на автоматизацию стоит самая массовая профессия на планете: профессия шофера. Уже сегодня в Стокгольме тестируют беспилотный автобус. Если в течение следующего десятилетия пассажирские и грузовые перевозки станут автопилотируемыми, только в России кусок хлеба потеряют 5 миллионов человек. Вскоре к ним прибавятся миллионы промышленных рабочих, вытесненных роботами. Потом «офисный планктон»: секретари, ресепшионисты, делопроизводители, нотариусы, юристы, диагносты, кассиры, официанты, уборщики… Миллионы людей останутся без работы и средств к существованию.

Какие-то профессии, возможно, придут на смену автоматизированным. Но обеспечат ли они людям достойный доход? Пока тенденции печальные:

семь из топ-10 самых быстрорастущих профессий в США, публикуемых Бюро трудовой статистики,— низкооплачиваемый, но плохо алгоритмизируемый «ручной» труд в сфере услуг: сиделки, официанты, повара, продавцы, курьеры.

Клаус Шваб и другие либеральные интеллектуалы утверждают, что именно современные технологии являются причиной растущего по всему миру неравенства. Их логика проста: раз все большую роль в производстве получает технология, то и ее владелец, собственник капитала, получает все большую часть дохода, а на долю труда остается все меньше.

Мир, разделенный на касты привилегированных, вооруженных всеми технологиями будущего, вплоть до бессмертия, и всех остальных, живущих в мрачных грязных гетто с крысами и дешевым порно, но без зарплат, лекарств или доступа к культуре стал настоящим кошмаром современной фантастики. «Дитя человеческое», «Пятый элемент», «Эллизиум», «Видоизмененный водород».

Эта популярность, однако, отражает не силу фантазии, а наш повседневный опыт общества, в котором такое неравенство уже стало фактом.

Знаменитый шведско-американский космолог Макс Тегмарк, пишет, что большинство технологических проблем можно решить, если обеспечить создание «дружественного искусственного интеллекта». Умные и способные к самообучению машины смогут не только лечить недуги и дешево производить все необходимые для нас вещи, но и снизят уровень насилия, обеспечат высокие стандарты жизни и экологическую безопасность – только за счет интеллектуального превосходства над человеком. Его полная оптимизма теория очень популярна на Западе. Организованные Тегмарком конференции посещают самые известные ученые, бизнесмены и политики. Его проект по исследованию рисков продвинутого искусственного интеллекта финансирует Илон Маск.

Впрочем тот же Макс Тегмарк описывает и возможное наступление информационного тоталитаризма: «Прочитывая всю электронную почту, все СМС, когда-либо отправленные, слушая все телефонные разговоры, просматривая все записи с камер наблюдения охранных и дорожных служб, отслеживая все проводки по кредитным картам и любые действия, совершаемые онлайн, искусственный интеллект занял бы исключительную позицию, откуда ему открывалось все что люди думают и делают». В итоге человечество может оказаться в полной зависимости от умных машин, как это показано в фильме «Матрица».

Страх перед господством машин не нов. В советском фильме «Отроки во Вселенной» описывается планета, власть на которой захватили слишком разумные роботы. А Максимилиан Волошин еще 100 лет назад написал поэму о том, как человек стал рабом машины:

Машина — победитель человека:
Был нужен раб, чтоб вытирать ей пот,
Чтоб умащать промежности елеем,
Кормить углем и принимать помет.
И стали ей тогда необходимы;
Кишащий сгусток мускулов и воль,
Воспитанных в голодной дисциплине,
И жадный хам, продешевивший дух
За радости комфорта и мещанства.

Но и техно-оптимисты, и пророки будущего торжества машин игнорируют самое важное. А именно, что имея дело с Машиной, пусть даже наделенной ИИ, человек на самом деле взаимодействует с другими людьми. Потому что в реальном мире, а не в фантазиях футурологов, у каждой машины, программы или технологии есть хозяин. И нажимая на клавиши компьютера или двигая рычаги космического корабля, человек всякий раз вступает во взаимодействие с тем, кто дал деньги на исследования или инвестировал в новое технологическое производство.

Это взаимодействие создает иерархию, но не между человеком и машиной, а между разными людьми. Делая одних наемными работниками, а другим давая в руки прибыль, созданную этими работниками с помощью машин. Отношение «человек-машина» лишь маскирует реальные отношения между людьми, которые предполагают неравенство, противоположность социальных интересов и контроль верхов за низами.

Поэтому для того, чтобы изменить отношение человека и технологии нужно менять не саму технологию, а сложившиеся в обществе отношения власти и собственности. Капитализм, при котором человека, его живую плоть, его способность мыслить, творить и работать можно покупать и продавать, делает человека рабом социальной машины. Продавая свой труд и свои способности на рынке, обменивая их на вещи, выраженные в деньгах, человек неизбежно попадает в зависимость от этих вещей и денег, а также в зависимость от того, кому они принадлежат. А принадлежат они, как и все остальное, собственникам капитала.

Поскольку человек вступает в отношения с ними не напрямую, а через посредство машин, то это и создает иллюзию, что именно машины, технологии контролируют нашу жизнь.

Именно поэтому буржуазные теоретики, философы и футурологи бесконечно пытаются уйти от дискуссии про социальные противоречия в спекуляции относительно технологии. Заменить критику капитализма эфемерными понятиями «индустриального» и «постиндустриального» общества, которые якобы самой своей технологической конструкцией определяют все отношения между людьми, делая одних «жадными хамами», а других «рабами».

Антиутопия, нарисованная в «Матрице» или «Эллизиуме» уже воплотилась. Вспомним, например, рассказанную Эдвардом Сноуденом историю про то, как спецслужбы США следят за десятками миллионов людей на всех континентах. Они прослушивают телефонные разговоры и читают личную переписку с помощью технологий распознавания голоса и изображения, автоматического перевода и других достижений ИИ.

Уже сегодня эти технологии позволяют властям и спецслужбам знать все, что вы пишете, говорите, о чем мечтаете, каково ваше финансовое состояние, где вы находились в каждый момент времени. И такие данные доступны не только правительствам, но и коммерческим компаниями, которые размещают контекстную рекламу, зарабатывая деньги на изучении ваших поисковых запросов в интернете.

Тоталитаризм проступает в нашей, а не выдуманной фантастами реальности. И для его торжества вовсе не нужно представлять себе нового гомункулуса, рукотворный разум, который превзойдет своих создателей, чтобы поработить их. Это уже произошло.

Настоящий ИИ — капитал, понятый как общественное отношение или социальная технология, находящаяся в руках элиты. И этот ИИ обладает своими целями, часто не совместимыми с нашими. Поэтому он и наращивает технологии контроля, пропаганды, цензуры и репрессий. Для того чтобы фантастические достижения технического прогресса могли служить всем нам, делая нашу жизнь богаче, свободнее, насыщеннее и интереснее, нужно чтобы технологии перестали быть частной собственностью «мыслящих роботов», т.е. правящих нами сегодня олигархий, а стали достоянием всего общества.

Тогда они будут работать на нас, а не против нас. Технологии ИИ, блокчейн и интернет вещей позволят заменить разрушительное для общества и окружающей среды производство ради прибыли разумным планированием для которого не нужна громоздкая бюрократия. Это позволит не только преодолеть нищету, голод и неравенство, но и сберечь нашу планету от экологического коллапса.

3D-принтеры, автопилотируемый транспорт и роботизированная промышленность вместо безработицы обеспечат сокращение рабочего времени. На смену ему придет образование, развитие культуры, социальных навыков, новых образов жизни – то есть реализация настоящего творческого потенциала человека и человечества. Мучительная предыстория человечества наконец закончится, уступив место Истории – нашему сознательному становлению, как мыслящего вида, сумевшего осознать и подчинить самому себе свои творческие, интеллектуальные и социальные силы.