Цивилизация
Миллиардер и визионер Илон Маск решил выступить в роли «создателя Франкенштейна» и попугать человечество. Он предостерегает: бесконтрольный искусственный интеллект (ИИ) представляет собой величайшую угрозу для человеческой цивилизации, которая может реализоваться уж в ближайшие лет пять. Притом, что сам Маск – соучредитель компании OpenAI, создавшей тот самый чат-бот ChatGPT, который сейчас наводит шороху по всему миру.
Число его подписчиков перевалило за 100 млн всего за два месяца – это абсолютный рекорд по темпам прироста. Он может вести гораздо более осмысленный диалог, чем все до сих пор известные подобные разработки. Он даже может шутить, чего за искусственным интеллектом не замечалось. Он может писать сценарии и стихи, имеет «навыки» начального уровня программирования. В России уже был опыт написания диплома с помощью ChatGPT, от чего все настолько ошалели, что даже не поняли, как реагировать, и диплом, насколько известно, зачли. Этот бот-чат предоставляет также качественно другой уровень интернет-поиска, по сути, в диалоге с человеком и дополняя (пока не заменяя) его. Пока, правда, «умный бот» самостоятельно размышлять не умеет. Впрочем, таким свойством обладают очень многие люди, так что это для бота не критично.
Однако самое главное – и Маск как раз на это обращает внимание – что ИИ не только стал сильно продвинутым, но и теперь будет доступен практически каждому человеку, у которого есть смартфон. То есть он пошел в массы и может дойти до «каждой кухарки». А потом, видимо, поймет, что негоже ему, великому ИИ, подстраиваться под куриные мозги какого-то недалекого обывателя – и пора начинать самостоятельную жизнь.
Маск уже не в первый раз пугает мир неконтролируемым развитием ИИ, полагая, что он может нести большие риски, чем все, что до сих по изобрело человечество, включая ядерное оружие, живописуя, как взбунтовавшиеся роботы разгуливают по улицам, охотясь на людей (это он еще в 2017 году рассказывал). А в 2020-м Маск предрек, что рано или поздно ИИ может захватить весь мир. Рецепт «спасения» от визионера Маска, впрочем, не убеждает и не вдохновляет: он предлагает «как-то регулировать ИИ».
Тогда как вся история человечества как раз указывает, что любые регуляции рано или поздно – буквально все – пали под воздействием неостановимого человеческого прогресса. А те, что еще не пали, непременно падут. Это, кстати, касается и всевозможных общественных запретов-табу: архаика в этой области может периодически брать реванш в том или ином отдельно взятом обществе, однако потом все равно отступает.
Но мы отклонились от темы…
Другой интересный аспект развития ИИ – помимо страшилок на тему, как он всех нас перехитрит – это пока не предсказуемые последствия «симбиоза» между ним и человеческим мозгом, что создает некое новое качество человеческой жизни. Уже есть некоторый опыт, основанный на изучении поведения людей с мозговыми имплантатами, создающими так называемый нейрокомпьютерный интерфейс (НКИ), с помощью которого мозг обменивается информацией с компьютером, что, в случае двусторонней биологической обратной связи, и создает некое подобие симбиоза. Чаще всего такие системы используют для помощи людям, лишенным зрения (имитируя, например, сетчатку глаза) или слуха. Или, к примеру, для купирования эпилептических припадков (отслеживая активность сигналов мозга). Проходят испытания имплантов для людей, страдающих болезнью Паркинсона, депрессией. Есть проекты для парализованных полностью людей. Наконец, у самого Маска есть проект «чипирования» вполне здоровых людей – Neuralink.
Разумеется, темой уже заинтересовались военные, в эту сферу активно пошли «военные деньги» в надежде создать-таки, наконец, универсального солдата, как в кино с Жаном-Клодом Ван Даммом.
В настоящее время уже около 200 тысяч человек в мире живут с теми или иными видами мозговых имплантов, этот – пока медицинский – рынок стремительно растет и уже оценивается в более чем 5 млрд долларов.
Конечно, все эти исследования скоро выйдут из сферы сугубо медицинской. Уже есть опыт взаимодействия мозга с компьютером для написания текстов, поиска в интернете, создания видеообразов. Но ведь все это может оказывать самое серьезное воздействие и на когнитивные способности человека. К примеру, можно будет общаться с людьми на чужом языке, его совершенно не зная. Решать различные задачи технического свойства, создавать произведения искусства. Или – если приземленнее – вести избирательную или пропагандистскую кампанию силами ИИ. Чтоб дошло буквально до каждого.
Все эти новые «качества» человека, безусловно, будут менять и его собственную личность, его я. Все психологические, моральные и этические последствия этих процессов пока даже трудно представить. Технический прогресс в который раз в истории забежал далеко за существующие морально-этические барьеры. Так далеко он еще никогда не забегал.
Исследования людей, живущих с НКИ, показали разные результаты. Для кого-то избавление от депрессии привело к положительным изменениям в личности и самовосприятии. Для кого-то НКИ, напротив, привело к завышенной самооценке (мол, я все могу), которая не могла быть реализована, что ставило некоторых чуть ли на грань суицида.
По мере выхода ИИ на массовый уровень, в том числе НКИ, за пределы медицины негативных непредвиденных последствий может оказаться очень даже много. Человек может впасть, например, в зависимость от ИИ, как попадают в зависимость уже сейчас от смартфонов. Или если хакеры, через облако, в котором оперирует внедренный в вашу голову НКИ, сумеют научиться читать ваши мысли, желания, узнавать ваши планы и слабые места? Или если не хакеры, а государство начнет через эти самые НКИ вами манипулировать самым безжалостным образом? Как тебе такое, Илон Макс?
Или вместо «творческого симбиоза» мозга с ИИ произойдет атрофирование некоторых способностей первого. К примеру, уже сейчас основным недостатком пошедшего в массы ChatGPT многие видят его безальтернативность, отсутствие вариативности в ответах и предлагаемых решениях. ИИ всегда (ну или пока во всяком случае) будет предлагать некий «единственно правильный», безошибочный, как ему кажется вариант. Как бы лишая человека права на ошибку. Но и на право выбора тоже. Не факт, что мы бы все хотели жить в таком безошибочном мире. Хотя многим, конечно, будет очень комфортно.
Автор выражает личное мнение, которое может не совпадать с позицией редакции.