Цивилизация
На современное общество огромное влияние оказывают бигтехи – крупные технологические компании, от которых зависит и рынок IT, и экономика в целом. Сегодня во многих бигтехах есть департаменты и отдельные специалисты, которые занимаются философией: это, например, «штатный философ» Google Дэймон Горовиц и перешедший из Стэнфорда в Apple Джошуа Коэн, этико-философские отделы Microsoft и DeepMind. Facebook (владелец компания Meta признана в России экстремистской и запрещена) и Amazon спонсируют программы исследований философии ИИ, открывающиеся в ведущих университетах мира. В недавней статье гарвардских исследователей, посвященной влиянию бигтехов на научные исследования в области ИИ, сообщается, что они прямо финансируют около 65% всех программ по социально-этическим направлениям отрасли.
Стремление Кремниевой долины «обелить» собственную репутацию в глазах общественности и государства прежде всего связано с тем, что Google, Microsoft и Amazon конкурируют за многомиллиардные контракты Пентагона в области систем ИИ. Многое становится известным благодаря таким событиям, как громкий скандал с увольнением Тимнит Гебру из Google из-за ее позиции по ряду этических проблем (по словам Гебру, компания запретила ей публиковать исследовательскую работу о расизме в современных технологиях. Кроме того, Гебру пожаловалась, что Google не хочет нанимать на работу представителей меньшинств).
Если взглянуть на исследования ИИ более внимательно, станет ясно, что связь философии с изучением цифровых интеллектуальных систем – это не поверхностная интеллектуальная мода и не вынужденная адаптация корпораций под изменяющиеся условия рынка. Связь философии с исследованиями искусственного интеллекта гораздо глубже исторически и концептуально – технологии меняют мир, но философия позволяет людям осмыслить эти изменения.
Точку зарождения ИИ можно отсчитывать по-разному. Обычно говорят о работах Алана Тьюринга в философском журнале Mind или о Дартмутском семинаре, на котором был сформулирован сам термин «искусственный интеллект». Так или иначе, появившись в XX веке, ИИ черпал вдохновение из философской метафоры, сравнивавшей естественный интеллект человека и гипотетическую интеллектуальную машину. Эта аналогия опиралась на результаты неврологии конца XIX – начала XX веков: если мозг – это электрическая сеть нейронов, то возможно создание «электронного мозга».
Основатель кибернетики Норберт Винер предположил, что разумное поведение может быть смоделировано через механизмы обратной связи, а «отец теории информации» Клод Шеннон предложил теорию формального описания цифровых сигналов. Математик Алан Тьюринг, показав, что любой вычислительный алгоритм может быть смоделирован с помощью абстрактного автомата (т.н. машины Тьюринга), предположил универсальность цифровых вычислений: вопрос об имитации деятельности любой цифровой машины – это вопрос достаточного объема памяти и запаса времени.
Тьюринг сделал два важных заявления: во-первых, он отождествил интеллектуальную деятельность с вычислительной, во-вторых, исключил из рассмотрения проблему самосознания. Тем самым, вопрос имитации интеллектуальной деятельности стал вопросом наращивания вычислительных мощностей. Реализацию интеллектуальной машины можно проверить тестом «игры в имитацию», позже названным тестом Тьюринга. Если говорить проще, он пытался выяснить, может ли вычислительная машина мыслить.
На этом основании на Дартмутском семинаре исследователи во главе с Джоном Маккарти и Марвином Минским создали термин «искусственный интеллект». Они заявили, что его изучение должно было быть «основано на предположении, что любой аспект интеллекта может быть описан настолько точно, что можно создать машину для его моделирования».
Мы видим, что развитие области ИИ исходило из определенных философских предпосылок, в которых, впрочем, сами основатели вполне отдавали себе отчет. Вот несколько таких постулатов.
Человек является носителем интеллекта – это то, что человек использует, когда мы говорим, что он мыслит (бихевиоризм).
Мышление может быть реализовано на разных носителях, например, на биологическом или техническом (изофункционализм систем).
Если «мыслительные» функции машина будет выполнять с таким же успехом, как и сам человек, то можно заключить, что машина мыслит («джентльменское соглашение» Тьюринга).
В дальнейшем появились альтернативные подходы. Например, робототехник Родни Брукс, исследуя когнитивные архитектуры, учитывающие сенсорно-моторную, а не исключительно вычислительную ориентацию, осуществил методологический поворот в пользу подхода воплощенного познания в ИИ. Другой влиятельной парадигмой стал коннекционизм, который, основываясь на моделировании искусственных нейронных сетей, предполагал описание интеллекта и ментальных феноменов с помощью взаимосвязанных сетей простых и однородных элементов, усиливая, таким образом, аналогию нейрофизиологической метафоры, ведь мозг – это нейроны и синапсы.
Последующее развитие исследований ИИ характеризуется дискретизацией различных дисциплин. Ученые фокусировались на проблемах, рассматриваемых через оптику собственных методологий и определений ИИ: моделирование естественных рассуждений, генетические алгоритмы, робототехника и так далее.
Среди исследователей до сих пор нет консенсуса по поводу того, что вообще такое ИИ. Сосредоточившись на разработке узких коммерческих приложений, область ИИ приобрела более инженерный характер, чем на этапе зарождения.
Приведем аналогию из истории физики. Если великие физики (Эйнштейн, Бор, Шредингер, Гейзенберг, Борн) занимались философскими проблемами построения научной картины мира, то большинство последующих исследователей были погружены в решение «научных головоломок» в уже сформированной парадигме. Тон этому задал сам Тьюринг, предложивший узкие имитационные тесты для определения степени «интеллектуальности» машины – игра в шахматы, разговоры с собеседником, решение математических задач.
Однако, если вернуться к первоначальной цели создания Общего искусственного интеллекта (AGI – Artificial General Intelligence), способного решать различные задачи в различных средах на уровне, равном естественному интеллекту и превосходящем его, то это вряд ли достижимо с помощью решения «головоломок» типа настольных игр.
Создание AGI всегда вызывало много дискуссий. В начале XXI века, объясняя, почему прошлые прогнозы не оправдались, исследователи либо сдвигали дату вперед, скрупулезно высчитывая мощности машины, либо аргументировали задержку игнорированием проблем моделирования естественных рассуждений в пользу нейросетей.
В начале XXI века AGI стала формироваться как отдельная область, с тем, чтобы оправдать надежды и прогнозы основателей «классического ИИ». В 2000-х годах появляются научные конференции и семинары, журналы, лаборатории, изучающие ИИ. Частные компании открыто заявили о создании AGI как о главной цели исследований. Появились научно-популярные книги об AGI.
На конференциях по AGI в качестве спикеров выступают профессиональные философы Ник Бостром, Джон Поллок, Маргарет Боден и Уго де Гарис. Это свидетельствует о сложности и общности междисциплинарных проблем, стоящих на пути создания AGI.
Переход к AGI требует методологического переворота в исследованиях ИИ: для создания AGI, то есть вычислительной реализации некоторой формальной модели интеллекта средствами Computer Science, требуется разработка общей теории интеллекта, которая опирается на метафору естественного интеллекта и лежит в концептуальном пространстве таких дисциплин, как нейробиология, психология, когнитивистика, лингвистика и философия. Для того чтобы построить теорию интеллекта, нужно тщательно разобраться в эпистемологических, онтологических и методологических вопросах о том, как интеллект связан со своим физическим носителем, как интегрировать результаты отдельных дисциплин в единую систему, выстроив понятийный интерфейс между ними.
Все эти задачи невозможно решить внутри Computer Science. Это понимали основатели ИИ и понимают современные исследователи AGI: трансдисциплинарность и абстрактность некоторых проблем, лежащих в основании AGI, так или иначе выталкивают исследователя в область философии.
Современный философский аппарат в области философии сознания, методологии науки, этики и логики может стать руководством к действию для практиков вместо движения на ощупь. Философия – активно развивающаяся, цитируемая и влиятельная часть области исследований ИИ.
Итак, мы показали, что философия – легитимная часть исследований AGI, но в чем конкретно заключается ее роль?
Философия помогает практикам-исследователям в двух областях. Первое: это отношения с инвесторами, государством и гражданским обществом, проясняющие вопросы о том, насколько ваше исследование этически оправдано и значимо для решения социальных, экологических или государственных задач. Второе: это отношения с другими научными дисциплинами внутри исследования, проясняющие формулировки целей и создающие новый понятийный аппарат. Поэтому «философский вклад» может быть сильным (в обеих областях) и слабым (только в одной области). В радикальной форме сильную позицию сформулировал создатель квантовой машины Тьюринга Дэвид Дойч: «Проблема разработки AGI – это вопрос философии, а не информатики или нейрофизиологии».
Это не означает, что AGI должны заниматься дипломированные философы. Скорее, задача создания искусственного агента, способного решать задачи реального мира лучше, чем человек, является во многом философской проблемой, поскольку изначально построена на функциональном сравнении человека и агента. Создавая AGI, мы занимаемся многими науками, включая философию, хотим ли мы того или нет.
К философским вопросам можно отнести следующие. Что такое интеллект и чем искусственный интеллектуальный агент будет отличаться от естественного? Что такое AGI и чем он отличается от слабого или сильного ИИ? Возможно ли создание AGI? Если да, то как его нужно создавать? Какими будут критерии успеха, то есть как верифицировать наличие AGI?
Философско-методологический подход очень важен для прояснения степени влияния AGI на человека, общество и цивилизацию в целом. Философ выполняет роль арбитра в «комиссии по этике», исследуя сложные и многогранные вопросы применимости результатов исследований и отвечая на вопрос о том, как сделать разработки ИИ прозрачными и объяснимыми. До сих пор нет общепринятого ответа на вопрос о возможности создания искусственного морального агента и степени его ответственности. Как можно избежать дискриминационного алгоритмического искажения решений агента. Философы должны заниматься вопросами социально-политических и экзистенциальных последствий, включая такие вопросы, как милитаризация ИИ.
Указанные нами проблемы и вопросы философских областей тесно взаимосвязаны и могут переходить между ними. Например, когда общество или инвестор формулирует запрос на создание «этичного ИИ», необходимо начинать проработку этических вопросов на ранних этапах, а не только на этапе оценки действий ИИ.
Еще один традиционный инструмент философии – проектирование не только мысленных, но и реальных экспериментов. Однако эксперимент Тьюринга давно уже перестал быть умозрительным и перешел в практическую плоскость. Возможно, пришло время двигаться дальше и перейти к посттьюринговому периоду в философии ИИ.
У философии ИИ есть три важнейшие роли. Во-первых, в недалеком будущем впервые в истории появятся небиологические сущности, обладающие способностями, сходными или превышающими человеческие. Это делает актуальным стремление разобраться в фундаментальных философских аспектах возникающих проблем. Во-вторых, в условиях стремительно развивающихся технологий в сложной междисциплинарной области ИИ очень важно дать исследователям-практикам надежные инструменты проверки адекватности их гипотез. И, наконец, в-третьих, философия является единственной дисциплиной, способной охватить и систематизировать все накопленные человечеством знания. И задавая правильные вопросы и анализируя получаемые ответы, мы сможем уберечь человечество от возможных грядущих катастроф.
Текст написан Альбертом Ефимовым в соавторстве с Филиппом Матвеевым, МГУ им. М.В. Ломоносова .