Открытое письмо Института будущего жизни (Future of Life Institute) с требованием сделать шестимесячную паузу в развитии искусственного интеллекта уже подписали тысячи высокопоставленных лиц, включая Элона Маска (Elon Musk). Подписанты беспокоятся, что лаборатории искусственного интеллекта (ИИ) "втянуты в неконтролируемую гонку" по разработке и внедрению все более мощных систем, которые никто – включая их создателей – не может понять, предсказать или контролировать.

Чем объясняется эта вспышка паники среди определенной группы элит? Контроль и регулирование, очевидно, находятся в центре этой истории, но с чьей стороны? Во время предлагаемой полугодовой паузы, когда человечество сможет оценить риски, кто встанет на защиту человечества? Учитывая, что лаборатории ИИ в Китае, Индии и России продолжат свою работу (возможно, втайне), глобальное общественное обсуждение этого вопроса не представляется возможным.

Тем не менее, нам следует задуматься о том, что поставлено на карту. В своей книге 2015 года "Homo Deus" историк Юваль Харари (Yuval Harari) предсказал, что наиболее вероятным результатом внедрения ИИ станет радикальное разделение – гораздо более сильное, чем классовое разделение – в человеческом обществе. Вскоре биотехнологии и компьютерные алгоритмы объединят свои силы в производстве "тел, мозгов и разумов", что приведет к увеличению разрыва "между теми, кто знает, как создавать тела и мозги, и теми, кто не знает". В таком мире "те, кто движется на поезде прогресса, обретут божественные способности к созиданию и разрушению, а те, кто остался позади, – столкнутся с вымиранием".

Паника, отраженная в письме об ИИ, проистекает из страха, что даже те, кто находится в "поезде прогресса", не смогут управлять им. Наши нынешние цифровые феодалы напуганы. Однако им нужны не общественные дебаты, а соглашение между правительствами и технологическими корпорациями о сохранении власти на прежнем уровне.

Массовое расширение возможностей ИИ представляет собой серьезную угрозу для власть имущих, включая тех, кто разрабатывает, владеет и контролирует ИИ. Это указывает ни на что иное, как на конец капитализма, каким мы его знаем, проявляющийся в перспективе самовоспроизводящейся системы ИИ, которая будет нуждаться во все меньшем участии человеческих агентов (алгоритмическая торговля на рынке – лишь первый шаг в этом направлении). Нам останется выбор между новой формой коммунизма и неконтролируемым хаосом.

Новые чат-боты предложат многим одиноким (или не очень одиноким) людям бесконечные вечера дружеского общения о фильмах, книгах, кулинарии или политике. Если повторить мою старую метафору, то люди получат ИИ-версию кофе без кофеина или газировки без сахара: дружелюбного соседа без скелетов в шкафу, "Друга", который просто подстроится под ваши нужды. Здесь присутствует структура фетишистского отрицания: "Я прекрасно знаю, что общаюсь не с реальным человеком, но мне кажется, что это так – причем без всяких сопутствующих рисков!"

В любом случае, внимательное изучение письма об ИИ показывает, что это еще одна попытка запретить невозможное. Это старый парадокс: для нас, людей, невозможно участвовать в постчеловеческом будущем, поэтому мы должны запретить его развитие. Чтобы сориентироваться в этих технологиях, мы должны задать старый вопрос Ленина: Свобода для кого и для чего? В каком смысле мы были свободны раньше? Не контролировали ли мы уже сейчас гораздо больше, чем думали? Вместо того, чтобы жаловаться на угрозу нашей свободе и достоинству в будущем, возможно, нам следует сначала подумать о том, что значит свобода сейчас. Пока мы этого не сделаем, мы будем вести себя как истеричные люди, которые, по словам французского психоаналитика Жака Лакана (Jacques Lacan), отчаянно ищут хозяина, но только такого, над которым мы можем властвовать.

Футурист Рэй Курцвейл (Ray Kurzweil) предсказывает, что благодаря экспоненциальному характеру технического прогресса мы скоро будем иметь дело с "духовными" машинами, которые не только проявят все признаки самосознания, но и намного превзойдут человеческий интеллект. Но не следует путать эту "постчеловеческую" позицию с парадигматически современной озабоченностью достижением полного технологического господства над природой. Напротив, мы наблюдаем диалектический разворот этого процесса.

Сегодняшние "постчеловеческие" науки больше не направлены на доминирование. Их кредо – удивление: какие случайные, незапланированные эмерджентные свойства могут приобрести для себя модели "черного ящика" ИИ? Никто не знает, и в этом кроется интерес – или, на самом деле, банальность – всего этого дела.

Поэтому в начале этого века французский философ-инженер Жан-Пьер Дюпюи (Jean-Pierre Dupuy) увидел в новых робототехнике, генетике, нанотехнологиях, искусственной жизни и искусственном интеллекте странную инверсию традиционного антропоцентрического высокомерия, которое позволяет технология:

"Как объяснить, что наука стала настолько "рискованным" занятием, что, по мнению некоторых ведущих ученых, она представляет сегодня главную угрозу для выживания человечества? Некоторые философы отвечают на этот вопрос, говоря, что мечта Декарта – "стать хозяином и обладателем природы" – оказалась ошибочной, и что мы должны срочно вернуться к "овладению мастерством". Они ничего не поняли. Они не видят, что технология, профилирующая себя на нашем горизонте через "конвергенцию" всех дисциплин, нацелена именно на невладение. Инженер завтрашнего дня будет учеником колдуна не из-за своей небрежности или невежества, а по собственному выбору".

Человечество создает своего собственного бога или дьявола. Хотя исход невозможно предсказать, одно можно сказать наверняка. Если нечто похожее на "постчеловечество" возникнет как коллективный факт, наше мировоззрение потеряет все три свои определяющие и пересекающиеся темы: человечество, природу и божественность. Наша идентичность как людей может существовать только на фоне непостижимой природы, но если жизнь станет чем-то, чем можно полностью манипулировать с помощью технологий, она потеряет свой "естественный" характер. Полностью контролируемое существование лишено смысла, не говоря уже о случайности и чудесах.

То же самое, конечно, относится и к любому ощущению божественного. Человеческий опыт "бога" имеет смысл только с точки зрения человеческой ограниченности и смертности. Как только мы станем homo deus и создадим свойства, которые покажутся "сверхъестественными" с нашей старой человеческой точки зрения, "боги", какими мы их знали, исчезнут. Вопрос в том, что останется, если вообще что-то останется. Будем ли мы поклоняться созданному нами ИИ?

Есть все основания опасаться, что технологически-гностические представления о постчеловеческом мире являются идеологическими фантазиями, скрывающими пропасть, которая нас ожидает. Нет необходимости говорить о том, что для того, чтобы в недалеком будущем люди не потеряли свою значимость, а их жизнь не стала бессмысленной, потребуется нечто большее, чем шестимесячная пауза.

Славой Жижек