В 2022 году в мире технологий появилось новое изобилие новостей на первых полосах газет. В октябре Илон Маск купил Twitter – одну из основных платформ для публичных коммуникаций, используемых журналистами, учеными, бизнесменами и политиками – и уволил большую часть сотрудников, занимающихся модерацией контента, заявив, что компания будет полагаться на искусственный интеллект (ИИ).

Затем, в ноябре, группа сотрудников Meta сообщила, что они разработали программу ИИ, способную победить большинство людей в стратегической игре "Дипломатия". В Шэньчжэне (Китай) чиновники используют "цифровых двойников" тысяч мобильных устройств, подключенных к 5G, для мониторинга и управления потоками людей, движением транспорта и потреблением энергии в режиме реального времени. А благодаря последней итерации модели языкового прогнозирования ChatGPT многие объявляют о конце студенческого сочинения.

Одним словом, 2022 год – это был год, в котором и без того серьезные опасения по поводу того, как разрабатываются и используются технологии, переросли в еще более острые опасения. Кто здесь главный? Кто должен отвечать за это? Государственная политика и институты должны быть направлены на то, чтобы инновации улучшали мир, однако в настоящее время многие технологии внедряются в вакууме. Нам нужны инклюзивные структуры управления, ориентированные на миссию, в центре которых находится истинное общее благо. Способные правительства могут направить эту технологическую революцию на службу общественным интересам.

Рассмотрим ИИ, который Оксфордский словарь английского языка определяет в широком смысле как "теорию и разработку компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие как визуальное восприятие, распознавание речи, принятие решений и перевод с одного языка на другой". ИИ может сделать нашу жизнь лучше во многих отношениях. Он может улучшить производство и управление продовольствием, сделав фермерство более эффективным и повысив безопасность продуктов питания. Он может помочь нам повысить устойчивость к стихийным бедствиям, спроектировать энергоэффективные здания, улучшить системы накопления энергии и оптимизировать использование возобновляемых источников энергии. И он также может повысить точность медицинской диагностики в сочетании с оценками самих врачей.

Эти приложения во многом улучшат нашу жизнь. Но в отсутствие эффективных правил ИИ, скорее всего, создаст новое неравенство и усилит уже существующее. Не нужно далеко ходить, чтобы найти примеры того, как системы, работающие на базе ИИ, воспроизводят несправедливые социальные предубеждения. В одном из недавних экспериментов роботы, управляемые алгоритмом машинного обучения, проявляли явный расизм и сексизм. Без более тщательного надзора алгоритмы, которые должны помочь государственному сектору управлять социальными пособиями, могут дискриминировать семьи, которые действительно в этом нуждаются. Не меньшую тревогу вызывает и то, что государственные органы в некоторых странах уже используют технологию распознавания лиц с помощью ИИ для отслеживания политического инакомыслия и подвергают граждан режиму массовой слежки.

Концентрация рынка также является серьезной проблемой. В разработке ИИ – и контроле над базовыми данными – доминируют всего несколько влиятельных игроков в нескольких регионах. В период с 2013 по 2021 год на Китай и США приходилось 80% частных инвестиций в ИИ во всем мире. В настоящее время существует огромный дисбаланс сил между частными владельцами этих технологий и всеми остальными.

Но ИИ также стимулируется массовыми государственными инвестициями. Такое финансирование должно осуществляться на общее благо, а не в интересах немногих. Нам нужна цифровая архитектура, которая более справедливо распределяет выгоды от коллективного создания стоимости. Эпоха легкого саморегулирования должна закончиться. Когда мы позволяем рыночному фундаментализму возобладать, государство и налогоплательщики обречены приходить на помощь постфактум (как мы видели в контексте финансового кризиса 2008 года и пандемии COVID-19), обычно с большими финансовыми затратами и долговременными социальными последствиями. Хуже того, в случае с ИИ мы даже не знаем, будет ли достаточно вмешательства непосредственно на месте. Как недавно отметил журнал The Economist, разработчики ИИ сами часто удивляются силе своих творений.

К счастью, мы уже знаем, как предотвратить еще один кризис, вызванный принципом невмешательства (laissez-faire). Нам нужна "этическая по замыслу" миссия ИИ, подкрепленная надежным регулированием и способными правительствами, работающими над формированием этой технологической революции в общих интересах, а не только в интересах акционеров. При наличии этих столпов частный сектор может и будет присоединяться к более широким усилиям, направленным на то, чтобы сделать технологии более безопасными и справедливыми.

Эффективный общественный надзор должен обеспечить, чтобы цифровизация и ИИ открывали возможности для создания общественной ценности. Этот принцип является неотъемлемой частью Рекомендации ЮНЕСКО по этике ИИ – нормативной базы, которая была принята 193 государствами-членами в ноябре 2021 года. Более того, в настоящее время ключевые игроки берут на себя ответственность за пересмотр дискуссии: администрация президента США Джо Байдена предложила Билль о правах в области ИИ, а Европейский союз разработал целостную основу для регулирования ИИ.

Тем не менее, мы также должны поддерживать использование ИИ в государственном секторе на прочной этической основе. Поскольку ИИ помогает принимать все больше решений, важно обеспечить, чтобы системы ИИ не использовались таким образом, чтобы подрывать демократию или нарушать права человека.

Мы также должны решить проблему недостатка инвестиций в инновационный и управленческий потенциал государственного сектора. COVID-19 подчеркнул необходимость более динамичных возможностей государственного сектора. Например, без надежных условий, регулирующих партнерство государственного и частного секторов, компании могут легко захватить вопросы повестки дня.

Проблема, однако, заключается в том, что передача государственных контрактов на аутсорсинг все чаще становится препятствием для создания потенциала государственного сектора. Правительства должны иметь возможность разрабатывать ИИ таким образом, чтобы не зависеть от частного сектора при создании чувствительных систем, чтобы сохранить контроль над важными продуктами и обеспечить соблюдение этических стандартов. Аналогичным образом, они должны иметь возможность поддерживать обмен информацией и совместимые протоколы и метрики между департаментами и министерствами. Все это потребует государственных инвестиций в государственные возможности, следуя подходу, ориентированному на выполнение задач.

Учитывая, что так много знаний и опыта сейчас сосредоточено в частном секторе, синергия между государственным и частным секторами неизбежна и желательна. Ориентация на задачи – это выбор желающих – путем совместного инвестирования с партнерами, которые признают потенциал государственных задач. Главное – наделить государство способностью управлять развертыванием и использованием систем ИИ, а не постоянно играть в догонялки. Чтобы разделить риски и выгоды от государственных инвестиций, политики могут оговаривать условия государственного финансирования. Они также могут и должны требовать от Big Tech большей открытости и прозрачности.

На карту поставлено будущее нашего общества. Мы должны не только решать проблемы и контролировать риски, связанные с ИИ, но и определять направление цифровой трансформации и технологических инноваций в целом. В этом году самое подходящее время начать закладывать фундамент для безграничных инноваций в общечеловеческих интересах.

Габриэла Рамос и Мариана Маццукато