На протяжении многих лет искусственный интеллект (ИИ) представляли как дело инженеров, лабораторий и сложного программирования. Этот образ больше не соответствует действительности. Сегодня ИИ обсуждают на саммитах глав государств, в комитетах по национальной безопасности, на торговых переговорах и в многосторонних организациях. То, что прежде казалось техническим вопросом, превратилось в вопрос власти.
Невозможно понять нынешние дебаты об искусственном интеллекте, если рассматривать его лишь как инструмент. Его нужно видеть таким, каков он есть на самом деле, — системой, которая перестраивает отношения между странами, компаниями и гражданами.
Социотехнический взгляд
Социотехнический подход, опирающийся на различные направления социальных исследований науки и технологий, исходит из ключевой идеи, согласно которой технологии и общество конструируют друг друга.
Языковая модель не существует в вакууме. За ней стоят микросхемы, производимые лишь в немногих местах мира, огромные центры обработки данных, потребляющие воду и электроэнергию, наборы данных с культурными искажениями, работники, размечающие информацию, компании с коммерческими интересами и правительства, устанавливающие правила.
Взгляд на ИИ с этой позиции позволяет отказаться от двух допущений. Первое гласит, что технология нейтральна. Второе утверждает, что она развивается сама по себе, подобно природной силе, которую невозможно направить. Ни одно из них не выдерживает серьёзного анализа.
Вопрос об агентности
Здесь возникает ключевое для социальных наук понятие — агентность. Под агентностью мы понимаем способность человеческого или нечеловеческого актора влиять на своё окружение. Применительно к искусственному интеллекту это понятие заставляет задаться вопросом, кто на самом деле принимает решения. Государства, которые регулируют? Корпорации, которые разрабатывают системы? Граждане, которые ежедневно ими пользуются?
Исходя из этого определения, некоторые авторы утверждают, что сами автоматизированные системы обладают своего рода агентностью, поскольку они фильтруют информацию, рекомендуют решения и формируют поведение. Не приписывая машинам воли, можно с уверенностью сказать, что ИИ перераспределяет агентность. Он даёт больше возможностей для действия тем, кто его контролирует, и сужает пространство тех, кто лишь потребляет его. Это перераспределение по своей сути геополитическое.
Новая география власти
Конкуренция в сфере искусственного интеллекта имеет материальную основу, о которой часто забывают. Передовые полупроводники, критически важные минералы, энергия и вычислительные мощности стали стратегическими ресурсами. Именно поэтому великие державы прибегают к экспортному контролю, промышленным субсидиям и технологическим альянсам.
Речь идёт не только о продаже продуктов, но и о том, чтобы определить, кто сможет обучать самые мощные модели, а кто останется позади. В этих условиях суверенитет измеряется уже не только территорией или военной силой, но и доступом к цифровой инфраструктуре. Страна, не располагающая собственными вычислительными мощностями, ограничена в своей агентности при определении своего технологического будущего.
Борьба за правила игры
К материальной конкуренции добавляется нормативная. Существуют как минимум три крупные модели, находящиеся в напряжённых отношениях друг с другом. Одна отдаёт приоритет регулированию на основе рисков и защите основных прав. Другая полагается на саморегулирование рынка и корпоративные инновации. Третья отводит государству роль центрального ориентира и надзорного органа в сфере технологий.
Каждая модель выражает различные политические ценности в отношении частной жизни, свободы слова и роли институтов. Тот, кому удастся добиться принятия своих норм в качестве международного стандарта, расширит своё влияние далеко за пределы собственных границ. Регулировать ИИ — по сути, значит экспортировать определённое видение мира.
Глобальный Юг между зависимостью и возможностью
В разгар этого противостояния страны Латинской Америки, Африки и значительной части Азии рискуют оказаться на второстепенных ролях. Как правило, они поставляют данные, минералы и малозаметный труд, например разметку информации или модерацию контента, и при этом импортируют технологии, созданные с иными приоритетами и на других языках. Эта асимметрия ограничивает их агентность.
Тем не менее ситуация не предрешена. Региональное сотрудничество, инвестиции в местные кадры, разработка моделей, адаптированных к собственным языкам и контекстам, а также активное участие в международных форумах могут открыть пространство для автономии. Главное — перейти от роли пассивных граждан к роли участников, имеющих голос при определении правил.
Управлять техникой значит управлять обществом
Искусственный интеллект — не внешняя сила, обрушивающаяся на наши общества. Он является результатом человеческих решений, экономических интересов и политических проектов. Поэтому суть спора не в том, что может делать ИИ, а в том, кто сохраняет способность принимать решения о нём и в чьих интересах.
Защита агентности обществ, как государств, так и граждан, требует прозрачности, технологического образования и пространств для демократического обсуждения (хотя демократия сама по себе является формой коллективной агентности). Если искусственный интеллект — это власть, то насущный вопрос состоит в том, как распределять его более справедливо.
