Интервью с Emma Thompson | AI Ethics Researcher | Fellow в Oxford Internet Institute

OpenAI, Google, Anthropic, Meta — горстка компаний контролирует самые мощные AI-системы из когда-либо созданных. Emma Thompson провела десятилетие, изучая управление технологиями. Она видит децентрализованный AI и как альтернативу, и как необходимость.

2049.news: Почему владение AI важно?

Emma Thompson: Потому что AI становится инфраструктурой. Это не просто продукт — это основа, на которой строятся другие продукты. Поиск, коммуникация, креативность, принятие решений — всё больше опосредуется AI-системами.

Когда инфраструктура контролируется несколькими частными сущностями, они получают огромную власть. Они решают, что разрешено, что цензурируется, что возможно. Они формируют то, как миллиарды людей думают, создают и взаимодействуют.

Мы уже видели этот фильм с социальными сетями. Несколько платформ стали публичной площадью, затем использовали эту позицию, чтобы оптимизироваться на вовлечение вместо правды. Концентрация AI может быть хуже, потому что системы более способные и менее прозрачные.

2049.news: Что на самом деле означает "децентрализованный AI"?

Emma Thompson: Это спектр, не бинарность.

На одном конце: полностью открытые модели. Веса опубликованы, любой может их запустить, никакого центрального контроля. Llama от Meta, модели Mistral, генераторы изображений Stability AI. Ты скачиваешь их, запускаешь локально, модифицируешь свободно.

Середина: распределённый трейнинг и инференс. Проекты вроде Gensyn, Together AI и Bittensor позволяют людям контрибьютить вычисления для коллективного обучения или запуска моделей. Никакая единственная сущность не контролирует инфраструктуру.

Дальше: AI под управлением сообщества. Модели, разрабатываемые через демократические процессы, где стейкхолдеры голосуют за способности, ограничения и приоритеты разработки. Это едва существует пока, но именно здесь происходят интересные эксперименты.

Ключевой вопрос на каждом уровне: кто принимает решения и как?

2049.news: Какие аргументы против централизованного AI?

Emma Thompson: Множество пересекающихся проблем.

Цензура и предвзятость. Каждый крупный AI-провайдер внедряет политики контента. Разумно в принципе — никто не хочет, чтобы AI помогал терроризму. Но политики отражают ценности тех, кто их пишет. Американские технологические компании навязывают американские нормы глобально. Темы, которые спорны в Сан-Франциско, ограничиваются везде.

Единые точки отказа. Если OpenAI обанкротится, будет куплен или изменит политики, миллионы приложений сломаются за ночь. Строить на централизованной инфраструктуре означает принимать эту зависимость.

Потенциал слежки. Централизованные провайдеры видят каждый запрос. Они знают, о чём ты думаешь, что создаёшь, что исследуешь. Даже с политиками конфиденциальности эти данные существуют и могут быть востребованы по повестке, взломаны или использованы неправомерно.

Ограничения инноваций. Когда одна компания контролирует платформу, она решает, что можно строить. Всё, что угрожает их бизнес-модели, банится. Децентрализованные системы обеспечивают permissionless инновации.

2049.news: Но разве у децентрализации тоже нет рисков?

Emma Thompson: Абсолютно. Я не наивна в этом отношении.

Открытые модели позволяют злоупотребление. Если любой может запустить нецензурированную модель локально, любой включает плохих акторов. Мы уже видели, как открытые модели используются для генерации CSAM, синтеза вредной информации и создания дипфейков в масштабе.

Управление сложно. "Сообщество решает" звучит демократично, пока не осознаёшь, что большинство сообществ — крошечные меньшинства вовлечённых участников, пока все остальные полностью игнорируют governance. Звучит знакомо? Это проблема DAO, применённая к AI.

Качество важно. Централизованные лаборатории имеют миллиарды финансирования, топовых исследователей, массивные вычисления. Open-source усилия догоняют, но всё ещё отстают на передовых способностях. Если децентрализованный AI значительно хуже, люди не будут его использовать независимо от идеологии.

Честная позиция: и централизация, и децентрализация имеют издержки. Нам нужно выбирать сознательно, а не по умолчанию следовать за тем, кто строит быстрее.

2049.news: Где крипта вписывается в это?

Emma Thompson: Крипта предоставляет механизмы координации, которые нужны децентрализованному AI.

Стимулы для вычислений. Обучение больших моделей требует огромных вычислений. Крипто-токены могут стимулировать людей контрибьютить GPU в распределённый трейнинг. Bittensor, Render Network, Akash — они строят маркетплейсы для AI-вычислений.

Компенсация за данные. Модели обучаются на данных, созданных людьми. Сейчас создатели не получают ничего, пока AI-компании захватывают всю ценность. Крипта обеспечивает микроплатежи, отслеживание роялти и data DAO, где контрибьюторам платят.

Инфраструктура управления. On-chain голосование, решения с весом по токенам, квадратичное финансирование AI-исследований — эксперименты крипто-governance напрямую применимы к управлению разработкой AI.

Владение моделями. NFT, представляющие веса моделей, дробное владение трейнинг-ранами, торгуемые права на инференс. Странные идеи, но крипта делает их возможными.

Я скептична к крипто-хайпу в целом, но пересечение с AI governance реально интересно.

2049.news: За какими проектами децентрализованного AI вы следите?

Emma Thompson: Несколько выделяются.

Bittensor амбициозен — децентрализованная сеть, где майнеры конкурируют, предоставляя AI-способности. Это беспорядочно и спекулятивно, но архитектура интересна. Они пытаются создать рыночные стимулы для открытой разработки AI.

Hugging Face не на блокчейне, но это самая успешная открытая AI-инфраструктура. Хаб моделей, датасеты, пространства для деплоймента. Управляется сообществом, но всё ещё централизован — интересная золотая середина.

EleutherAI заслуживает похвалы. Некоммерческий, открытый исследовательский коллектив, который обучил GPT-Neo и GPT-J до того, как open-source модели стали мейнстримом. Доказали, что не нужна лаборатория за миллиард долларов, чтобы делать значимые AI-исследования.

На крипто-стороне протокол распределённого обучения Gensyn технически софистицирован. Если они смогут заставить это работать эффективно, это изменит экономику того, кто может обучать большие модели.

2049.news: Где мы окажемся через пять лет, по вашему мнению?

Emma Thompson: Вероятно, смешанная экосистема.

Централизованные лаборатории всё ещё будут лидировать на передовых способностях. У них есть ресурсы, талант и momentum. GPT-6 или что там будет не придёт от децентрализованного коллектива.

Но открытые модели будут достаточно хороши для большинства применений. Разрыв между передовыми и open-source сужается. Для 90% юзкейсов бесплатная модель, работающая локально, побеждает оплату API-доступа к маргинально лучшей.

Регулирование будет фаворитизировать централизацию в одних юрисдикциях и децентрализацию в других. ЕС, вероятно, потребует лицензированных AI-провайдеров. Некоторые страны примут открытый AI как конкурентное преимущество против американских технологических гигантов.

Оптимистичный сценарий: мы развиваем и централизованный, и децентрализованный AI со здоровой конкуренцией между ними. Ни один не монополизирует. У пользователей есть выбор. Это требует активных усилий для поддержания.

Пессимистичный сценарий: централизованные лаборатории решительно вырываются вперёд, open-source становится нерелевантным, и мы заканчиваем с двумя или тремя компаниями, контролирующими самую мощную технологию человечества. Это путь по умолчанию без вмешательства.

Я работаю, чтобы сделать оптимистичный сценарий более вероятным. Сам по себе он не случится.

Emma Thompson исследует AI governance и технологическую этику в Oxford Internet Institute. Она консультирует правительства и организации гражданского общества по AI-политике и ранее возглавляла исследования в Partnership on AI.