Интервью с Jennifer Walsh | Digital Authenticity Researcher | Со-основательница Verity Protocol

Мы тонем в синтетическом контенте. AI-генерируемые изображения заливают социальные сети. Чатботы пишут статьи. Дипфейки имперсонируют политиков. Линия между реальным и искусственным размылась до неузнаваемости. Jennifer Walsh верит, что blockchain-based провенанс — наша лучшая надежда на восстановление доверия.

2049.news: Насколько плоха проблема синтетического контента?

Jennifer Walsh: Хуже, чем большинство людей осознаёт.

Текущие оценки предполагают, что 10-15% изображений, которыми делятся на крупных социальных платформах, AI-генерируемые. Для некоторых категорий — как продуктовые фото, аватары профилей, новостные изображения — процент намного выше. Мы приближаемся к точке, где синтетический контент — норма, не исключение.

Текст ещё сложнее отслеживать. AI-написанные статьи, обзоры, комментарии — они везде. Обзоры на Amazon, новостные агрегаторы, посты в социальных сетях. Объём делает человеческую верификацию невозможной.

Более глубокая проблема — эрозия доверия. Когда что угодно может быть фейком, люди начинают не верить всему. Реальные доказательства отвергаются как AI. Подлинные фото ставятся под вопрос. Эпистемический фундамент общей реальности трескается.

2049.news: Почему текущие методы детекции не работают?

Jennifer Walsh: Это гонка вооружений, которую детекция проигрывает.

Инструменты AI-детекции ищут статистические паттерны, которые отличают синтетический контент от реального. Артефакты в изображениях, необычные словесные паттерны в тексте, несогласованности в аудио. Они работают против старых генераторов.

Но генераторы улучшаются. Каждая новая модель производит более реалистичный output. Артефакты становятся тоньше. Паттерны становятся неотличимыми от созданного человеком контента. Точность детекции, которая была 95% в прошлом году, может быть 70% в этом году, 50% в следующем.

Хуже, сама детекция предоставляет training signal. Исследователи публикуют методы детекции. Разработчики генераторов используют эти методы, чтобы идентифицировать и устранять детектируемые артефакты. Литература по детекции — по сути roadmap для лучших фейков.

На пределе нет статистической разницы между идеальным синтетическим контентом и реальным контентом. Детекция, основанная только на анализе контента, фундаментально обречена.

2049.news: Так какая альтернатива?

Jennifer Walsh: Провенанс вместо детекции. Вместо того чтобы спрашивать "этот контент реальный?" мы спрашиваем "откуда этот контент пришёл?"

Ядро идеи: верифицируй происхождение и цепочку custody, не сам контент. Фото, снятое верифицированной камерой, загруженное верифицированным пользователем, хранимое с верифицированной целостностью — это заслуживает доверия независимо от того, "выглядит" ли оно реальным или фейковым.

Так работают физические доказательства. Мы не химически анализируем, подлинный ли документ — мы верифицируем цепочку custody, подписи, официальные печати. Цифровому контенту нужен тот же фреймворк.

Блокчейн предоставляет инфраструктуру. Неизменяемые записи о создании, timestamping и передаче. Никакого центрального авторитета для коррупции. Криптографическая верификация, которую может выполнить любой.

2049.news: Как ваш протокол реально работает?

Jennifer Walsh: Множество слоёв, работающих вместе.

При захвате верифицированные устройства подписывают контент с помощью hardware-based ключей. Производители камер вроде Sony и Canon это имплементируют. Изображение включает криптографическое доказательство, что оно пришло от конкретного физического устройства в конкретное время и локацию.

При создании AI-генераторы могут опционально подписывать свой output. Это звучит контринтуитивно — зачем генераторам доказывать, что их контент синтетический? Но легитимные применения выигрывают от прозрачности. Платформы stock-изображений, креативные инструменты, исследовательские приложения — они хотят метаданные аутентичности.

При распространении контент регистрируется on-chain. Хэш контента, подпись источника, timestamp, опциональные метаданные о редактированиях или трансформациях. Любой может верифицировать эту запись против контента, который встречает.

При потреблении инструменты верификации проверяют провенанс. Браузерные расширения, интеграции в приложениях, функции платформ. "Это изображение имеет верифицированный провенанс от фотографа Reuters X, захвачено в локации Y на дату Z." Или "Это изображение не имеет записи провенанса — происхождение неизвестно."

2049.news: А как насчёт контента, который был отредактирован или трансформирован?

Jennifer Walsh: Вот тут становится софистицировано.

Не все редактирования инвалидируют аутентичность. Кадрирование, цветокоррекция, сжатие — это нормальные части распространения контента. Газета, кадрирующая фото, не делает его фейковым.

Наш протокол отслеживает трансформации. Каждое редактирование записывается со своей подписью. Ты можешь видеть полную историю: оригинальный захват, кадрировано редактором A, цветокорректировано системой B, опубликовано изданием C. Цепочка сохраняется.

Значительные модификации триггерят другие классификации. AI-enhancement, face swapping, добавление или удаление контента — они создают новые записи провенанса, которые ссылаются на, но отличны от оригинала. Контент маркируется как "derived from", а не "identical to" источника.

Пользователи затем могут решить, какому уровню модификации они доверяют для своих целей. Журналистика может требовать минимального редактирования. Развлечения могут принимать тяжёлую модификацию. Провенанс предоставляет информацию; люди решают, что с ней делать.

2049.news: Для работы это требует массового принятия. Как вы туда доберётесь?

Jennifer Walsh: Множество путей принятия, одновременно.

Производители железа мотивированы. Canon, Sony, Nikon сталкиваются с миром, где output их камер неотличим от AI-генерации. Authenticated capture hardware становится конкурентным преимуществом. Они имплементируют стандарты C2PA — техническую основу, на которой мы строим.

Новостным организациям нужна credibility. Когда каждое фото может быть фейком, верифицированный провенанс становится эссенциальным для журналистики. Крупные издания включая BBC, New York Times и Reuters пилотируют системы провенанса. Они хотят доказательство, что их контент подлинный.

Платформы сталкиваются с регуляторным давлением. EU Digital Services Act, различные законы штатов США — они требуют от платформ адресовать синтетический контент. Проверка провенанса предлагает масштабируемый механизм compliance.

У enterprise немедленные потребности. Контракты, юридические доказательства, финансовые документы — они требуют гарантий аутентичности. Бизнесы будут платить за верифицированный провенанс на high-stakes контенте.

Потребительское принятие следует за инфраструктурой. Когда камеры подписывают, платформы проверяют, и новостные организации верифицируют — потребители получают индикаторы провенанса, не делая ничего. Система работает в фоне.

2049.news: А как насчёт concerns приватности? Разве отслеживание всего контента не создаёт инфраструктуру слежки?

Jennifer Walsh: Легитимный concern, и мы спроектировали вокруг него.

Провенанс opt-in, не обязательный. Ты можешь снимать фото без подписания. Ты можешь делиться контентом без регистрации. Система предоставляет аутентичность тем, кто хочет её, не слежку для всех.

Верификация криптографическая, не database-lookup. Ты не запрашиваешь центральный сервер, который логирует твою активность. Ты верифицируешь локально, используя публичные данные блокчейна. Никто не знает, что ты верифицируешь.

Анонимность и провенанс могут сосуществовать. Whistleblower может доказать, что его фото было снято в конкретной локации и время без раскрытия своей личности. Криптографическая attestation доказывает факты без expose'а человека.

Мы не строим identity tracking. Мы строим content authenticity. Это разные вещи, и держать их отдельно — core design principle.

2049.news: Какой реалистичный таймлайн для того, чтобы это начало иметь значение?

Jennifer Walsh: Уже начинается, годы до мейнстрима.

2025: Первые крупные линейки камер отгружаются со встроенной аутентификацией контента. Early adopter новостные организации деплоят верификационные workflow. Блокчейн реестры провенанса достигают production scale.

2026-2027: Крупные социальные платформы интегрируют проверку провенанса. Регуляторные требования вступают в силу. Потребительское awareness аутентичности контента растёт. "Verified" badges становятся значимыми.

2028+: Провенанс становится ожидаемым для серьёзного контента. Неверифицированный контент несёт presumption неопределённости. Дефолт переворачивается с "assume real" на "verify before trusting."

Это не устранит фейковый контент. Это создаст градиент credibility. Верифицированный контент становится более доверенным. Неверифицированный контент становится более подозрительным. Люди могут делать информированные суждения.

Это реалистичная цель — не устранение фейков, а восстановление способности идентифицировать аутентичность. Перестройка фундамента для доверия в пост-AI мире.

Jennifer Walsh исследует цифровую аутентичность и со-основала Verity Protocol, blockchain-based систему провенанса контента. Ранее она возглавляла trust and safety в Twitter и имеет PhD по Information Science от Berkeley.