Интервью с Aisha Patel | Data Scientist | Со-основательница SynthDAO

AI-модели хороши настолько, насколько хороши их обучающие данные. Но хорошие данные дороги, часто приватны и всё чаще оспариваются юридически. Aisha Patel верит, что синтетические данные — искусственно сгенерированные датасеты — в сочетании с блокчейн-верификацией могут решить кризис данных. Её проект SynthDAO строит инфраструктуру.

2049.news: Какая проблема с данными стоит перед AI?

Aisha Patel: Множество проблем сходятся одновременно.

Во-первых, реальные данные имеют юридические проблемы. На каждую крупную AI-компанию подают в суд за обучающие данные. Художники, издатели, индивиды — все заявляют, что их данные использовались без согласия. Юридический фундамент современного AI оспаривается.

Во-вторых, хорошие данные заканчиваются. Мы в основном скрейпнули весь публичный интернет. Модели обучаются на AI-сгенерированном контенте, что деградирует качество. "Data moat" становится реальным конкурентным барьером.

В-третьих, приватные данные остаются приватными. Здравоохранение, финансы, enterprise — самые ценные данные нельзя делить из-за регуляций и конкурентных соображений. Модели не могут учиться на них, хотя это сделало бы их драматически лучше.

Синтетические данные адресуют все три. Они юридически чистые — сгенерированные, не скрейпнутые. Они бесконечные — можешь создать столько, сколько нужно. И они могут захватывать паттерны из приватных данных без раскрытия самих данных.

2049.news: Как синтетические данные реально работают?

Aisha Patel: Ядро идеи простое: использовать AI для генерации обучающих данных для другого AI.

Ты начинаешь с каких-то реальных данных — или даже просто статистических свойств реальных данных. Обучаешь генеративную модель захватывать паттерны, распределения и отношения. Затем используешь эту модель для генерации новых сэмплов, которые имеют те же статистические свойства, но не являются копиями каких-либо реальных точек данных.

Для табличных данных это может означать генерацию синтетических записей клиентов с реалистичными распределениями возраста, корреляциями дохода, паттернами покупок — но ни одна запись не совпадает с реальным клиентом.

Для изображений ты генерируешь новые изображения, которые выглядят как целевой домен, но не копируют конкретное изображение. Медицинская визуализация огромна здесь — синтетические рентгены, МРТ, гистологические слайды, которые обучают диагностический AI без проблем приватности пациентов.

Для текста ты генерируешь разговоры, документы или код, которые соответствуют целевым распределениям без копирования защищённых копирайтом источников.

2049.news: Где вступает блокчейн?

Aisha Patel: Доверие и провенанс.

Если я продаю тебе синтетические данные, как ты знаешь, что получаешь? Как верифицируешь, что они сгенерированы корректно? Как доказать, что они не содержат утёкших реальных данных?

Блокчейн обеспечивает верифицируемый провенанс. Мы хэшируем параметры генерации, использованную модель, random seeds. Всё записывается. Ты можешь отследить любой синтетический сэмпл назад к процессу его создания.

Смарт-контракты обеспечивают маркетплейсы данных. Генераторы стейкают токены на заявления о качестве данных. Покупатели могут challenge'нуть, если данные не соответствуют спецификациям. Автоматизированная верификация где возможно, арбитраж где нет.

Data DAO управляют политиками генерации. Каким ограничениям должны следовать синтетические данные? Какие гарантии приватности требуются? Холдеры токенов голосуют за стандарты, которым следуют все участники маркетплейса.

2049.news: Как вы обеспечиваете, что синтетические данные реально полезны?

Aisha Patel: Это сложная часть, честно говоря.

Плохие синтетические данные хуже, чем никаких данных. Если генератор не захватывает важные паттерны, модели, обученные на них, провалятся на реальных входах. Если генератор запоминает и воспроизводит обучающие данные, ты упустил смысл.

Мы используем множество подходов к валидации. Статистические тесты верифицируют, что синтетические данные соответствуют целевым распределениям. Тесты ML-полезности обучают модели на синтетических данных и оценивают на held-out реальных данных. Аудиты приватности проверяют на запоминание и потенциальную ре-идентификацию.

Блокчейн-часть тоже помогает здесь. Результаты валидации записываются on-chain. Датасеты строят репутации со временем. Плохие генераторы идентифицируются и фильтруются. Рынок вознаграждает качество.

2049.news: А как насчёт проблемы "мусор на входе — мусор на выходе"? Если генерируешь синтетические данные из предвзятых источников, разве ты не perpetuate bias?

Aisha Patel: Ты можешь его perpetuate, или можешь исправить. Синтетические данные реально дают тебе больше контроля.

С реальными данными ты застрял с теми предвзятостями, которые существуют в мире. Исторические данные найма предвзятые? Жаль, это то, что у тебя есть.

С синтетическими данными ты можешь явно корректировать распределения. Хочешь гендерно-сбалансированные обучающие данные? Сгенерируй их. Хочешь oversample редкие edge cases? Сгенерируй их. Хочешь убрать корреляции, которые не должны влиять на решения? Убери их при генерации.

Это не магия — нужно знать, какие корректировки делать, что требует понимания твоего домена и целей fairness. Но синтетические данные делают возможными интервенции, которые невозможны с фиксированными реальными датасетами.

Мы строим инструменты для "fairness-aware" генерации синтетических данных. Укажи ограничения — demographic parity, equal opportunity, какие бы ни были твои требования — и генератор производит данные, которые им удовлетворяют.

2049.news: Какова модель SynthDAO конкретно?

Aisha Patel: Мы строим децентрализованный маркетплейс для синтетических данных.

Генераторы — это люди или организации с доменной экспертизой и доступом к реальным данным. Больница может генерировать синтетические медицинские записи без раскрытия данных пациентов. Банк может генерировать синтетические транзакции для обучения детекции мошенничества. Они зарабатывают токены за высококачественные контрибуции.

Валидаторы верифицируют качество данных. Они запускают статистические тесты, оценки полезности, аудиты приватности. Они стейкают токены на свои оценки. Плохие валидации слэшатся.

Потребители — AI-разработчики, которым нужны обучающие данные. Они платят токены за доступ к валидированным синтетическим датасетам. Рынок оценивает данные на основе качества, уникальности и спроса.

Холдеры governance-токена голосуют за правила маркетплейса, стандарты качества, структуры комиссий и распределение казны на развитие экосистемы.

Мы live на тестнете. Запуск мейннета планируется на Q2 2025.

2049.news: В каких доменах вы видите наибольший спрос?

Aisha Patel: Здравоохранение огромно. Каждая больница хочет AI-диагностику. Ни одна не может делиться данными пациентов. Синтетическая медицинская визуализация, электронные медицинские записи, геномные данные — массивный спрос, массивные требования приватности.

Финансовые услуги близко вторые. Детекция мошенничества, кредитный скоринг, моделирование рисков — всё требует данных, которыми банки не могут делиться. Синтетические транзакции, которые сохраняют паттерны мошенничества без раскрытия информации о клиентах.

Автономным автомобилям нужны бесконечные edge cases. Синтетические сенсорные данные для сценариев, которые редко происходят, но должны обрабатываться корректно. Ты не можешь ждать реальных аварий, чтобы тренировать избежание аварий.

И всё больше — языковые данные. Иски о копирайте толкают всех к синтетическому тексту. Если можешь генерировать обучающие данные, которые доказуемо не derived от защищённых копирайтом источников, это юридически ценно.

2049.news: Какие риски или ограничения люди должны понимать?

Aisha Patel: Несколько честных оговорок.

Синтетические данные не могут создавать информацию, которая не существует в какой-то форме. Если ни у кого нет данных о редкой болезни, мы не можем синтезировать их из ничего. Мы перераспределяем и рекомбинируем существующее знание, не создаём новое знание.

Distribution shift остаётся проблемой. Если паттерны реального мира меняются, синтетические данные, обученные на старых паттернах, становятся устаревшими. Нужна ongoing генерация, связанная с эволюционирующими источниками.

Валидация несовершенна. Мы можем тестировать на известные проблемы, но можем пропустить неизвестные. Синтетический датасет может иметь тонкие проблемы, которые проявляются только когда модели выходят в production.

Приватность не абсолютна. Софистицированные атаки могут извлекать информацию об обучающих данных из синтетических сэмплов. Мы улучшаем защиты, но гонка вооружений продолжается.

И рынок ранний. Токен-экономика экспериментальна. Стандарты качества всё ещё формируются. Ранние участники берут реальные риски.

2049.news: Куда это идёт в следующие пять лет?

Aisha Patel: Синтетические данные становятся дефолтом для обучения моделей. Не дополнительными — основными.

Юридическое давление делает реальные данные токсичными. Синтетические становятся safe harbor. Компании, которые не могут доказать, что их обучающие данные чистые, сталкиваются с ответственностью. Компании, использующие верифицированные синтетические данные, нет.

Маркетплейсы данных зреют. Стандарты появляются для разных доменов. Синтетические медицинские данные получают регуляторное благословение. Синтетические финансовые данные получают compliance-фреймворки. Период дикого запада заканчивается.

Качество генерации достигает паритета с реальными данными для большинства приложений. Не всех — некоторым доменам всегда будут нужны реальные данные — но большинство распространённых юзкейсов работают нормально с синтетическими.

И экономическая модель переворачивается. Вместо "у кого больше данных" это становится "кто может генерировать лучшие синтетические данные." Другие конкурентные динамики, другие победители.

Aisha Patel — data scientist и со-основательница SynthDAO, децентрализованного маркетплейса для синтетических обучающих данных. Ранее она возглавляла ML-инфраструктуру данных в Spotify и имеет PhD по статистике от Stanford.