Демис Хассабис, генеральный директор Google DeepMind и в оригинальном материале описываемый как лауреат Нобелевской премии, на этой неделе опубликовал эссе, в котором утверждает, что ОИИ может появиться в течение нескольких лет.

Что Хассабис называет ОИИ

Он отличает обычные системы ИИ от ОИИ, представляя её как систему, способную к человеческому уровню познания в науке, творчестве, стратегии и самостоятельном обучении.

Хассабис сравнивает значимость ОИИ не с постепенными технологическими улучшениями, а с трансформирующими открытиями, такими как огонь или электричество, с точки зрения исторических последствий.

Риски и предложение по регулированию

В эссе предупреждается, что современные модели уже создают нагрузку на кибербезопасность и могут способствовать появлению биологических или ядерных угроз, выходящих за рамки типичных уязвимостей программного обеспечения.

Чтобы справиться с этими рисками, Хассабис предлагает создать регулирующий орган в США по образцу FINRA, которому поручено тестирование передовых моделей до их публичного выпуска.

Реакция отрасли и отмечаемая ирония

Предложение получило поддержку через репосты от Сэма Олтмана, Джека Кларка, Мустафы Сулеймана, Сатьи Наделлы и Сундара Пичаи, среди прочих.

В материале отмечается ирония: многие из этих фигур, включая Сэма Олтмана, Илона Маска, Илью Сутскевера и Дарио Амодеа, были основателями OpenAI в 2015 году и изначально выступали против доминирующего проекта ОИИ под руководством Google.

Десять лет спустя Хассабис призывает к единообразному надзору, в то время как бывшие критики публично признают необходимость регулирования.

Концентрация, ставки и социальный контраст

Комментаторы подчёркивают географическую сосредоточенность гонки за ИИ в районах Сан‑Франциско и долгосрочные инвестиции Google в исследования с начала 2000-х годов.

В тексте подчёркивается, что задержки даже на одну неделю могут превратиться в миллиарды долларов и, возможно, в реальные человеческие потери в условиях нынешней конкуренции.

Оно также противопоставляет масштаб технологических достижений повседневным приоритетам большинства людей и ставит под вопрос, насколько далеко могут продвинуться возможности моделей при продолжаемом доминировании ведущих компаний в области ИИ.