40 ведущих учёных и экспертов в первом докладе независимой научной группы ООН по вопросам ИИ предупредили, что развитие технологии опережает научное понимание и способность государств вырабатывать механизмы регулирования. Доклад будет представлен на первом Глобальном диалоге ООН по управлению ИИ 6–7 июля в Женеве.
Виктор Левин
Ключевые угрозы, перечисленные в докладе ООН: психическое здоровье пользователей, разрушительное использование, влияние на социальные и экологические системы, дипфейки, подрыв доверия к информации. Около 75% вычислительных мощностей ИИ-суперкомпьютеров приходится на США, 15% — на Китай.
Новый тип цифровой зависимости
Первый доклад независимой группы ООН по вопросам искусственного интеллекта — это не просто очередной академический документ. Это попытка зафиксировать момент, когда технология перестала быть только инструментом и начала формировать новую реальность быстрее, чем мы успеваем её осмыслить. Учёные выделили несколько слоёв рисков, и, пожалуй, самый тревожный из них — разрыв между скоростью развёртывания систем и способностью общества адаптироваться.
Психическое здоровье пользователей страдает не только от дипфейков или алгоритмических манипуляций: сама архитектура взаимодействия с ИИ — бесконечные ленты, персонализированные под уязвимости, диалоговые модели, имитирующие эмпатию без реальной ответственности — создаёт новый тип цифровой зависимости. Мы уже видим рост тревожных расстройств среди подростков, проводящих часы в общении с ботами, и это только начало.
ИИ родом из двух стран — США и Китая. А как быть всем прочим?
Особую озабоченность вызывает концентрация вычислительных ресурсов. Факт, что три четверти всех мощностей ИИ-суперкомпьютеров контролируются США, а ещё 15% — Китаем, означает не просто технологическое лидерство, а фактическую монополию на определение того, какие модели станут безопасными по умолчанию. В таких условиях остальной мир оказывается в положении потребителя, а не соавтора правил игры.
Страны Глобального Юга, не имеющие собственных систем мониторинга и валидации алгоритмов, рискуют стать полигоном для непроверенных разработок — с последствиями для демократических институтов, здравоохранения и социальной стабильности. Регуляторные механизмы запаздывают именно потому, что требуют межгосударственного консенсуса, а компании-разработчики заинтересованы в максимальной гибкости.
Проблема дипфейков и подрыва доверия к информации выходит далеко за рамки политических манипуляций. Когда каждый видеокадр может быть сгенерирован, а каждый голос — синтезирован с точностью до интонации, рушится сама основа доказательной базы в судах, журналистике и исторических архивах. Уже сейчас адвокаты в нескольких странах подают ходатайства с требованием исключать видеозаписи из процесса, если не доказана их аутентичность.
Но человеческий мозг не способен постоянно проверять реальность — мы привыкли доверять глазам и ушам. Это доверие подрывается комплексно: от поддельных выступлений политиков до полностью созданных ИИ «свидетелей» в уголовных делах. Эксперты подчёркивают: если не создать универсальные стандарты верификации контента в ближайшие год-два, мы войдём в эпоху «информационного хаоса», где истину будет определять не факт, а первый громкий голос.
Не потому что умнее, а потому что быстрее
Отдельное место в докладе занимает влияние ИИ на социальные и экологические системы. Автоматизация среднего класса уже не гипотеза, а реальность: юридические консультации, бухгалтерия, переводы, частично диагностика в медицине — эти профессии меняются на глазах. Но регулирование рынка труда отстаёт: системы переподготовки есть только в нескольких развитых странах, а для миллиардов людей, занятых в сервисной экономике, смена работы будет стрессом без социальной подушки.
Экологический аспект ещё менее заметен: каждый запрос к большой языковой модели требует в десятки раз больше энергии, чем традиционный поиск. Рост количества дата-центров уже вступает в конфликт с климатическими обязательствами — парниковый след индустрии ИИ сопоставим с выбросами авиации. Доклад ясно указывает: без «зелёного» регулирования вычислений технологический прогресс станет прямым антагонистом экологической повестки.
Шестое и седьмое июля в Женеве — это, по сути, последний звонок. 40 ведущих экспертов, собранных под эгидой ООН, не ставят задачу запретить разработки. Они предлагают создать глобальную архитектуру сдержек: обязательную сертификацию моделей перед выходом на рынок, международный реестр дипфейков, квоты на энергопотребление для крупных кластеров, а главное — механизм экстренного замедления (kill switch) для систем, поведение которых выходит за границы предсказуемости. Без этих рамок мы рискуем получить мир, где технология доминирует над правом не потому, что умнее, а потому что быстрее. Учёные напоминают: ответственность за то, каким станет этот диалог, лежит не только на регуляторах, но и на пользователях — на каждом, кто сегодня принимает алгоритмический совет как истину в последней инстанции.