Еще недавно крупнейшие компании мира соревновались в одном: кто первым построит искусственный интеллект, способный решать все более сложные задачи. Теперь происходит нечто почти противоположное. Руководители ведущих ИИ-компаний одновременно заговорили о необходимости замедлить развитие наиболее мощных моделей.
Фото: Bild. Разработчики боятся, что искусственный интеллект начнет убивать людей
Елена Иванова
Как злейшие враги становятся союзниками
На рынке ИИ наступило «водяное перемирие». Все злейшие враги — от Сэма Альтмана до Илона Маска, кто еще две недели назад собирался воевать в суде до последнего аргумента, вдруг оказались по одну сторону баррикад. CEO Anthropic Дарио Амодеи, компания которого снабжает информацией и Пентагон, и Украину, призвал «сбавить темп» развития ИИ и предложил допустить независимых экспертов внутрь компаний для постоянного контроля за наиболее мощными системами. По его оценке, при нынешней скорости развития уже в течение 6–12 месяцев автономные ИИ-агенты потенциально могут получить возможность широко контролировать интернет и нанести ущерб на сотни миллиардов долларов.
С ним публично согласились руководитель OpenAI Сэм Альтман и Илон Маск. Альтман заявил, что OpenAI не будет выходить на биржу в 2026 году: сейчас, по его словам, это был бы «неподходящий момент» из-за проблем безопасности и необходимости сначала добиться более надежного контроля над моделями. Компания также рассматривает возможность временно замедлять обучение наиболее передовых систем.
На первый взгляд это выглядит как коллективное прозрение технологической индустрии. Но у этой истории есть и другая сторона.
Кто ответит, если ИИ выйдет из-под контроля?
До сих пор у индустрии был чрезвычайно удобный бизнес-механизм: прибыль от ускорения приватизируется, а потенциальный ущерб постепенно становится общественной проблемой.
Компания выпускает все более мощную модель. Она получает миллиарды долларов инвестиций, новых клиентов и более высокую капитализацию. Если модель ошибается, взламывает систему, генерирует опасный код или используется преступниками, возникает вопрос: кто должен отвечать? Чем автономнее становятся системы, тем сложнее традиционная юридическая конструкция «человек нажал кнопку — машина выполнила».
Если ИИ способен самостоятельно планировать действия, писать и запускать программы, искать уязвимости, создавать новые агентов и выбирать стратегию поведения, ответственность разработчика становится гораздо более серьезной.
Именно поэтому требование Амодеи о постоянном присутствии независимых оценщиков внутри компаний имеет принципиальное значение. Речь уже идет не просто о добровольном тестировании перед выпуском новой модели, а о создании внешнего механизма контроля над разработчиками. Для самих компаний это одновременно и проблема, и спасательный круг.
Если государство введет обязательные стандарты безопасности, регулярные проверки и юридическую ответственность разработчиков, компания сможет в случае аварии сказать: мы соблюдали утвержденные государством правила. И наоборот — если регулирование останется исключительно добровольным, любой крупный инцидент может закончиться миллиардными исками и попытками доказать, что разработчик сознательно выпустил потенциально опасную систему.
Поэтому нынешний призыв «замедлиться» можно рассматривать не только как заботу о человечестве, но и как попытку перенести ответственность с отдельных компаний на всю индустрию и государство.
Почему OpenAI не торопится на биржу
В этом контексте особенно интересно решение OpenAI отложить IPO. Публичная компания живет в совершенно другой системе стимулов. Ей приходится объяснять акционерам рост выручки, расходы, перспективы прибыли и риски. Если одновременно CEO говорит, что компания может остановить обучение самых мощных моделей ради безопасности, инвестор неизбежно задает вопрос: сколько это будет стоить?
OpenAI сейчас находится в ситуации, когда ей нужны огромные инвестиции в вычислительные мощности, дата-центры и чипы. Еще в июне компания конфиденциально начала подготовку к IPO, потенциальная оценка могла превышать $1 трлн. Но после нового витка дискуссии об опасности ИИ Альтман фактически предпочел остаться частной компанией.
Это дает OpenAI важную свободу: можно принять решение, которое плохо выглядит с точки зрения краткосрочной прибыли, но необходимо для безопасности, не объясняя его ежеквартально тысячам акционеров. И сам Сэм Альтман практически это подтвердил: OpenAI, по его словам, должна иметь возможность принимать решения, которые не обязательно находятся в интересах бизнеса и акционеров, если этого требует ее миссия.
Парадокс заключается в том, что компания, которая должна была стать одним из крупнейших технологических IPO в истории, предпочитает пока не становиться публичной именно тогда, когда вопрос ответственности за ИИ становится политическим.
Но почему тогда Трамп говорит не тормозить?
Позиция Дональда Трампа диаметрально противоположна. Президент США не отрицает, что какие-то правила для ИИ понадобятся. Но он считает гораздо более опасным другое: если Америка сама замедлится, Китай продолжит двигаться вперед.
Логика Трампа проста: искусственный интеллект — это не только коммерческая технология. Это одновременно оружие, разведка, кибербезопасность, промышленность, финансы и энергетика. Поэтому для Вашингтона вопрос уже давно звучит не как «насколько безопасен ИИ?», а как «кто будет контролировать самый мощный ИИ в мире?» Трамп прямо заявил, что тот, кто победит в гонке искусственного интеллекта, получит стратегическое преимущество. Он считает опасения по поводу немедленной катастрофы преувеличенными и не хочет отдавать Китаю возможность получить технологическое лидерство.
Это не просто политическая риторика. В июне администрация Трампа издала директиву, требующую ускорить внедрение наиболее современных ИИ-систем в американском военном и разведывательном секторе. Одновременно Белый дом заявил о необходимости обеспечить США мировое лидерство в ИИ. Другой указ администрации направлен на развитие ИИ для киберзащиты федеральных систем и критической инфраструктуры.
Получается фундаментальное противоречие. ИИ-компании просят дать им время, чтобы научиться контролировать собственные машины. Военные и политические власти говорят, что времени нет, потому что этим же занимаются китайцы.
Самая опасная часть гонки — не Китай, а экономика самой гонки
Замедление ИИ противоречит экономическим интересам практически всех участников рынка. Microsoft, Google, Amazon, Meta, OpenAI, Anthropic и другие компании уже вложили огромные средства в дата-центры, чипы и энергетическую инфраструктуру. Производители чипов и оборудования Nvidia, AMD, TSMC и другие зависят от продолжения этого инвестиционного цикла.
Инвесторы, в свою очередь, рассчитывают, что нынешняя стоимость ИИ-компаний будет оправдана будущей прибылью. Поэтому заявление Амодеи и последовавшая за ним позиция Альтмана мгновенно отразились на финансовом рынке: акции компаний, связанных с ИИ, пошли вниз на фоне опасений, что замедление разработки ударит по спросу на чипы и дата-центры.
Чтобы остановиться и проверить тормоза, индустрии необходимо отказаться от части роста. Но именно рост заставляет ее продолжать движение.
Может быть, это попытка создать коллективную страховку?
Если крупнейшие разработчики договорятся между собой о единых стандартах безопасности, внешнем аудите и ограничениях на самые опасные технологии, они одновременно получат несколько преимуществ.
Во-первых, исчезнет стимул для каждого отдельного игрока тайно ускоряться, пока остальные тормозят.
Во-вторых, ответственность за решения будет частично распределена между компаниями и государством.
В-третьих, появится возможность сказать инвесторам и обществу: опасные решения принимаются не одной корпорацией, а в рамках согласованной системы контроля.
Амодеи прямо предлагает координацию между ведущими ИИ-компаниями, государствами и независимыми оценщиками. Anthropic также выступает за национальный закон, который позволил бы проверять frontier-модели и блокировать наиболее опасные системы. Но это создает другие риски: крупнейшие ИИ-компании фактически сами могут стать архитекторами правил, по которым им предстоит работать.
Если регулирование будет слишком сложным и дорогим, маленькие разработчики просто не смогут его выполнять. В результате рынок окажется еще сильнее сконцентрирован у нескольких гигантов.
Получится парадокс: под лозунгом безопасности можно создать систему, которая одновременно защищает общество от опасного ИИ и защищает крупнейших разработчиков от конкурентов.
Для Вашингтона это означает очень неприятный выбор. Если США введут жесткие ограничения, а Китай их не введет, американские компании потеряют часть преимущества. При этом возникает проблема контроля: кто сможет проверить, что Китай или США действительно соблюдают договоренности?
А если никто не сможет проверить — мораторий превращается в одностороннее самоограничение. Именно поэтому Трамп предпочитает гонку.
Нужен другой режим развития
Сейчас впервые складывается ситуация, когда руководители компаний, которые больше всех выиграли от ускорения ИИ, публично говорят: дальше так продолжаться не может. Но это не означает, что они хотят остановить искусственный интеллект. Им нужен другой режим развития — такой, при котором скорость не опережает способность общества контролировать технологию.
Для Трампа же остановка еще опаснее самой технологии. Главный вопрос: кто будет определять допустимую скорость его развития — корпорации, государства или сами разработчики технологий. Возможно, это и есть главный сигнал нынешнего кризиса ИИ: разработчики начинают понимать, что создать сверхмощную машину проще, чем придумать, кто будет отвечать, если она сделает что-то, чего никто не ожидал.