22 октября 2025 года было опубликовано открытое письмо с требованием запретить разработку сверхразумного искусственного интеллекта, под которым подписались свыше 700 экспертов в области ИИ, религиозных деятелей и политиков.
В числе подписантов оказались пять лауреатов Нобелевской премии; два «отца ИИ» — Джеффри Хинтон и Йошуа Бенжио; соучредитель Apple Стив Возняк; бывший советник Дональда Трампа Стив Бэннон; советник папы римского Паоло Бенанти, а также Гарри и Меган, герцог и герцогиня Сассекские.
В письме говорится: «Мы обращаемся с призывом запретить создание сверхразумного ИИ до тех пор, пока не будет достигнут широкий научный консенсус о его безопасной и контролируемой разработке, а также не появится широкая общественная поддержка».
Этот документ был подготовлен и опубликован американской организацией Future Life Institute, которая в 2023 году выпустила другое открытое письмо с просьбой приостановить разработку мощных систем ИИ на шесть месяцев. Несмотря на широкий резонанс, оно не принесло желаемого результата.
Новая инициатива по контролю за гонкой ИИ появилась незадолго до публичных дебатов в Совете Безопасности ООН на тему «Искусственный интеллект, международный мир и безопасность».
«В течение трёх часов каждое государство по очереди повторяло примерно одно и то же: ИИ может быть как полезен, так и опасен. Многократно подчеркивалось, что ИИ – это не фантастика, а реальность сегодняшнего дня, и что срочно нужны международные правила, особенно касающиеся автономного и ядерного оружия.»
«Один из самых ярких выступлений прозвучал от представителя Белоруссии, который отметил растущее глобальное неравенство в области ИИ. “Формируется новый занавес — уже не идеологический, а технологический, который разделяет Запад и остальной мир, превращая большинство стран в современный неоколониализм”, – заявил он. – “Это ведёт к тупику и пропасти. ИИ должен быть доступен всем странам без исключения.”», – сообщает журнал Time.
«Развитие ИИ невозможно остановить, но его можно контролировать», — с оптимизмом заявил премьер-министр Испании Педро Санчес.
«Впервые каждая страна получит место за столом переговоров по вопросам ИИ», – отметил Генеральный секретарь ООН Антониу Гутерриш. Он также объявил о начале приёма заявок в новую Международную независимую научную группу по ИИ, которая будет предоставлять непредвзятую научную информацию о влиянии технологии. «Вскоре я начну консультации с государствами, потенциальными спонсорами и партнёрами для создания Глобального фонда развития потенциала в сфере ИИ», – добавил Гутерриш.
Отметим, что 26 августа 2025 года Генеральная Ассамблея ООН единогласно приняла Резолюцию A/RES/79/325, известную как «Резолюция о модальностях ИИ». Этот документ создал два новых инструмента глобального управления искусственным интеллектом: Независимую международную научную панель по ИИ и Глобальный диалог по управлению ИИ.
Независимая международная научная панель, состоящая из 40 экспертов, будет ежегодно представлять научные обзоры и оценки, касающиеся развития ИИ по всему миру.
Глобальный диалог по управлению ИИ станет открытой дискуссионной площадкой, где будут обсуждаться вопросы безопасности, прозрачности, сокращения цифрового разрыва и открытого исходного кода с участием государств, технологических компаний, гражданского общества и других заинтересованных сторон.
Если усилия ООН окажутся успешными, компании, занимающиеся ИИ, будут обязаны доказывать безопасность своих технологий, как в медицине или ядерной энергетике, прежде чем выводить их на рынок.
В США уже предпринимаются шаги по регулированию исследований в области ИИ.
1 июля 2025 года Сенат США проголосовал за исключение из законопроекта президента Трампа «Один большой красивый законопроект» моратория на регулирование ИИ на уровне штатов, что стало серьезным ударом для технологической индустрии, которая активно лоббировала сохранение этого положения, как сообщает журнал Time.
«Законодатели в ночном голосовании отменили мораторий, приняв поправку Марши Блэкберн, республиканки из Теннесси, которая ранее порвала с партией из-за этого вопроса, результатом голосования стало 99 голосов против 1», – пишет издание.
Ранее такие компании, как OpenAI и Google, выступали за запрет государственного регулирования ИИ, опасаясь излишних правил, которые могут сдерживать инновации.
За отмену моратория проголосовало большинство сенаторов от Демократической партии, а также несколько республиканцев, в том числе сенаторы Джош Хоули из Миссури, Пол Рэнд из Кентукки и инициатор отмены — Марша Блэкберн.
Учитывая риск потери части своих членов, руководство республиканцев решило поддержать отмену десятилетнего моратория.
Сопротивление лоббистов технологической отрасли было сломлено под давлением десятков правозащитных организаций, преимущественно левого толка.
Группа из 140 правозащитных организаций опубликовала обращение, в котором утверждала, что сохранение моратория защищает техногигантов от государственного надзора. «Нечёткие стандарты моратория дают компаниям лазейку для оспаривания практически любого закона штата в суде», – отмечается в письме.
Стивен Бэннон рассказал в своём подкасте WarRoom, что лично связался с Маршей Блэкберн по вопросу отмены моратория, считая его угрозой для полномочий штатов. Сенатор Анджела Пакстон из Техаса, влиятельный представитель движения MAGA, «решительно выступила против моратория, как и адвокат Майк Дэвис, основатель консервативной правозащитной организации Article III Project».
Однако отмена моратория на регулирование ИИ не означает, что исследования в США перейдут под контроль ООН.
Летом 2024 года команда Дональда Трампа подготовила «обширный указ по ИИ, запуск серии “Манхэттенских проектов” для разработки военных технологий и немедленное снятие ненужных и обременительных регуляций», что указывает на возможную политику будущей администрации Трампа в пользу инвесторов и кремниевых компаний, – писала The New York Times.
Разрешение на государственное регулирование ИИ подразумевает, что, согласно журналу Time, Конгресс сосредоточится на борьбе с «конкретными вредами», такими как «распространение неконсенсуальной глубокой фейковой порнографии», когда злоумышленники с помощью новых ИИ-инструментов «сексуализируют и унижают молодых женщин одним нажатием кнопки». Эти изображения быстро распространяются в интернете и иногда используются для вымогательства.
В то же время внедрение ИИ в военную сферу будет лишь ускоряться и совершенствоваться.
В августе 2023 года в Пентагоне создали оперативную группу «Лима» (Task Force Lima) для изучения применения генеративного ИИ в военной области. «Лима» вошла в состав Главного управления цифровых технологий и искусственного интеллекта (CDAO), во главе которой стоит капитан Ксавьер Луго, специалист по алгоритмической войне.
Как сообщили в Министерстве обороны США, группа будет «оценивать, координировать и использовать генеративные возможности ИИ, обеспечивая лидерство министерства в передовых технологиях и одновременно гарантируя национальную безопасность».
Запрос Пентагона на бюджет в $1,01 трлн на 2026 финансовый год включает рекордные $13,4 млрд на развитие ИИ и автономных вооружений – впервые в истории Министерство обороны выделило отдельную бюджетную статью на эти направления.
Военный бюджет предусматривает целевое финансирование беспилотных систем и их интеграцию с ИИ. Из $13,4 млрд: $9,4 млрд направлено на беспилотные летательные аппараты, $1,7 млрд — на морские автономные платформы, $734 млн — на подводные системы, $210 млн — на автономные наземные транспортные средства и $1,2 млрд — на программное обеспечение и междоменную интеграцию. Кроме того, $200 млн выделяют на технологии ИИ. В Пентагоне рассматривают ИИ как фундамент будущей военной готовности.
«Для стимулирования развития автономного оружия Палата представителей и Сенат приняли ряд законов, требующих от Пентагона удвоить усилия в развитии ИИ, интегрировать его в повседневные задачи и использовать для максимального улучшения “боевой эффективности солдат”. Законы также предписывают рассматривать малые беспилотники как одноразовые боеприпасы, а не как многоразовые аппараты, что может значительно увеличить расходы», – пишет французский журнал Jacobin.
Закон о национальной обороне на 2026 год, устанавливающий ежегодную политику Пентагона, недавно был одобрен палатой представителей. Согласно документу, не менее $4,7 млрд выделено на беспилотники, ИИ и квантовые вычисления. Версия, принятая сенатом, повышает эту сумму до $5,6 млрд.
Таким образом, несмотря на многочисленные призывы к государственному контролю над ИИ и благие намерения ООН, США инвестируют рекордные средства в военный ИИ. Все разработки боевых систем ИИ, естественно, будут засекречены, и эксперты ООН вряд ли узнают о них, кроме некоторых ожидаемых случаев, когда военные технологии ИИ выйдут в гражданскую сферу.
Китай не намерен отставать от США и также будет увеличивать финансирование боевых систем с искусственным интеллектом.
За этими двумя лидерами в гонке военного ИИ последуют и другие страны.
ООН продолжит работу по выработке рекомендаций для регулирования компьютерного сверхразума, однако триллионы долларов, уже вложенные в военные системы ИИ, скорее всего, приведут к тому, что эти рекомендации будут услышаны, но проигнорированы.
