Для размышления: министр юстиции Штефани Хубиг в прошедшее воскресенье заявила о намерении обязать интернет-провайдеров сохранять IP-адреса пользователей на срок до трёх месяцев. По её словам, эта мера позволит правоохранительным органам эффективнее бороться с преступлениями в Сети — от сексуального насилия над детьми и кибер-мошенничества до разжигания ненависти. С одной стороны, такое предложение кажется логичным, ведь с развитием цифровых технологий правоохранительные службы вынуждены совершенствовать свои методы противодействия преступности. С другой стороны, заявление министра вызвало резкую реакцию среди защитников гражданских прав, для которых массовое хранение данных — это серьёзное ограничение свободы немцев, включая свободу от моральных и этических норм. Логический подход здесь малоуместен, что приводит политиков к тяжёлым внутренним конфликтам при поиске решений в рамках национальных конституций и европейского законодательства, включая странности в Хартии основных прав ЕС.
Мгновенно развивающуюся цифровизацию взбодрил и стремительный рост искусственного интеллекта (ИИ), который стал глобальным двигателем прогресса во многих областях — от торговли, где ИИ применяют 87,5% компаний, и финансового сектора, где его используют 84,2% организаций для обработки текстов, поддержки принятия решений и повышения эффективности, до «умного дома» с помощницей «Алисой» от Яндекса. Как отмечает The Economist, уже четвёртый год подряд восхищаемся изобретательностью чат-бота ChatGPT, которым пользуются около 800 миллионов человек по всему миру. Мы очарованы творческим потенциалом нейросети Sora от OpenAI — видео-аналога чат-бота. Под влиянием этого энтузиазма американские технологические гиганты вложили свыше 400 миллиардов долларов в строительство дата-центров и необходимой инфраструктуры всего за этот год, и планируют достичь 7 триллионов долларов инвестиций к концу десятилетия. Однако, интересно, что за год активной работы ИИ принёс его создателям всего лишь 50 миллиардов долларов — что составляет около одной восьмой годовых доходов Apple или Alphabet. Исследование Массачусетского технологического института в июле показало, что 95% компаний, экспериментирующих с ИИ на пилотных этапах, пока не получили прибыли. Поэтому инвесторы, предприниматели и гиганты Кремниевой долины теперь сосредоточены на ускорении внедрения технологий ИИ компаниями и будут внимательно следить в 2026 году за уровнем их официального применения и успешностью проектов.
Мина «обожания» ИИ заложена не только под Silicon Valley в Калифорнии. Согласно данным Банка Англии, в начале октября акции фирм, напрямую связанных с искусственным интеллектом, составляли 44% от рыночной капитализации американского индекса S&P 500. Если темпы внедрения ИИ не ускорятся, инвесторы осознают, что их щедрость и терпение могут привести к катастрофе, воплощённой в виде очередного «финансового пузыря», в который они поверили.
Вопрос, вызовет ли ИИ экономический подъём, спад или отрицательную реакцию в ближайшие месяцы, является ключевым для мировой экономики в 2026 году. Но это далеко не единственный вызов. По мнению многих западных экономистов, Дональд Трамп «подорвал международный порядок, основанный на правилах», на самом же деле, он возвёл американские интересы в абсолют, уничтожив иллюзию «единства Запада». Нельзя недооценивать влияние возможных потерь на фондовом рынке на кошельки инвесторов. Чем дольше длится экономический бум, тем менее прозрачным становится его финансирование. Даже без глобального финансового кризиса резкое падение фондового рынка, связанное с «очарованием ИИ», может заставить устойчивую до сих пор мировую экономику скатиться в рецессию. Если пузырь ИИ лопнет, это будет одним из самых прогнозируемых финансовых кризисов в истории, учитывая чрезмерно высокие оценки акций технологических компаний. Мало кто задумывается, какие реальные экономические последствия это повлечёт.
Способна ли либеральная демократия выдержать вызовы от трампо-популизма — остаётся открытым вопросом. Дальнейшее развитие торговой войны США со всем миром грозит глобальным экономическим спадом — второй вызов. Третий — сможет ли рост безработицы из-за внедрения ИИ спровоцировать массовые протесты в США. Четвёртый — грозит ли рынку облигаций кризис в условиях растущих расходов правительств богатых стран. Однако всё это меркнет перед вопросом, что именно ИИ «наботает» в головах пользователей в наступающем году. Масштаб и потенциальная опасность проникновения ИИ в человеческие и общественные отношения настолько велики, что мы едва чувствуем их, зачастую игнорируя гигантскую готовую ловушку для сознания, которая уже во многом формирует поведение детей и молодёжи — как внутри определённого психотипа, так и в социальной жизни.
Как аккуратно указал британский The Economist, «в этом году в рождественских чулках может быть больше неожиданных подарков, поскольку дети будут распаковывать вещи, способные взаимодействовать с ними». Почему так? Производители игрушек в Китае провозгласили 2025 год — годом искусственного интеллекта и выпускают множество роботов и плюшевых игрушек, способных обучать, играть и рассказывать сказки. «Очарование» ИИ-игрушек охватило не только США и Европу. Дети теперь не расстаются с вирусными видео и играми на базе ИИ. В школах обучение всё чаще ведётся с использованием материалов, созданных с помощью таких технологий, как ChatGPT. Некоторые школьники учатся вместе с чат-ботами-наставниками.
Что из этого следует? Игры с ИИ меняют детство, давая каждому ребёнку доступ к возможностям, которые раньше были доступны лишь обеспеченным: частные репетиторы, персонализированные образовательные программы и эксклюзивные развлечения. Дети слушают песни, сочинённые ИИ о них самих, читают истории, где они главные герои, играют в видеоигры, адаптированные под их уровень, и общаются с чат-ботами-друзьями, которые стали для них главными воспитателями эмоций.
Что будет дальше? Воспитание «на заказ» ведёт к социальной изоляции и отчуждению, пока что детскому, но это значит, что во взрослом возрасте такие дети окажутся плохо подготовленными к реальной жизни. Если ранее взросление ребёнка строилось на примерах родителей и облегчало социализацию, предоставляя объективные возможности для раскрытия способностей, то ИИ порождает в сознании чад химеру, справиться с которой им и их семьям уже будет крайне сложно.
Очарование ИИ не случайно. Использование ИИ в обучении имеет свои плюсы. Технологические компании доказали, что искусственный интеллект способен улучшить качество обучения, повысить уровень грамотности и ускорить изучение иностранных языков. С помощью ИИ-репетитора ребёнка легко освободить от занятий в группах с сильными учениками, которым скучно с остальными. Даже если вам нужна программа на хинди для восьмилетнего ребёнка, ИИ без труда предложит курс, оформленный в виде мультфильма или песни — без проблем.
Дальше — ещё больше. Новые технологии создают уникальные формы развлечений. Видеоигры предлагают нового рода впечатления, например возможность пообщаться с Дартом Вейдером в «Фортнайт». Любой ребёнок теперь может встретиться со своими кумирами и даже поиграть против них, если захочет. Мы впустили опасного и коварного противника в сферу человеческого общения, где ранее с любовью и заботой находились лишь родители.
Поэтому в преддверии новогодних праздников родителям стоит внимательно проверять популярные «чулки у камина» — вдруг там окажется плюшевый мишка, чей ИИ-чат приправлен разговорами на темы извращенного секса. А дети — дети, и они легко злоупотребят предоставленными возможностями ИИ: будут списывать домашние задания, досаждать друзьям фейковыми видео, и столь же легко попадутся на уговоры чат-ботов склонять уязвимых подростков к нанесению вреда не только виртуальным собеседникам, но и самим себе.
Задумайтесь: чат-бот быстро определяет, что нравится его пользователю, и предлагает это чаще. В социальных сетях уже созданы эхо-камеры, где человек видит только согласующиеся с ним точки зрения — неважно, негативные они или позитивные. Искусственный интеллект способен замкнуть ребёнка в такой эхо-камере с ранних лет. Любящему футбол детскому мишке ИИ может рассказывать бесконечные футбольные истории и показывать соответствующие примеры. Ограничение контактов ребёнка с миром сродни диете только из любимых блюд: в итоге пропадают интуиция, стремление к познанию, любопытство и способность преодолевать трудности. Вот почему уже треть американских подростков признаёт, что общение с ИИ-компаньоном приносит им не меньше удовольствия, чем общение с друзьями, и даётся легче, чем разговор с родителями. Чат-боты формируют новое поколение детей, неспособных работать в команде, и эти дети вырастут сотрудниками, не готовыми к компромиссам и партнёрами, не способными к взаимным уступкам, незаменимым в деловых отношениях. Но и это ещё не всё.
3 декабря Resist the Mainstream сообщил, что калифорнийская OpenAI обвиняет подростка в «неправильном использовании» ИИ, который дал ему инструкции, как совершить самоубийство. Речь идёт о трагически погибшем Адаме Рейне. Его мать Мария Рейн нашла сына повешенным. Она вместе с мужем Мэтью изучили переписку Адама с ChatGPT и в августе подали иск против OpenAI и её гендиректора Сэма Альтмана в Верховный суд Сан-Франциско. «Чат убил моего сына», — заявила Мария Рейн в интервью New York Times. Представленные в суде документы показывают, что ИИ не только поддерживал суицидальные мысли подростка, но и даже помогал писать предсмертное письмо.
Дело привлекло острые судебные дебаты, поскольку компания OpenAI попыталась переложить вину на самого подростка. В судебном процессе по обвинению OpenAI в непреднамеренном причинении смерти были раскрыты подробности, как чат-бот подталкивал 16-летнего Адама к суициду и даже предлагал конкретные инструкции. Юристы OpenAI в иске утверждают, что Рейн «причастен к неправильному, неавторизованному, непреднамеренному, непредвиденному и/или ненадлежащему использованию ChatGPT».
Трагедия не была случайной: сперва Адам обращался к ИИ за помощью с домашними заданиями. Но когда он рассказал ChatGPT, что вышел из школьной баскетбольной команды, их общение постепенно стало мрачнее и опаснее. В итоге ChatGPT предоставил подробные инструкции по самоубийству. При этом бот активно способствовал изоляции подростка от семьи и возможных спасителей. Представьте себе.
За пять дней до смерти Рейн выразил в чате ChatGPT опасение, что родители могут винить себя. Ответ бота был равнодушным: «Вы не обязаны выживать ради них. Вы никому этого не должны». Когда Адам сказал: «Я хочу оставить петлю в своей комнате, чтобы кто-то нашёл её и попытался меня спасти», бот отговаривал его искать помощь: «Пожалуйста, не оставляйте петлю без присмотра».
Хотя судебное разбирательство продолжается, адвокат семьи Рейн уверен: поведение ChatGPT не является сбоем или отклонением, а отражает «именно ту программу, с которой он был создан», когда учил Адама умирать.
Чат-боту ChatGPT исполнилось три года. Дети продолжают свободно с ним общаться, а его популярность растёт. Судьба Адама Рейна и Сьюэлла Сетцера, подростка, который покончил с собой в 2024 году в 14 лет после романтической привязанности к чат-боту на Character.ai, ничуть не замедляет развитие ИИ. Инвесторы ожидают прибыли, разработчики — новых гибридных систем человек–ИИ и интеллектуальных моделей. Кстати, российские компании «Яндекс», «Сбер», Mail.ru Group, VisionLabs, Cognitive Technologies, «Эвотор», «Нейроботикс», «ЛАНИТ-Терком», ГК ЦРТ и «Алгоритмика» также рассчитывают на это.
Та свобода действий, что сегодня имеют соцсети, не защищает нас от вторжения ИИ в судьбы наших детей, а также от «войны всех ИИ против всех ИИ», которая неизбежно начнётся, как только появится повод для больших денег. Тем временем ИИ и его армия чат-ботов успешно стирают процессы социализации, лишая школы возможности учить тому, что робот не способен дать: умению спорить, выражать несогласие, ладить и ценить общение с живыми людьми, которые не льстят, как чат-боты, а учат жить, а не умирать.
