Чтобы технологии изменили глобальный баланс сил, им не обязательно быть новыми. Они должны быть просто известны.
С 2017 года Коммунистическая партия Китая (КПК) разработала тщательные планы для доминирования в создании, применении и распространении генеративного искусственного интеллекта – программ, которые используют массивные наборы данных для самостоятельного обучения и распознавания шаблонов настолько быстро, что кажется, будто они производят знания из ниоткуда. Согласно плану КПК, к 2020 году Китай должен был достигнуть знаковых успехов в моделях и методах ИИ, ключевых устройствах, высококачественном оборудовании и базовом программном обеспечении. Но выпуск ChatGPT от OpenAI осенью 2022 года застал Пекин врасплох. Вирусное распространение ChatGPT подтвердило, что американские компании, по крайней мере, на данный момент лидируют в гонке ИИ.
Нет гарантии, что лидерство Америки в ИИ продлится вечно. Национальные технологические компании Китая вступили в борьбу и сумели адаптировать технологию, питающуюся свободной информацией, к рамкам ограниченного информационного пузыря Китая. Требования цензуры могут замедлить развитие ИИ в Китае и ограничить коммерциализацию отечественных моделей, но они не остановят Пекин от использования ИИ там, где это целесообразно. Лидер Китая, Си Цзиньпин, считает, что технологии способны вывести страну из экономического застоя. И даже если Китай не обгонит США в гонке ИИ, второе место все равно даст ему большую силу и, вероятно, сделает его более опасным.
«С этой технологией можно так много сделать. Пекин просто не поощряет взаимодействие с потребителями. Процесс технологических инноваций в Китае развивается всё быстрее. Мы не видим огромного разрыва между моделями ИИ. Но и нельзя сказать, что все эти технологические новаторы куда-то исчезли. Они просто направляют свои усилия на прикладные науки», сказала Рева Гужон, директор по взаимодействию с клиентами в консультационной компании Rhodium Group.
Во внутренних документах КПК говорится, что она будет использовать ИИ для формирования реальности и укрепления своей власти внутри страны, а именно для политических репрессий, слежки и мониторинга за инакомыслящими. Мы знаем, что партия также будет использовать ИИ для прорывов в промышленном инжиниринге, биотехнологиях и других сферах, которые КПК считает продуктивными. В некоторых из этих применений она уже добилась успеха. Так что даже если она отстает от американских технологий на несколько лет, это все равно может иметь мощное геополитическое воздействие. Существует много единомышленников, которые также хотят использовать инструменты будущего для укрепления своей власти в настоящем и искажения прошлого. Пекин будет более чем счастлив помочь им в этом. Видение будущего ИИ в Китае – это закрытый код, жесткий контроль и готовность к экспорту по всему миру.
В мире современного ИИ технология хороша настолько, насколько хороша информация, которой она будет обучена. ChatGPT и другие крупные языковые модели поглощают огромное количество веб-страниц, новостных статей и книг. Иногда эта информация вызывает «пищевое отравление» любому, кто играл с чат-ботом, знает, что они иногда галлюцинируют или лгут. Учитывая размеры аппетита технологии, понять, что пошло не так, гораздо сложнее, чем выяснить, какой именно ингредиент в вашем ужине заставил вас обнимать унитаз в 2 часа ночи. Наборы данных ИИ настолько обширны, а вычисления так быстры, что компании, контролирующие модели, не знают, почему они выдают плохие результаты, и могут никогда не узнать. В обществе, как Китай где информация строго контролируется – эта неспособность понять суть моделей представляет экзистенциальную проблему для власти КПК: чат-бот может рассказать неудобную правду, и никто не узнает почему. Вероятность этого зависит от модели, на которой он обучен. Чтобы предотвратить это, Пекин кормит ИИ информацией, способствующей позитивной социальной конструкции.
Государственный совет Китая написал в своем плане развития искусственного интеллекта следующего поколения 2017 года, что ИИ будет способен своевременно улавливать групповое восприятие и психологические изменения, что, в свою очередь, означает, что технология сможет значительно повысить способность и уровень социального управления, играя незаменимую роль в эффективном поддержании социальной стабильности. Это означает, что, если ИИ построен в соответствии с правильными спецификациями, КПК считает его инструментом для укрепления своей власти. Именно поэтому в этом месяце Администрация киберпространства Китая, регулятор ИИ страны, запустила чат-бота, обученного исключительно на политической и экономической философии Си Цзиньпина, Мыслях Си Цзиньпина о социализме с китайскими характеристиками для новой эры.
Для КПК найти новые средства массового наблюдения и информационного доминирования не могло прийти в более подходящее время. Взгляните на китайскую экономику. Уолл-стрит, Вашингтон, Брюссель и Берлин признали, что модель, которая помогла Китаю вырасти до второй по величине экономики мира, изжила себя и что Пекин пока не нашел ничего, чтобы ее заменить. Создание инфраструктуры и промышленного потенциала больше не приносит КПК прежнюю выгоду. Мир оказывает сопротивление экспорту из Китая, а попытки КПК стимулировать рост за счет внутреннего потребления почти ни к чему не привели. Рынок недвижимости искажен до неузнаваемости, рост остановился, и дефляция висит, как тревожный призрак. По данным Freedom House, правозащитной организации, китайцы протестовали против правительственных политик рекордное количество раз в четвертом квартале 2023 года. Организация зафиксировала 952 акции протеста, что на 50% больше, чем в предыдущем квартале. Семьдесят восемь процентов демонстраций касались экономических проблем, таких как жилье или работа. Если есть лучший способ контролировать людей, Си нужен ИИ сейчас.
Спросите чат-бота Администрации киберпространства Китая о этих экономических затруднениях, и вы получите лишь лекцию о различии между «традиционными производительными силами» и «новыми производительными силами» – это просто модные слова, которые КПК использует для смягчения травмы от ухудшения экономических перспектив Китая. На самом деле, если вы спросите любой чат-бот, функционирующий в стране, он скажет вам, что Тайвань является частью Китая. Все чат-боты собирают информацию о людях, которые их используют, и о задаваемых ими вопросах. Элиты КПК смогут использовать эту информацию в своих политических и экономических интересах. Более того, правительство не планирует делиться этой властью с обычными китайскими гражданами. То, что видит партия, никогда не будет тем, что видят люди.
