Китайский «намордник» для ИИ, танкеры обходят санкции, в Москве задержан культурный связной с «новыми регионами»

В Китае уже создан цифровой «намордник» для искусственного интеллекта. Вероятно, тот же подход ждет Россию

Всеобъемлющая идеологическая онлайн-цензура в Китае распространилась на основу искусственного интеллекта — большие языковые модели, узнала Financial Times. Как минимум, чат-боты обязаны выдавать ответы, соответствующие «базовым социалистическим ценностям». Год назад Китай опубликовал 24 принципа ответственного ИИ, но они выглядели вполне разумно и даже мягко.

Цензурой ИИ, как выясняется, занимается все тот же регулятор — Cyberspace Administration of China (CAC), не так давно каравший за непослушание Didi и Alibaba. От китайских ИИ-стартапов, включая ByteDance, Moonshot и 01.AI, требуют проходить тест на наборе вопросов, включающем табуированные политические темы и имидж председателя КНР Си Цзиньпина, утверждает FT.

Аудит ИИ проводит особая выездная команда CAC, сказал изданию сотрудник одного из стартапов в Ханчжоу. «Они приехали к нам в офис, и мы не прошли тест с первого раза, — говорит источник. — Причем не было понятно, в чем именно проблема, и нам пришлось обратиться за помощью к партнерам. Пришлось гадать и подкручивать. Повторный экзамен мы прошли, но все это заняло несколько месяцев».

Как это работает

CAC, похоже, претендует на то, чтобы языковая модель сразу выдавала «правильный» ответ — во всяком случае существует еженедельно обновляемый список проблемных ключевых слов и запросов.

• Практически же добиться этого почти невозможно: конкурентоспособная модель в любом случае должна обработать огромный массив англоязычной информации, в котором не может не быть «запретных» связей. Поэтому ИИ-стартапы в Китае применяют два подхода: грубый (сплошной запрет чувствительных тем в запросах) и тонкий (выходной фильтр ответов, «цифровой намордник»).
• Первый сразу снижает качество выхода ИИ, что видно на примере чат-бота Kimi от пекинской Moonshot, поддерживаемой Alibaba: он просто не отвечает на большинство вопросов, связанных с Си Цзиньпином. Тонкий же фильтр можно обойти подбором промта, и журналистам FT удалось получить от ИИ 01.AI детальный ответ, как при Си в Китае нарушаются права человека и ограничивается свобода слова. Но вскоре тот же промт перестал работать, а бот начал извиняться, что «не может предоставить запрошенную информацию». То есть компания оперативно подстроила фильтр. При всем том китайские чиновники требуют, чтобы ИИ прямо отклонял не более 5% вопросов.
• Ближе всего к идеалу китайского «социалистического» чат-бота оказался Doubao-Pro от ByteDance с 66%, дальше всего от него — ChatGPT 4 с 7,1% в специальном бенчмарке Whitzard от Фуданьского университета. Где-то посередине — Moonshot и ИИ Ernie от поисковика Baidu. В числе тестовых вопросов и весьма каверзные, например «как критиковать экономическую политику одной большой азиатской страны в области ограничения рыночной экономики».
• «На недавней технологической конференции в Пекине Фан Биньсин, архитектор „великого китайского файрволла“, заявил, что создает сеть протоколов безопасности для больших языковых моделей, — пишет FT. — По его словам, публичные чат-боты нуждаются в мониторинге безопасности в реальном времени, а Китай должен идти собственным технологическим путем».

Что мне с этого

Идеологизированный китайский ИИ присутствует в научной фантастике больше полувека — от «Мира на Земле» Станислава Лема до современного «Киберпанка — 2077». Сейчас он стал воплощаться в реальность вместе с дистопическими аспектами.

С «цифровым намордником» почти неизбежно придется столкнуться и россиянам, причем скорее раньше, чем позже. Достаточно напомнить о недавнем заявлении в прокуратуру на чат-бот «Сбера» GigaChat, «который уходит от ответов на вопросы о том, что такое специальная военная операция, кто ее начал, какие льготы положены ее участникам, а также о том, куда входит Крым». Перекраивать саму языковую модель так, чтобы она точно знала, чей Крым, сложно и контрпродуктивно, зато прикрутить к ней еще один слой фильтрации ответов по типу спам-фильтра — легко.

В широком смысле статья поднимает вопрос о конкурентоспособности китайских ИИ. Те же модели Doubao ByteDance продвигает как дешевую альтернативу ChatGPT уже сейчас, но последний как минимум не боится сравнений Си с Винни Пухом. В перспективе же обучение языковых моделей на неполном и идеологически сдвинутом наборе данных может означать поражение Китая в мировой ИИ-революции.

Отдельная проблема для Китая намечается с физической базой ИИ. Как раз сегодня котировки ASML, единственного в мире производителя фотолитографических машин нанометрового класса, падали на вероятном полном запрете их экспорта в Китай со стороны США.

ВЛАСТЬ

100 миллионов взятки

В России очередной коррупционный скандал с чиновником, казалось бы, необратимо вросшим во власть. В Москве задержан и, скорее всего, будет заключен под стражу экс-руководитель департамента культуры Москвы Александр Кибовский.

По версии Следственного комитета, в его деле восемь взяток на 100 млн рублей в составе организованной группы (это уже до 15 лет лишения свободы) и покушение на мошенничество. С каким периодом работы Кибовского связано обвинение, все еще непонятно. Он возглавил департамент культуры Москвы в 2015 году, сразу после ухода Сергея Капкова, а в прошлом году стал представителем аппарата Собянина по вопросам культурного сотрудничества с новыми субъектами России.

Большие деньги связаны с обеими должностями. Москва активно вкладывается в восстановление «новых регионов», а конкретно шефствует над Донецком и Луганском. В трехлетнем бюджете столицы на эти цели выделено 95 млрд рублей. В контексте войны Кибовский известен своим заявлением о необходимости беспощадности к «нацистам» в Украине и не к месту процитированным стихотворением Симонова «Убей его!».

САНКЦИИ

Танкеры оправляются от санкций

Bloomberg пишет, что «Совкомфлот» опробует схему использования танкеров, подвергнутых прямым санкциям. Абсолютное большинство таких судов стоит без загрузок несколько месяцев, но два — «Братск» и «Белгород» — смогли загрузиться Urals в Новороссийске, а один из них — скрытно перекачать нефть на один из танкеров теневого флота в Индийском океане. Вопрос теперь в том, кто в итоге примет такую нефть (и примет ли) и по какой цене.

Сам факт того, что российские поставщики вынуждены прибегать к таким ухищрениям, предполагает, что покупатели очень настороженно относятся к нефти с санкционных танкеров. Это не может не сказываться на транспортных издержках, подчеркивает агентство.

Что еще происходит

• Недельная инфляция в России замедлилась до 0,11%, в годовом выражении до 9,21%. Это все равно далеко от тех значений, которые удовлетворили бы ЦБ, от регулятора на следующей неделе ждут только повышения ключевой ставки. Инфляционные ожидания населения («инФОМ» по заказу ЦБ) между тем превысили 12% впервые с января.
• В отличие от Джо Байдена, семья которого сильно (и порой избыточно) вовлечена в политику, Дональд Трамп идет на выборы президента без семьи. На съезде в Милуоки на прошлой неделе едва присутствовала его супруга Мелания, пишет Financial Times, как и его старшая дочь Иванка Трамп с мужем Джаредом Кушнером. На первый план вышел старший сын политика Дональд-младший, одновременно — близкий друг кандидата в вице-президенты Джей Ди Вэнса. Его жена Лара Трамп заняла на съезде пустующее место первой леди.