Авторы: Елена Ларина
Владимир Овчинский
Источник информации – ссылка
Пекин с 15 августа 2023 года внедрил новые радикальные правила для услуг искусственного интеллекта, пытаясь сбалансировать государственный контроль над технологией с достаточной поддержкой, чтобы ее компании могли стать жизнеспособными глобальными конкурентами.
Правительство Китая выпустило 24 директивы, которые требуют от поставщиков платформ регистрировать свои услуги и проводить проверку безопасности, прежде чем они будут представлены на рынке. Ответственность за надзор возьмут на себя семь агентств, в том числе Управление киберпространства Китая и Национальная комиссия по развитию и реформам.
Окончательные правила менее обременительны, чем первоначальный проект от апреля 2023 года, но они показывают, что Китай, как и Европа, продвигается вперед с контролем правительства над тем, что может быть самой многообещающей и, одновременно, противоречивой технологией за последние 30 лет. В США, напротив, законодательство серьезно не рассматривается даже после того, как лидеры отрасли предупредили, что ИИ представляет «риск исчезновения», а Сэм Альтман из OpenAI призвал Конгресс принять участие в публичных слушаниях.
«Китай начал очень быстро», — сказал Time Мэтт Шиэн, научный сотрудник Фонда Карнеги за международный мир, который пишет серию исследовательских работ по этому вопросу. «Они начали создавать инструменты регулирования и регулирующие мускулы, поэтому они будут более готовы регулировать более сложные приложения технологии».
Правила Китая выходят за рамки всего, что предполагалось в западных демократиях. Но они также включают практические шаги, пользующиеся поддержкой в таких странах, как США.
Пекин, например, введёт обязательную маркировку искусственно созданного контента, включая фотографии и видео, заметными ярлыками. Это направлено на предотвращение обмана, такого как онлайн-видео Нэнси Пелоси, которое было подделано, чтобы она выглядела пьяной. Китай также потребует от любой компании, внедряющей модель ИИ, использовать «законные данные» для обучения своих моделей и раскрывать эти данные регулирующим органам по мере необходимости. Такой мандат может успокоить медиакомпании, опасающиеся, что их творения будут кооптированы механизмами ИИ. Кроме того, китайские компании должны предоставить чёткий механизм рассмотрения публичных жалоб на услуги или контент.
По сравнению с предварительным проектом, опубликованным в апреле 2023 года, опубликованная версия, которую называют «временными мерами», похоже, смягчила несколько ранее объявленных положений, что говорит о том, что Пекин видит возможности в зарождающейся отрасли, поскольку страна стремится возобновить экономический рост в порядок создания рабочих мест.
Теперь правила будут применяться только к услугам, которые доступны для широкой публики в Китае. Технологии, разрабатываемые в научно-исследовательских учреждениях или предназначенные для использования зарубежными пользователями, освобождаются от налога.
В последней версии также удалены формулировки, указывающие на карательные меры, включая штрафы до 100 тысяч юаней (14 027 долларов США) за нарушения.
Государство «поощряет инновационное использование генеративного ИИ во всех отраслях и областях» и поддерживает разработку «безопасных и надежных» чипов, программного обеспечения, инструментов, вычислительной мощности и источников данных, согласно документу, объявляющему правила.
Китай также призывает платформы «участвовать в разработке международных правил и стандартов», связанных с генеративным искусственным интеллектом.
Тем не менее, среди ключевых положений — требование к поставщикам услуг генеративного ИИ проводить проверки безопасности и регистрировать свои алгоритмы в правительстве, если их услуги способны влиять на общественное мнение или могут «мобилизовать» общественность.
Популярность сервиса резко возросла в последние месяцы, и китайские технологические компании спешат выпускать свои собственные версии, что побудило некоторых критиков предсказать, что эта тенденция подольет масла в существующее соперничество между США и Китаем в области новых технологий.
Сенатор США Марк Уорнер предупредил в июле 2023 года, что в глобальной гонке по созданию ограждений для того, как правительства используют ИИ, Китай получил значительное преимущество. Китай «намного опережает игру», сказал он Politico на Глобальном техническом саммите.
Китайские компании, похоже, ждут выхода обновленных правил, прежде чем официально представить свои услуги в стиле ChatGPT для широкой публики.
Пока что сервисы генеративного искусственного интеллекта Baidu, Alibaba и JD.com либо находятся на стадии пробной версии, либо тестируются корпоративными пользователями. Согласно правилам, регуляторы все равно должны одобрить свою продукцию.
Ключевой вопрос о стратегии регулирования Китая заключается в том, могут ли правила в конечном итоге подавить инновации в индустрии искусственного интеллекта, которая лежит в основе стремления страны конкурировать с Соединенными Штатами в сфере высоких технологий.
«То, как Китай подходит к регулированию ИИ, вероятно, будет соответствовать его подходу к регулированию других областей известных технологий, таких как Интернет или социальные сети, где он применяет строгую цензуру для контроля потока информации», — заявили аналитики Citi в исследовательской записке в августе 2023 года.
Регуляторы, кажется, знают об опасениях. В только что выпущенных рекомендациях подчеркивается необходимость найти баланс между «разработкой и безопасностью».
За соблюдением правил будут следить семь национальных агентств, в том числе служба по наблюдению за киберпространством, Национальная комиссия по развитию и реформам и министерство образования.
В то время как исторически невмешательный подход США к регулированию дал гигантам Силиконовой долины возможность стать глобальными безжалостными силами, эта стратегия сопряжена с серьезными опасностями с генеративным ИИ, сказал Энди Чун, эксперт по искусственному интеллекту и адъюнкт-профессор Городского университета Гонконга.
«ИИ может коренным образом изменить то, как люди работают, живут и развлекаются, способами, которые мы только начинаем осознавать», — сказал он. «Это также создает явные риски и угрозы для человечества, если разработка ИИ будет продолжаться без надлежащего надзора».
В США федеральные законодатели предложили широкий спектр правил ИИ, но усилия пока находятся на ранних стадиях. Летом 2023 года Сенат США провел несколько брифингов по искусственному интеллекту, чтобы помочь своим членам ознакомиться с технологией и ее рисками, прежде чем принимать меры.
В июне 2023 года Европейский парламент принял проект Закона об ИИ, который налагает новые ограничения и требования к прозрачности для систем искусственного интеллекта. Парламент, государства-члены ЕС и Европейская комиссия должны согласовать окончательные условия, прежде чем закон станет законом.
Пекин потратил годы на то, чтобы заложить основу для правил, которые вступили в силу 15 августа 2023 года. В 2017 году Государственный совет, кабинет министров страны КНР, опубликовал дорожную карту ИИ, в которой разработка технологии была объявлена приоритетом, а также изложен график введения государственных постановлений.
По мере того как проект руководящих принципов Китая по генеративному ИИ превратился в последнюю версию, между регулирующими органами, игроками отрасли и учеными велись месяцы консультаций, чтобы сбалансировать законодательство и инновации. Эта инициатива со стороны Пекина частично обусловлена стратегической важностью искусственного интеллекта и желанием получить регуляторное преимущество перед другими правительствами, сказал Ю Чуанман, директор Центра регулирования и глобального управления Института международных отношений Китайского университета в Шэньчжэне, Гонконг.
Теперь крупнейшие игроки в области искусственного интеллекта в Китае, от Baidu Inc. до Alibaba Group Holding и SenseTime Group Inc., приступают к работе. Пекин нацелился на ИИ как на один из дюжины технологических приоритетов, и после двухлетнего регулятивного репрессивного режима правительство ищет помощи у частного сектора, чтобы поддержать экономику и конкурировать с США. После введения ChatGPT началось глобальное безумие вокруг ИИ – ведущие технические руководители и начинающие предприниматели вкладывают в эту сферу миллиарды долларов.
В 2023 году Alibaba, Baidu и SenseTime продемонстрировали свои модели искусственного интеллекта. Сюй Ли, главный исполнительный директор SenseTime, провел самую яркую презентацию с чат-ботом, который пишет компьютерный код из подсказок на английском или китайском языках.
Тем не менее, китайские компании уступают мировым лидерам, таким как OpenAI и Google Alphabet. Скорее всего, им будет трудно бросить вызов таким конкурентам, особенно если американские компании не регулируются никем, кроме них самих.
«Китай пытается балансировать между несколькими разными целями, которые не обязательно совместимы», — сказала Хелен Тонер, директор Джорджтаунского центра безопасности и новых технологий. «Одна цель — поддержать их экосистему ИИ, а другая — сохранить социальный контроль и возможность подвергать цензуре и контролю информационную среду в Китае».
В США OpenAI продемонстрировал небольшой контроль над информацией, даже если она опасна или неточна. Его ChatGPT создавал поддельные юридические прецеденты и предоставлял общественности инструкции по созданию бомбы.
В Китае компаниям приходится быть гораздо осторожнее. В феврале 2023 года компания Yuanyu Intelligence из Ханчжоу отключила свой сервис ChatYuan всего через несколько дней после запуска. Согласно опубликованным в сети скриншотам, бот высказал сомнения в экономических перспективах Китая.
Теперь стартап полностью отказался от модели ChatGPT, чтобы сосредоточиться на сервисе повышения производительности ИИ под названием KnowX. «Машины не могут обеспечить 100-процентную фильтрацию», — сказал Сюй Лян, глава компании. «Но что вы можете сделать, так это добавить к модели человеческие ценности патриотизма, надежности и благоразумия».
Пекин с его авторитарной властью играет по другим правилам, чем Вашингтон. Когда китайские агентства делают выговоры и штрафуют технологические компании, корпорации не могут сопротивляться и часто публично благодарят правительство за его оплошность. В США Big Tech нанимает армии юристов и лоббистов, чтобы оспаривать практически любые действия регулирующих органов. По словам Айнн Кокас, адъюнкт-профессора медиа-исследований в Университете Вирджинии, наряду с активными общественными дебатами между заинтересованными сторонами это затруднит введение эффективных правил ИИ.
В Китае искусственный интеллект начинает проникать в обширный режим цензуры, который очищает интернет страны от запретных и спорных тем. Это не значит, что это легко с технической точки зрения. «Одним из самых привлекательных нововведений ChatGPT и подобных нововведений в области искусственного интеллекта является его непредсказуемость или собственные инновации, выходящие за рамки нашего человеческого вмешательства», — сказал Ю из Китайского университета Гонконга. «Во многих случаях поставщики услуг платформы не могут это контролировать».
Некоторые китайские технологические компании используют двустороннюю фильтрацию ключевых слов, используя одну большую языковую модель, чтобы гарантировать, что другой LLM будет очищен от любого спорного контента. Один руководитель технологического стартапа сказал, что правительство даже будет проводить выборочные проверки того, как сервисы ИИ маркируют данные.
«Потенциально наиболее увлекательной и тревожной является та временная шкала, в которой цензура осуществляется с помощью новых больших языковых моделей, разработанных специально для цензоров», — сказал Натан Фрейтас, научный сотрудник Центра изучения Интернета и общества имени Беркмана Кляйна при Гарвардском университете.
Европейский Союз может быть самым прогрессивным в защите людей от таких злоупотреблений. Закон, принятый в июне 2023 года, обеспечивает контроль конфиденциальности и ограничивает использование программного обеспечения для распознавания лиц. Предложение ЕС также потребует от компаний проведения определенного анализа рисков, которые влекут за собой их услуги, например, для систем здравоохранения или национальной безопасности.
Но подход ЕС вызвал возражения. Альтман из OpenAI предположил, что его компания может «прекратить работу» в странах, которые применяют чрезмерно обременительные правила.
Одна вещь, которой Вашингтон может научиться у китайских регуляторов, — это быть «целенаправленным и итеративным», сказал Шихан. «Создайте эти инструменты, которые они смогут улучшать, продолжая регулировать».