Новые меры регулирования искусственного интеллекта в Китае для обеспечения безопасности несовершеннолетних

В Китае предложены новые жесткие нормы для искусственного интеллекта (ИИ), направленные на охрану детей и предотвращение предоставления чат-ботами рекомендаций, способных спровоцировать самоповреждение или агрессию.

В соответствии с этими нормами разработчики обязаны исключить генерацию контента, продвигающего азартные игры.

Такое заявление прозвучало на фоне значительного роста числа чат-ботов, внедряемых в Китае и в других странах.

После доработки указанные нормы будут распространяться на продукты и услуги ИИ в Китае, что станет существенным этапом в контроле за динамично развивающейся технологией, вызвавшей в текущем году повышенный интерес в связи с вопросами безопасности.

Проект внешних норм, представленный в выходные Управлением по киберпространству Китая (CAC), включает положения по охране детей. В частности, компании, работающие с ИИ, должны внедрять персонализированные настройки, устанавливать лимиты по времени использования и запрашивать одобрение от родителей перед активацией функций общения.

Кроме того, операторы сервисов ИИ обязаны обеспечивать отсутствие генерации и распространения материалов, угрожающих национальной безопасности, наносящих ущерб национальной чести и интересам или подрывающих национальное единство.

Китайская компания DeepSeek, специализирующаяся на разработке ИИ, в этом году привлекла внимание международных СМИ, возглавив рейтинги загрузок приложений.

В текущем месяце два китайских стартапа Z.ai и Minimax, имеющие десятки миллионов пользователей, сообщили о намерениях провести IPO на бирже.

Эта технология стремительно набирает популярность, и многие пользователи применяют ее для повседневного общения или психологической поддержки.