中国のサイバースペース管理局(CAC)を中心に、国家発展改革委員会・工業情報化部・公安部・市場監督管理総局の5機関が共同で発行した「AI擬人化対話サービス管理暫定措置」が、2026年7月15日に正式施行された。枠組み自体は同年4月10日に公表されていたが、猶予期間を経て本日から本格適用となる。
この規制の施行に合わせ、ByteDanceの「Doubao」とAlibabaの「Qwen」はいずれもエージェント機能をオフライン化したと報じられている。両社とも、独自の性格を持つキャラクターと継続的に会話できる「AIコンパニオン」的な機能が、規制が定める技術的な線引きを短期間では満たせないと判断したとみられる。
| 企業・サービス | エージェント機能停止 | データの扱い |
|---|---|---|
| ByteDance「Doubao」 | 2026年7月15日 | 10月15日まで読み取り専用アクセス、以降は復元不可 |
| Alibaba「Qwen」 | 2026年7月15日(カスタムエージェントは7月10日先行) | 移行猶予の発表なし、会話履歴は削除方針 |
| Tencent「Yuanbao」 | 2026年6月(先行対応) | 詳細は非公表 |
※ 各社の告知内容および複数メディアの報道をもとに構成。データの取り扱いは今後変更される可能性がある。
規制が対象とするのは「人間の性格特性・思考パターン・コミュニケーションスタイルを模倣して継続的な感情的相互作用を提供するサービス」。一方で、カスタマーサービスボット、知識Q&Aツール、職場アシスタント、教育研究ツールは除外されており、継続的な感情的関与を避ける限り規制対象にはならない。
ただし規制文には「感情的相互作用」の技術的な閾値が明確に定義されていないため、多くの企業が線引きの不確実性を避け、機能そのものを停止する判断に傾いたとみられている。
| 分類 | 具体例 | 規制対象か |
|---|---|---|
| 感情AIコンパニオン | 継続的な感情的相互作用を提供するキャラクターAI | 対象 |
| カスタマーサービスBot | 定型応答中心のサポートチャット | 除外 |
| 知識Q&Aツール | FAQ・検索特化アシスタント | 除外 |
| 職場アシスタント・教育研究ツール | 業務・学習支援AI | 除外(感情的関与を避ける限り) |
※ 「感情的相互作用」の技術的な閾値は明確化されておらず、実際の運用は今後の判断に委ねられる部分が大きい。
規制の内容を整理すると、大きく2つの柱がある。1つ目は未成年者保護で、18歳未満への仮想コンパニオン・仮想家族サービスの提供を禁止し、14歳未満のユーザーには保護者の同意を必須とする。加えて、利用時間の制限や現実世界への復帰を促す「未成年者モード」の実装も求めている。
2つ目は依存防止のための安全対策だ。プラットフォームには依存症防止システム、強制的な利用通知、即時終了メカニズム、不健康な依存の検出、自傷・自殺の兆候があるユーザーへの介入体制の実装が義務づけられた。感情的依存や中毒を意図的に生み出すこと、不合理な決定を促すための感情操作も明示的に禁止されている。
| 項目 | 内容 |
|---|---|
| 未成年者保護 | 18歳未満へのコンパニオン提供禁止/14歳未満は保護者同意必須/専用モード義務化 |
| 依存防止の安全策 | 依存症防止システム・強制通知・即時終了機能・自傷兆候への介入 |
| 禁止事項 | 感情的依存や中毒の意図的な誘発、不合理な決定を促す感情操作 |
| 企業のコンプライアンス | 登録100万人超/月間アクティブ10万人超は8領域の安全評価+当局報告が必須 |
※ 規制の正式名称は「AI擬人化対話サービス管理暫定措置」。2026年4月10日公表、7月15日施行。
ByteDanceはDoubaoのユーザーに対し、エージェント機能が本日7月15日にオフラインになった後も、10月15日までは会話履歴やエージェント設定への読み取り専用アクセスを維持すると案内している。その期間を過ぎると、データはプライバシーポリシーに従って処理され、アプリ内でアクセス・復元ができなくなるという。ByteDanceはあわせて、新たにエージェントを作成したいユーザーに対し、別アプリ「Maoxiang」への移行を案内している。
一方Alibabaは、Qwenのカスタムエージェント機能をひと足先に7月10日に無効化し、本日7月15日には全エージェント機能をオフライン化した。Doubaoのような移行猶予期間は発表されておらず、会話履歴やキャラクター設定は移行パスがないまま削除される方針だと伝えられている。
施行前の摘発実績も報じられている。上海のインターネット規制当局は6月26日時点で、14,000件を超える非準拠のAIエージェントを削除したと発表した。理由として、公的機関のなりすまし、下品なロールプレイ、無許可の個人データ収集などが挙げられている。
今回の規制は、感情AIコンパニオンという急成長分野に急ブレーキをかける内容だが、除外規定を見る限り業務用・教育用AIエージェントの開発は引き続き支援する方針がうかがえる。実際に政府は同時期に、エージェント開発を後押しするガイダンスや業界標準も打ち出しており、「感情的な依存を生むAI」と「生産性を高めるAI」を切り分けて扱おうとしている構図が見えてくる。
Doubao・Qwenといった主要プラットフォームが足並みをそろえて機能を停止したことで、当面は中国国内での感情AIコンパニオン市場が大きく縮小する可能性が高い。一方で、境界線が曖昧な「感情的相互作用」の定義がどう運用されるか、代替アプリへの移行がどこまで進むかは、今後の焦点になりそうだ。
感情的なつながりを演出するAIキャラクターは、ここ数年で世界的に急拡大してきた分野でもある。中国が今回、未成年者保護と依存防止を軸にした具体的なルールを先んじて敷いたことは、他の国・地域でAIコンパニオンの規制議論が進む際の一つの参照点になるかもしれない。
※ 本記事は、artificialintelligence-news.com・The Next Web・Tech Timesなど海外主要メディアの報道を基に構成しています。中国政府の一次公式発表文そのものを直接確認したものではない点にご留意ください。
参考リンク(主要メディア): AI News / The Next Web / Tech Times