第 6 / 9 章
不夸大技术:语音克隆不是万能,也不等于天然违法
中国对深度合成服务设置了授权与标识要求
《互联网信息服务深度合成管理规定》适用于在中国境内应用深度合成技术提供互联网信息服务。规定要求,提供人声等生物识别信息编辑功能的服务者应提示使用者依法告知被编辑者并取得单独同意;合成人声、仿声等可能导致公众混淆或误认的服务,还涉及显著标识要求。具体义务主体和责任仍需结合服务形态与事实判断。
来源:国家互联网信息办公室、工业和信息化部、公安部《互联网信息服务深度合成管理规定》
语音合成也可用于无障碍辅助、影视制作、教育和经授权的数字内容。风险不来自“声音是合成的”这一点本身,而来自未经授权冒用身份、隐瞒合成事实、操纵信任或索取财物。防骗宣传不应宣称AI可以完美复制任何人,也不应把每个音质异常的电话都定性为诈骗;最可执行的原则始终是:凡涉及钱和敏感信息,身份必须脱离原通话独立验证。