Zoom计划在2025年推出数字化身,但技术引发了对深度伪造的担忧

Zoom计划在2025年推出数字化身,但该技术引发了对深度伪造的担忧(Iyus sugiharto / Unsplash)

Zoom计划在2025年推出一项功能,允许用户创建由AI驱动的照片真实感数字化身。

通过录制的视频,用户可以生成数字克隆,重现脚本中输入的内容,音频与化身的嘴唇运动同步。这项技术旨在促进异步沟通,提高生产力。

尽管具有提高效率的潜力,但这一新功能引发了对深度伪造的担忧。Zoom的产品总监Smita Hashim表示,公司正在开发保护措施,如高级身份验证和水印,但没有详细说明这些保护措施的具体内容。

深度伪造在社交媒体上的传播及其在欺诈中的使用,使得对这一技术的监管变得迫在眉睫。尽管Zoom尚未澄清其安全措施在实践中如何运作,但将此功能作为一项高级服务推出,已经引发了关于风险及对数字克隆进行控制的讨论。

来源:Olhar Digital | 图片:Unsplash | 本内容由AI生成,并由编辑团队审核

Nadia: