随着人工智能时代的到来，下一代媒体将由人工智能驱动，人工智能可能给数字 内容领域带来重塑。近几年，人工智能合成内容( Al-generated Media)正在快 速兴起，利用Al算法生产、修改数据和信息内容,从而让文字、音乐、图像、语 音、视频等都可由Al自动生成。尤其是随着生成对抗网络(GAN)这一Al算法 的诞生, AI生成内容中的“深度合成”( deep synthesis )技术可以实现换脸、人 脸合成、语音合成、视频生成甚至数字虚拟人等诸多应用，’获得了各界的广泛关 注。2017年是深度合成技术进入大众视野的第一年，随后的两年里，随着GAN 算法的发展应用和开源项目的增多，依托深度合成技术的诸多商业化应用问世, 技术应用潜力逐渐显现。与此同时，深度合成技术强大的仿真能力也引发对技术 作恶和技术滥用的担忧，例如金融诈骗、色情复仇、隐私侵权、商业诋毁，乃至 威胁国家安全、公共安全。商业环境中，一方面，deepnude 等应用程序因为涉 嫌侵权被下架或阉割，充斥着色情合成内容等黑灰产的Reddit论坛deepfake被 关闭;另一方面，开源工具受到欢迎，诸多Al初创公司试水深度合成工具的开发, 相继寻找下一个能引发爆点的应用，在通讯、社交、电影、网络购物等领域的尝 试令人惊喜。回顾技术的发展历程可以发现，经历过技术初问世时的狂热追捧以 及随之而来的“威胁论”和“恐慌论”,社会对深度合成技术及相关应用的认识逐 渐趋于理性，而2020年也有望成为深度合成技术走向大规模商业化应用的元年。
总之，深度合成技术是人工智能发展到一定阶段的产物，它不会让社会真相失守, 更不是世界秩序的威胁者。面对新技术的挑战，政府和监管者应当包容审慎，避 免阻碍深度合成技术的有益的、创新性的应用，通过法律、技术、行业、用户的 多重治理将其纳入可控的发展轨道。
本文来自知之小站
PDF报告已分享至知识星球，微信扫码加入查阅下载3万+精选资料，年享1万+精选更新
（星球内含更多未发布精选报告.其它事宜可联系zzxz_88@163.com）
