AI生成内容发展报告2020——“深度合成”商业化元年（电子版）.pdf

Posted On 2020年5月28日

随着人工智能时代的到来，下一代媒体将由人工智能驱动，人工智能可能给数字内容领域带来重塑。近几年，人工智能合成内容( Al-generated Media)正在快速兴起，利用Al算法生产、修改数据和信息内容,从而让文字、音乐、图像、语音、视频等都可由Al自动生成。尤其是随着生成对抗网络(GAN)这一Al算法的诞生, AI生成内容中的“深度合成”( deep synthesis )技术可以实现换脸、人脸合成、语音合成、视频生成甚至数字虚拟人等诸多应用，’获得了各界的广泛关注。2017年是深度合成技术进入大众视野的第一年，随后的两年里，随着GAN 算法的发展应用和开源项目的增多，依托深度合成技术的诸多商业化应用问世, 技术应用潜力逐渐显现。与此同时，深度合成技术强大的仿真能力也引发对技术作恶和技术滥用的担忧，例如金融诈骗、色情复仇、隐私侵权、商业诋毁，乃至威胁国家安全、公共安全。商业环境中，一方面，deepnude 等应用程序因为涉嫌侵权被下架或阉割，充斥着色情合成内容等黑灰产的Reddit论坛deepfake被关闭;另一方面，开源工具受到欢迎，诸多Al初创公司试水深度合成工具的开发, 相继寻找下一个能引发爆点的应用，在通讯、社交、电影、网络购物等领域的尝试令人惊喜。回顾技术的发展历程可以发现，经历过技术初问世时的狂热追捧以及随之而来的“威胁论”和“恐慌论”,社会对深度合成技术及相关应用的认识逐渐趋于理性，而2020年也有望成为深度合成技术走向大规模商业化应用的元年。
总之，深度合成技术是人工智能发展到一定阶段的产物，它不会让社会真相失守, 更不是世界秩序的威胁者。面对新技术的挑战，政府和监管者应当包容审慎，避免阻碍深度合成技术的有益的、创新性的应用，通过法律、技术、行业、用户的多重治理将其纳入可控的发展轨道。