生成式人工智能的风险和机遇管理.pdf

2022年11月,我们迎来了一场真正的革命。一夜之间,即便是仅会使用聊天软件的网民都感受到了人工智能的魔力。

在短短一周内,便有上百万用户通过ChatGPT撰写短文、编写计算机代码、创作艺术、把长文精炼为更有文采、更简洁的短文。

与此同时,一些心怀不轨的群体则试图利用生成式人工智能编写恶意软件、散播更具迷惑性的钓鱼邮件和伪造更逼真的虚假身份。这似乎预示着大规模欺诈、隐私泄露、虚假信息和网络攻击正向我们袭来。

在ChatGPT亮相仅数月后,生成式人工智能便深入地融入我们的生活和业务。活跃消费用户增长之快前所未有。从OpenAl的GPT3到GPT4,人工智能的功能实现了飞跃,在代码编写和中级专业写作方面的成绩显著。各大科技公司也不甘落后,纷纷推出/更新竞争产品;创业公司发布了定制应用程序的模型;包括普华永道在内的各大公司已宣布大规模投资自家的“CompanyGPT,以供内部使用和对外提供新服务。

但担忧也随之而来,有人告诫“具有人类竞争智能的人工智能系统可以对社会和人类构成深远的风险”,社会大众和行业专家对此都深感忧虑。该项技术的头部供应商也承认存在类似风险。

风险管理关乎成败。如果公司希望成功实施生成式人工智能计划并取得竞争优势,则需要评估该技术可能给全公司带来的风险。为此,公司需要一套风险管理框架,以便更好地抓住机遇。

针对生成式人工智能,采用以风险为导向的方法将确保公司在数字化道路上,始终符合监管机构、消费者和其他利益相关者的期望。公司只有在采用生成式人工智能的同时建立信任,才能快速、充分地利用这项改变世界的技术带来的红利。

生成式人工智能是人工智能家族中的一个强大分支,对企业具有颠覆性影响。它能够支持企业运营的几乎所有方面(包括客户服务、软件开发和数据分析)实现自动化和提升。

借助人工智能,公司能针对不同客户定制个性化互动,改善互动方式,从而提升客户关系。人工智能可以自动完成批量任务,例如处理保险索赔和沟通或执行某些软件开发任务。

通过人工智能,团队能更轻松地了解非结构化数据,包括合同、发票、客户反馈、保单、保险理赔员告知单、绩效评估、医疗记录等。

员工生产力可以大幅提升。根据OpenAl的估计,每10名员工中约有8名*可通过生成式人工智能自动完成其至少10%的工作任务,而这仅仅是起步。生成式人工智能工具可以自动完成例行任务,使员工得以解放,从而投身更具创造性的工作,或以更创新、更全面的方式理解复杂主题和任务,提升批判性思维。

随着技术需求的持续增长,生成式人工智能的功能也在不断进步。仅仅不到四个月,人工智能语言系统就在复杂度和功能性两方面取得了显着进步,发展劲头势不可挡。

公司想要搭上人工智能的快车,实现持续发展,则需尽早招募风险专业人员。如此方能树立公司信心,顺利实施和推进生成式人工智能项目。

公司的风险管理人员必须管理好新增和加剧的风险,以及在业务、法律和监管方面的一系列挑战。白宫、美国国会、美国联邦贸易委员会、虫国国家互联网信息办公室和欧盟相继采取行动,对生成式人工智能进行监管。与此同时,针对生成式人工智能违反数据保护法,在未经同意的情况下,收集、使用和披露个人信息的行为,部分国家(意大利、加皇大、西班牙、法国、德国)展开了调查,以此响应社会各界的不满或担忧。

随着生成式人工智能技术日益普及,中国国家互联网信息办公室(网信办)、国家发展和改革委员会(发改委)、教育部、科学技术部(科技部)、工业和信息化部(工信部)、公安部和国家广播电视总局(广电总局)于2023年7月10日联合发布了《生成式人工智能服务管理暂行办法》,并于2023年8月15日生效。2023年10月18日,中央网信办更进一步发布《全球人工智能治理倡议》。

习主席在中共中央政治局会议上指出, “要重视通用人工智能发展,营造创新生态,重视防范风险”。

本文来自知之小站

 

PDF报告已分享至知识星球,微信扫码加入立享3万+精选资料,年更新1万+精选报告

(星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com)