3月9日上午,全国人大代表、科大讯飞董事长刘庆峰在安徽代表团驻地接受证券时报记者采访,分享了他对于如何破解AI幻觉难题的看法。
刘庆峰表示,实际上,通用大模型的底座能力在生成的过程中,其技术本来是基于概率驱动的,浮点参数基于整个概率网络来计算出来,从基本原理上来说,多少都会存在幻觉。
为破解AI幻觉难题,可采取多重路径。刘庆峰向证券时报记者表示,一方面,可以通过联网的在线实时搜索,补充AI(获取的)最新动态信息,以减少大模型自己创造出的各种幻觉案例和数据。
另一方面,可以外挂企业或者各行业的专业知识库。“这个知识库不仅是经过专业地把关、整理出来的,而且是每天动态更新的。”刘庆峰认为,把联网的实时搜索功能和专业的数据库的动态外挂整合到AI大模型搜索中,就可以很好地解决Ai的幻觉问题。
同时,刘庆峰认为,要解决AI幻觉难题,还需要具备很好的自然语言理解能力,要让用户(自主)勾选要不要用搜索(功能),要不要用专业知识库。
对于如何构建一个动态的自我更新的大模型,用在司法、教育、医疗以及工业科研场景。刘庆峰向证券时报记者表示,需要在现有大模型下做各种配套的专业子模型,形成“通专结合”,而且这个模型需要有一整套数据清洗和自动挂件的工具,这非常关键。
在应用的过程中,刘庆峰强调,还是需要人机协同,尤其是在一些重大敏感的领域,不能完全由机器独立完成,必须通过人和机器协同操作。
“比如说在医疗领域,人工智能不是用来替代医生的。它是给医生提供会诊帮助的,如果一位医生电子病历写得对,看病看得对,开药开得对,就可以视同这些AI系统不存在,可一旦有争议、有问题,我们的系统就会跳出来弹窗、标红,从而使得每个患者都有一个(AI)医生在把关。”刘庆峰告诉证券时报记者,AI也可以把好医生的能力延伸到家庭,让每个人可以通过打电话等形式实现“慢病管理”,家庭医生随时可以“前往”。
刘庆峰认为,未来的趋势一定是人机协同的。
“当然我们也要看到,即便是人,他也很难做到百分百准确,比如要考上一本院校,并不需要考满分。我们的国家执业医师考试,满分600分,360分就是合格分数线,并不是考满分的人才能在各种场合(展业),无论是翻译、律师,还是公务员考试,都没有要求满分,所以我们对AI也要有合理的认知和预期。”刘庆峰表示,在对AI有合理预期的同时,他相信AI在很多领域已比专业的、经过训练的博士做得好,但是AI不是用来替代人的,它应该是人机协同的情况下,来提高未来的工作效率,提高工作质量的,特别是在一些危险的岗位上,根本不适合人来作业的,可以让AI去完成。
校对:李凌锋