全国人大代表、科大讯飞董事长刘庆峰:AI不是用来替代人的,联网搜索+知识库外挂可破解AI幻觉难题
来源:证券时报网作者:证券时报两会报道组2025-03-09 13:07

3月9日上午,全国人大代表、科大讯飞董事长刘庆峰在安徽代表团驻地接受证券时报记者采访,分享了他对于如何破解AI幻觉难题的看法。

微信图片_20250309123600.jpg

刘庆峰表示,实际上,通用大模型的底座能力在生成的过程中,其技术本来是基于概率驱动的,浮点参数基于整个概率网络来计算出来,从基本原理上来说,多少都会存在幻觉。

为破解AI幻觉难题,可采取多重路径。刘庆峰向证券时报记者表示,一方面,可以通过联网的在线实时搜索,补充AI(获取的)最新动态信息,以减少大模型自己创造出的各种幻觉案例和数据。

另一方面,可以外挂企业或者各行业的专业知识库。“这个知识库不仅是经过专业地把关、整理出来的,而且是每天动态更新的。”刘庆峰认为,把联网的实时搜索功能和专业的数据库的动态外挂整合到AI大模型搜索中,就可以很好地解决Ai的幻觉问题。

同时,刘庆峰认为,要解决AI幻觉难题,还需要具备很好的自然语言理解能力,要让用户(自主)勾选要不要用搜索(功能),要不要用专业知识库。

对于如何构建一个动态的自我更新的大模型,用在司法、教育、医疗以及工业科研场景。刘庆峰向证券时报记者表示,需要在现有大模型下做各种配套的专业子模型,形成“通专结合”,而且这个模型需要有一整套数据清洗和自动挂件的工具,这非常关键。

在应用的过程中,刘庆峰强调,还是需要人机协同,尤其是在一些重大敏感的领域,不能完全由机器独立完成,必须通过人和机器协同操作。

“比如说在医疗领域,人工智能不是用来替代医生的。它是给医生提供会诊帮助的,如果一位医生电子病历写得对,看病看得对,开药开得对,就可以视同这些AI系统不存在,可一旦有争议、有问题,我们的系统就会跳出来弹窗、标红,从而使得每个患者都有一个(AI)医生在把关。”刘庆峰告诉证券时报记者,AI也可以把好医生的能力延伸到家庭,让每个人可以通过打电话等形式实现“慢病管理”,家庭医生随时可以“前往”。

刘庆峰认为,未来的趋势一定是人机协同的。

“当然我们也要看到,即便是人,他也很难做到百分百准确,比如要考上一本院校,并不需要考满分。我们的国家执业医师考试,满分600分,360分就是合格分数线,并不是考满分的人才能在各种场合(展业),无论是翻译、律师,还是公务员考试,都没有要求满分,所以我们对AI也要有合理的认知和预期。”刘庆峰表示,在对AI有合理预期的同时,他相信AI在很多领域已比专业的、经过训练的博士做得好,但是AI不是用来替代人的,它应该是人机协同的情况下,来提高未来的工作效率,提高工作质量的,特别是在一些危险的岗位上,根本不适合人来作业的,可以让AI去完成。

校对:李凌锋

责任编辑: 王智佳
声明:证券时报力求信息真实、准确,文章提及内容仅供参考,不构成实质性投资建议,据此操作风险自担
下载“证券时报”官方APP,或关注官方微信公众号,即可随时了解股市动态,洞察政策信息,把握财富机会。
网友评论
登录后可以发言
发送
网友评论仅供其表达个人看法,并不表明证券时报立场
暂无评论
为你推荐
时报热榜
换一换
    热点视频
    换一换