1234
567891011
12131415161718
19202122232425
262728293031
第07版:观点 上一版 下一版  
上一篇 下一篇

警惕AI“一本正经地胡说八道”

□江德斌

“宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交车”等相关问题,可能会获得这样的回答。然而,这个看上去有鼻子有眼的回答,却是一条彻头彻尾的假消息。


眼下,AI技术尚不成熟,相关应用存在错误频出等情况,甚至出现“AI说谎”现象。比如,一些软件搜索整理公众号、短视频平台中的内容,但由于缺乏辨识信息真伪的能力,把其中一些真实度、可信度偏低的信息作为答案提交给用户。再如,一些软件还会迎合“讨好”用户,根据提示信息变化而随时改变立场和答案。这不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。

面对“一本正经地胡说八道”的AI软件,应当足够警惕与重视。对用户而言,在查询相关重要信息时不宜过度依赖AI软件,特别是在获取相关内容后也要有进一步核实真伪的意识。对开发商而言,须持续迭代升级技术,精准筛选可靠信源,提高大模型的逻辑推理判断与信息甄别能力。监管部门也应当及时出台规范标准,研判用户反馈和投诉,督促有关平台堵漏升级,同时严惩相关违法违规行为。

版权所有 ©2023 福建日报 fjdaily.com 闽ICP备15008128号
中国互联网举报中心