目前最好的足彩app

当前位置: 首页 > 媒体目前最好的足彩app > 正文

媒体目前最好的足彩app

CCTV13:(张欣)用户使用Deepseek等生成式人工智能时要警惕大模型幻觉问题

发布时间: 2025年03月14日 编辑: 张新云

(来源:CCTV13 2025-02-20)

近日,一组关于80后死亡率的数据在网上引发广泛关注。央视记者梳理发现,网络上有不少引用这一数据的关于80后死亡率的文章,还有不少自媒体文章在不断渲染,比如:“80后5.2%的死亡率,开启了黄金一代的黯然离场”;再比如:“当80后开始集体谢幕——5.2%死亡率背后,一代人的生存困境与时代之殇”。更有网络图片将所谓80后死亡率做成柱状图,称:“每20人中1人已离世”,并标注对比数据,称“70后死亡率低于更年轻的80后”。如此骇人听闻的数据,是真的吗?

错误死亡率源头可能为“AI运算偏差”

这一耸人听闻又漏洞百出的死亡率数据又是从何而来呢?中国人民大学人口与健康学院教授李婷梳理发现,很有可能是AI大模型在问题回答过程中出现错误。李婷教授在AI大模型中输入了“50、60、70、80,这几代人的死亡率分别是多少”的问题,大模型显示,根据网络信息得出了“80后现存2.12亿,存活率94.8%,死亡率5.2%”的表述。

针对大模型的幻觉问题和生成机理,法学院张欣教授接受了CCTV13新闻频道的电话采访,就大模型运行机理,大模型幻觉在数据层、模型层和应用层产生的原因,我国现行网络信息治理思路以及故意传播虚假信息引发不良影响时可能导致的法律责任做出分析。

针对大模型“幻觉”的技术成因,张欣指出,数据层、模型层和应用层均可能造成大模型“幻觉”。在数据层面,训练语料的时效性偏差与质量缺陷是首要诱因,特别是网络爬取数据中隐含的虚假信息经过模型参数化处理后,容易形成系统性认知偏差。在算法层面,她指出Transformer架构的自回归生成特性与概率采样机制,客观上导致内容幻觉的出现。在应用层,人机交互环节的提示与场景适配不足以及模型的多模态化趋势,均可能增加模型产生幻觉的可能性。

我国此前已经发布以《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》为代表的一系列部门规章,近期也在抓紧构建完善人工智能生成合成内容标识办法和标准,为生成合成服务提供者和内容传播服务提供者提供清晰的合规框架。若故意编造的虚假有害信息,经网络传播引发公众恐慌情绪、扰乱公共秩序,造成不良社会影响的行为还可能承担相应的刑事责任。

记者发现,经过网络发酵,死亡率竟然成为一些自媒体带货的噱头。可见,AI大模型虽然有超强的数据储存和运算能力,但由于训练的语料不足、数据来源局限等,就可能导致错误的推算。而一些自媒体为了变现流量,也会断章取义、借题发挥,助长这些离谱数据的炒作和传播。


附:原文链接

https://content-static.cctvnews.cctv.com/snow-book/index.html?item_id=2084160556267115271&t=1740056794180&toc_style_id=feeds_default&share_to=wechat&track_id=23ae2058-645c-47f2-b968-4321ae119902 


更多资讯请关注学校官方微信、微博

投稿邮箱:news@uibe.edu.cn读者意见反馈:xcb@uibe.edu.cn对外经济贸易大学党委宣传部版权所有 Copyright ? 2005-2021 UIBE All rights reserved.
校内备案号:外经贸网备31418006