新闻中心

AI的“幻觉”对中文互联网有多大影响?

2025-03-15 07:15:03

来源:

AI的幻觉对中文互联网:有多大影、响,?

深夜时分,小王刷着手机,忽然看到一篇文章,那上面说一个国产动画《哪吒》在法国昂西动画节引起了轰动,还提到动画的制片方豪掷千万攻克水下特效,还给员工赠送了成都房产。

小王一瞬间热血澎湃,觉得国漫真的是要崛起了,这才是文化输出的正确姿势啊!

几个小时后,当他再次打开这篇文章时,评论区已经炸锅了。

当“国产动画崛起”变成一场虚假狂欢

不少人留言质疑,法国参展的根本不是《哪吒》里的敖丙,而是一部概念片《哪吒重生》。

更有眼尖的网友指出,所谓的员工获赠房产纯属虚构。

小王慌忙打开几个新闻门户网站查证,发现这篇文章的所有数据竟然都是由一个叫DeepSeek-R1的AI生成工具编出来的,一时间,他有些茫然。

在互联网上,像这样的情景越来越多。

AI早已不是简单的工具,而是一台全天候运行的“信息生成机器”。

视频网站、社交平台甚至新闻媒体都充斥着由AI创作的虚假信息,这些信息利用专业术语和似是而非的数据给人以无比真实的错觉。

AI生成内容如何充斥互联网

有一个名为“爱玩的AI”的知乎用户,仅用一天的时间发布了11条各类专业领域的回答,从化学到法律、物理,各种领域无不涉猎。

而这些回答仅需1至2分钟就生成,全靠AI“洗稿”。

普通网友很难分辨出其中的真假,导致错误信息快速传播。

这种现象不仅限于知乎。

各类平台比如今日头条、小红书上也充斥着类似内容。

假新闻、虚假广告,甚至是医学建议,几乎每一个网上信息用户接触到的领域,都可能被这样的内容侵蚀。

而这些内容,都有一个共同特点——看上去非常“专业”。

互联网生态面临三大AI污染威胁

除此之外,这种AI生成的内容还带来了三大方面的威胁。

首先是事实的崩塌。

越来越多的虚假新闻占据了我们的视线。

有人利用AI编造了所谓的事件,例如《郑州鸡排店血案》和《甘肃火车撞人9死》等虚假新闻,甚至连警方介入后才揭穿谎言,这种新闻充斥着我们的社交平台,严重影响了信息的真实性。

其次是专业领域的沦陷。

许多领域的内容,包括医学建议、金融分析、甚至是一些科普知识,都可能被AI虚构。

当一个AI生成的“微观粒子惯性”回答在知乎上被当作科学内容传播时,大家甚至没有办法察觉其中的错误。

第三是认知的扭曲。

AI会根据用户的浏览习惯和算法偏好,推送极端观点和完全不符合事实的内容。

就像“霍金都得给领导敬酒”这种明显矛盾的内容,居然会被频频推送到用户眼前,逐渐侵蚀人们的认知观。

破解AI污染的关键在于多方合作

面对这样严峻的情况,解决方案不能仅靠某一方的努力。

技术防火墙的建立是必不可少的手段。

可以推广“AI数字水印”。

就像DeepSeek-R1这样的工具,需要嵌入隐形标识,便于平台的识别,从源头上遏制虚假信息的传播。

需要开发更先进的反欺诈模型,特别是针对那些“堆砌术语”和“极繁内容”的特征进行过滤。

现在的知乎平台,已经开始试点这种过滤器,效果显著。

在平台管理方面,各大内容平台也需要加大审核力度。

小红书已经对未标注的AI图片进行限流处理,抖音封禁了纯AI直播账号,而知乎也清理了近万条违规回答。

这些措施虽有成效,但仍不足以完全杜绝问题。

同时,用户层面的教育和觉醒同样重要。

学校可以开设课程,教学生如何识别“AI味”内容,培养他们的“AI素养”。

当用户能够警惕那些过于绝对化的结论,或是缺乏具体案例的内容时,他们便不会轻易被虚假信息所蒙蔽。

在这场人机对抗的持久战中,还有一些志愿者在发挥着重要作用。

比如历史博主“知北遊”组建了一个团队,专门辟谣AI伪造的文史内容,这些努力帮助很多人看清了虚假信息的本质。

结尾

如今,站在信息爆炸的时代,我们不得不清醒地认识到,AI不是敌人,真正的敌人是失控的滥用。

就如同我们用塑料污染了海洋,用二氧化碳填满了大气,现在我们正用这些虚假的信息淹没互联网。

未来的互联网或许需要一种全新的秩序,比如强制标示AI生成内容,用户建立“信息健康指数”,提醒每一个人远离虚假信息的泥潭。

无论未来如何变化,这场战役的核心始终未变——守护真实的信息,就是守护我们文明的底线。

如果我们都能在这场战斗中保持一份清醒,相信人类终将在信息的汪洋中坚持自己的舟楫,不被虚假信息所淹没。

蜜雪冰城用隔夜果切贵州长顺公布中小学教师退出机制夸克AI这写作文笔我服了虞书欣林一跳恰恰舞引粉丝欢呼中南大回应六旬教授考核不合格业内:黄金有望冲向4000美元女生经常迟到 老板为抓包早早到岗俄外长对记者的重复提问感到厌倦小婧 擦眼泪转场低频超管体验官

(内容来源:九派新闻)

作者: 编辑:徐梓轩

  • 越牛新闻客户端

  • 越牛新闻微信

  • 绍兴发布微信

  • 越牛新闻微博

  • 绍兴发布微博

爆料

新闻热线

0575-88880000

投稿信箱

zjsxnet@163.com