我确实低估了DeepSeek所引发的大面积“AI幻觉”
创始人
2025-02-04 23:02:17
0

《关于DeepSeek引发大面积“AI幻觉”的低估》

DeepSeek带来的影响远超预期,尤其是大面积的“AI幻觉”现象。原本以为这只是AI发展中的小问题,却没想到它如此严重。“AI幻觉”就像隐藏在暗处的陷阱,在许多应用场景中突然冒出来。在信息获取方面,用户可能得到看似合理实则虚假的答案。这不仅误导使用者,还对一些依赖准确信息的决策产生不良影响。从学术研究到日常的知识查询,它的存在如同一颗颗不定时炸弹,而我之前却没有认识到DeepSeek在这方面引发的状况会如此广泛和深刻,这是对其影响力的严重低估。


所谓AI幻觉,说人话就是:大数据模型一本正经地给你胡说八道,但是由于其输出过程过于有条理有逻辑,且表述过程中甚至不惜引经据典,加上“AI很强”的外部氛围,导致你一不留神,就会误以为真——其实通篇都在扯淡。



AI幻觉这玩意儿不是新鲜事,早在ChatGPT刚推出时已经有了“很多”讨论,后面到了o4、o1以及现在最新的o3,一方面是症状减轻了,另一方面是因为我们已经积累了足够多的、与ChatGPT斗智斗勇的经验了——不停地在google做fact-checking,一遍又一遍地跟它argue。



但,我确实低估了两件事:


1. ChatGPT的高门槛。如果你要流畅订阅ChatGPT Plus,你甚至有一张香港银行卡都不行,因为Open AI在香港未开通付费服务。过去几个月我帮助了好几位朋友开通ChatGPT Plus订阅,很多朋友都是老网民了,依然搞不定,其门槛真的高得离谱。


2. 与之相比,从春节前开始爆发的,因为deepseek之低门槛、免费、人人可用(甚至我给爸妈手机都装上了,跟他们说这是baidu最新款 emmm,以后不用百度用这个),其在简中的普及程度并非ChatGPT可比。也因为deepseek之免费,许多用户是以休闲、体验、分享的心态来使用,而非我身边的自媒体从业者,愿意一个月给美帝20刀购买ChatGPT订阅——因为这是吃饭的家伙,所以会不停地总结工具的使用心得,锻炼出强劲的fact-checking经验。


3. 当然,也是因为deepseek在中文本地化的语境中,打造出了一套更适合中国国情的表达方式,中文表达更优于ChatGPT;“逻辑正确,答案也正确”,这种潜移默化的思维(如果你在大厂上过班,你一定会修炼出所谓的,通过一份ppt,把一团垃圾的结果,汇报成一场伟大战役的功夫),我们理科至上、文科生靠边站的思维,使得人稍不留神就中招。


最终的结果,就是deepseek生成了大量的、天马行空的谬误。这些谬误,严重地污染了简体中文互联网(而本身deepseek在信源引用上,跟ChatGPT相比,确实做得不如)。


今日公众号上看到一篇《比ChatGPT危险100倍!DeepSeek正在中文互联网建造“幻觉长城”》,好家伙,幻觉都变长城了,好文章。感兴趣可以看看。


如今在小红书上,可以刷到无数deepseek生成的帖子,前阵子我看到一个很有代表性,叫做《我听了这么多年五月天,还不如deepseek》,大概是让deepseek说说五月天音乐里的彩蛋:这里面全特么是扯几把蛋,但是评论区里都是大呼小叫,我留言了一句:我说你们就不能自己去查查看吗?没人理我。


两周前我的朋友红老师也在第一时间试用了deepseek之后给我发来贺电,分享了她和deepseek讨论她的爱豆woodz的音乐风格、路线、趋势,因为我晓得deepseek对音乐文本的无能,所以本能反应也是——这特么的一眼假啊。逻辑没问题,但是这里面的论据、信源都是扯淡的啊。它本义就是一个大数据生成(搜索)模型,如果本身信源是不存在的,它能怎么得知呢?


我就随便点开红老师发给我的图:随便进去一首歌吧,这里说:




1. 人声处理黑科技


  • 双声道交替(《Trigger》副歌):左右声道分别录制不同音高,营造眩晕感


这,我压根没听出这首歌里的左右声道有什么高八度低八度,而且不同音高本身根本不会制造眩晕感啊,如果要左右声道录double、通过音高作出区分,那是增强力道啊?眩晕感是通过混响、延迟整的啊?deepseek你在说啥呢?


  • 呼吸声放大(《Bump Bump》前奏):将吸气声提升 6dB作节奏组件


这首歌前奏哪里有吸气声了……?吸气声提升6db做beat?不是哥们,这是什么玩意儿啊?就算我当你是有吸气声,但是“提升”肯定要有相对的吧,你是跟什么相对呢?你推大音量,你也要有“标准”对吧?这完全就是一个狗屁不通的描述啊?


  • 元音拉伸(《Waiting》桥段):将“oh”音采样后时间拉伸 300%制造太空感


不是哥们,这首歌有bridge吗?桥在哪里?我连桥都找不到。


哦哦,说的是副歌后面的那个oh了一下的?这个真要说应该是“后副歌”,以及……这样采样拉伸300%,也是纯粹扯淡了。


好好好,下面还有:



2. 节拍设计密码


  • 反拍陷阱:在 4/4拍中植入7/8拍吉他切分(《Dirt on my leather》)


Dirt on my leather这首歌确实是四四拍,确实也是走的rock band风格,有一把电吉他从头贯穿始终,但是7/8从何而来?这吉他弹的就是一个比较hard rock的,一直在弹call & response,节拍是一直跟着鼓组的,并没有任何复合节奏的意思。


  • 心跳模拟:BPM严格对应心率变化曲线(《l hate you》从72BPM渐增至128BPM)


喂喂喂,这首歌从头到尾的速度都没有变化啊?BPM一直稳定在86左右啊,这心率曲线是怎么来的?


  • 破碎节拍:用 Ableton Live的 Beat Repeat功能随机切碎鼓组(《Chaser》)


Live里面确实是有一个叫做Beat Repeat的功能,打开里面确实是能把鼓组切碎,但是这首chaser里面,鼓组一直都是非常稳定的啊?哪里碎了?


所以到了后面风格预测那些,大可笑笑罢了。



我确定了,红老师这是对我进行钓鱼,她就是希望以此摁头让我去听她家爱豆的歌,让我好好复习一下,然后让我去怼deepseek,让我给她说说,未来她的哥哥音乐会怎么走,她一定是在钓鱼。100%的。


总之,AI幻觉不是deepseek的问题,ChatGPT也一样跑火车,当然ChatGPT跑的程度会少一点(最新发布的o3貌似跑得离谱一些了),可deepseek的语言模型实在太真了,太言之确凿了,而且使用deepseek的门槛太低了,适用人数太多了,这里所造成的AI幻觉,确实是长城一般了。


如之前红老师给我发的这些,我当然可以说,一眼假,不信我打开歌曲听听,看看是不是都是扯淡——但是,如果讨论的是我不清楚的领域呢?我能否有这么轻松的方式去鉴定真伪?就像如今的小红书里,到处都是“我跟ds聊了聊XX”的内容,每次标题都很酷,我都点进去看了,结果又变着戏法再推给我这些玩意儿。AI确实是很强大的东西,但目前的AI有着巨大的技术缺陷,“颠覆了传统知识传播链条——专业论文→科普文章→网络内容”,你以为AI里面说的都是对的,尤其是它说出大量的专业词汇、超出你的学科认知的时候,其信息量之大,你几乎无从下手,无可辨别。


人无可替代。这是AI自己都知道的事儿。‍‍‍‍‍‍‍


本文来自微信公众号:乱弹山,作者:韬奋男孩邹小樱

相关内容

热门资讯

2025年旅游趋势报告 今天分享的是:2025年旅游趋势报告 报告共计:26页 《2025年旅游趋势报告》由Expedia集...
原创 美... 亚太日报 彭子佳 近日,美国政府宣布一项重大贸易政策调整,将对所有进口钢铁和铝征收 25% 的关税,...
《哪吒2》票房神话背后:光线传... 光线传媒近期股价走势 本报(chinatimes.net.cn)记者张玫 陈锋 北京报道 2月12日...
A 股之后再叩港股,宁德时代开... 2月11日晚,宁德时代新能源科技股份有限公司正式向香港联合交易所有限公司递交发行境外上市外资股(H股...
宜兴农商银行 全员发力迎战业务... 临近春节,宜兴农商银行迎来了一年中最为繁忙的时刻。 走进宜兴农商银行丁蜀支行的大厅,首先映入眼帘的是...
有企业“豪掷”近6亿元,家居建... 文/孙梅欣 刚从春节假期中复工的上市家居建材企业,已经积极展开了股票回购。 箭牌家居发布公告称,...
刚刚!已抵达福州!又要大反转 刚刚,我已抵达福州。这座充满活力与魅力的城市,仿佛带着一种独特的气息在迎接我。街头巷尾那熟悉又陌生的...
北京科锐中标约4.86亿元南方... 北京科锐2月11日晚间公告显示,公司在“南方电网公司2024年配网设备第二批框架招标项目”中中标预估...
事关电动车以旧换新!福建最新通... 请提供一下福建关于电动车以旧换新通知的具体内容,这样我才能据此写出200字的描述。 12日,福...
“塑料黄金”进入折扣渠道,好特... 【大河财立方 记者 王宇】近期,在资本市场火热的谷子经济、盲盒经济,在线下进入了折扣零售渠道。 2月...
多位首席合规官任职资格获准 助... 本报记者 熊悦 2月11日,华夏银行发布公告称,国家金融监督管理总局已核准杨宏担任该行首席合规官、刘...
上海独角兽维昇药业通过IPO聆... 图片来源:图虫创意 2月11日晚间,素有生长激素“千年老二”称号的安科生物(300009.SZ)发布...
世界泳联2024兴奋剂检测:接... 日前,世界泳联公布2024年对运动员进行兴奋剂检测的数据,中国游泳运动员占据前32位:其中多哈世锦赛...
提气!U20国足亚青赛2比1力... 2月12日,2025年U20亚洲杯(亚青赛)在深圳打响,凭借蒯纪闻和刘诚宇在上半场的两连击,U20国...
福田“明星”文旅企业Klook... 南都记者获悉,福田辖区“明星”文旅企业、旅游体验平台Klook今日宣布,完成1亿美元(约7.2亿人民...
可爱的“哈基米”,沦为互联网最... “哈基米”原本是一个可爱的、充满亲昵感的词汇,用于称呼小动物,尤其是猫咪。它带着人们对小动物的喜爱与...
启动赴港上市 宁德时代递交招股... 2月11日,宁德时代正式向香港联交所递交发行境外上市外资股(H股)并在香港联交所主板挂牌上市的申请。...
黄金价格再暴涨,大把现货黄金从... 黄金价格实在是涨得太离谱了呀!马上饰品黄金就要超过 900 块钱一克了,而国际黄金价格也飙着 300...
恒指量价齐升刷新年内高点 机构... 财联社2月12日讯(编辑 冯轶)今日港股再度转涨。收盘恒指、国指再度刷新阶段新高,分别收涨2.64%...