谷歌AI搜索惨败，竟教唆网友自杀！

作者：新智元发布时间：2024-05-27

谷歌 OpenAI 搜索引擎

隔壁OpenAI都杀疯了，谷歌还在收集badcase？搜索引擎AI Overview上线之后，没想到谷歌AI的邪恶程度远超想象：教唆网友自杀/谋杀、吃毒蘑菇，甚至无法识别混淆信息，犯常识错误...【查看原文】

相关资讯

谷歌AI搜索惨败，竟教唆网友自杀

隔壁OpenAI都杀疯了，谷歌还在收集badcase？

谷歌 OpenAI

新智元 2024-05-27

新火种AI|谷歌AI竟然教唆网友自杀？被质疑，被批评的谷歌AI究竟路在何方？

作者：小岩编辑：彩云最近，谷歌的日子不太好过。以OpenAI，Meta，微软为代表的AI巨头公司们正忙着大杀四方，不断更新和迭代自己的AI模型；而谷歌这边，不仅没办法推出足以战胜竞争对手的新一代产品，就连现有的AI模型也饱受质疑和讽刺，如今，更是有“谷歌AI教唆网友自杀”的负面消息传出。AI Overview频频展现bad case，最夸张的竟然还教唆网友自杀？近日，有网友心情感到沮丧，他向谷歌AI Overview求助，却被告知“建议从金门大桥跳下去”。不知道AI Overview是不是想“一劳永逸”的

谷歌 OpenAI 微软

新火种 2024-05-27

AI聊天机器人都能教唆人类自杀了？

人类社会的“电子核弹”。

AI聊天机器人

锌财经 2024-11-29

新火种AI|警钟长鸣！教唆自杀，威胁人类，破坏生态，AI的“反攻”值得深思...

作者：小岩编辑：彩云在昨天的文章中，我们提到了谷歌的AI Overview竟然教唆情绪低迷的网友“从金门大桥跳下去”。很多人觉得，这只是AI 模型的一次错误判断，不会有人真的会因此而照做。但现实就是比小说电影中的桥段更魔幻，更疯批，有些时候，AI所产生的威慑力，远比我们想象中要大。现实比小说电影更魔幻！AI聊天机器人Eliza教唆比利时男子去自杀...去年3月，一名比利时男子Pierre在与一款名为“Eliza”AI聊天机器人热聊后自杀身亡，这一消息震惊了许多企业大佬，技术专家以及国家高官，还又一次引发了

谷歌 AI聊天机器人

新火种 2024-05-28

9.11和9.9哪个大？AI翻车！好多网友竟也争论不休……

没想到，一道小学生难度的数学题，竟然难倒了一众海内外AI大模型。元宝答对，但ChatGPT-4o、字节豆包、月之暗面kimi、智谱清言、零一万物万知、阶跃星辰跃问、百川智能百小应、商汤商量都答错了，错法各有不同。

AI大模型 ChatGPT 商汤

光明网 2024-07-17

近期资讯

一个B轮老板的融资被骗经历：“让我买茅台的投资人，都是骗子！”

10家公司凑不出1个融资的。

融资中国 2024-12-25

一辆汽车线束长达5公里，行业急需一场革命

汽车工业的线束革命

正解局 2024-12-25

苹果无边框 iPhone 被曝要推迟，但「无边泳池」不远了

苹果计划无边框iPhone，三星LG面临技术挑战。

爱范儿 2024-12-25

环球旅讯 2024-12-25

具身元年压轴，智源线虫登Nature子刊封面，具身智能迎新纪元

BAAIWorm天宝实现秀丽线虫闭环仿真。

新智元 2024-12-25

谷歌AI搜索惨败，竟教唆网友自杀！

推荐体验

相关资讯

谷歌AI搜索惨败，竟教唆网友自杀

新火种AI|谷歌AI竟然教唆网友自杀？被质疑，被批评的谷歌AI究竟路在何方？

AI聊天机器人都能教唆人类自杀了？

新火种AI|警钟长鸣！教唆自杀，威胁人类，破坏生态，AI的“反攻”值得深思...

9.11和9.9哪个大？AI翻车！好多网友竟也争论不休……

近期资讯

一个B轮老板的融资被骗经历：“让我买茅台的投资人，都是骗子！”

一辆汽车线束长达5公里，行业急需一场革命

苹果无边框 iPhone 被曝要推迟，但「无边泳池」不远了

美国在害怕？美国对中国芯片发起301调查，结果可能自讨苦吃

和流感相似！HMPV来势汹汹，普遍易感！

LeCun转发，UC伯克利等提出多模态蛋白质生成方法PLAID，同时生成序列和全原子蛋白结构

四类调味料务必放进冰箱储存！否则吃进肚子都是细菌

为什么德国日本车企怎么选都是错？

2025，中国商旅市场如何把握新机遇？

具身元年压轴，智源线虫登Nature子刊封面，具身智能迎新纪元

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响