腾讯科技讯 7 月 18 日消息,据国外媒体报道,埃隆 · 马斯克(Elon Musk)对旗下人工智能公司 xAI 推出的聊天机器人 Grok 寄予了很大期望,希望人们能够通过其获取新闻资讯。然而在面对现实的复杂事件时,它的表现却一团糟。特别是当美国前总统唐纳德 · 特朗普(Donald Trump)遭遇暗杀未遂事件后不久,Grok 基于 X 上的信息流发布了多条误导性头条,凸显了人工智能技术的局限性。

想用AI机器人颠覆传统媒体? 马斯克的Grok在特朗普遇刺中表现一团糟

其中一则误报尤为引人注目,错误地宣称副总统卡玛拉 · 哈里斯(Kamala Harris)遭遇袭击,这一失误似乎源于 X 上部分用户对拜登总统之前一次口误的讽刺性解读。当时,拜登无意中将哈里斯和特朗普的名字搞混了。

另一则摘要则错误指认了嫌疑人身份,并将其与 " 极左翼运动(antifa)" 联系起来。这一表述在警方公布不同嫌疑人及动机尚未明确的情况下,显得尤为草率。

尽管这些摘要下方附有免责声明,明确指出:" 本报道乃 X 平台帖子的概要总结,内容或随时间发展而变化。Grok 作为人工智能工具,存在出错可能,请用户自行验证其输出。" 然而,这并未能完全消除 Grok 在新闻传播中的误导性影响。

马斯克曾对 X 平台及其搭载的人工智能机器人 Grok 寄予厚望,宣称其能自动提炼数亿用户帖子的精华,生成标题及新闻摘要。他多次公开批评传统新闻媒体反应迟缓且可信度下降,并鼓励用户习惯从 Grok 处获取即时新闻更新。

马斯克在今年 6 月的一次广告业盛会上强调:" 在 X 平台上,我们正实现信息的汇聚与精炼。我们利用人工智能的力量,将数百万用户的海量输入转化为精炼的总结。我坚信,这将是未来新闻传播的新常态。"

针对 Grok 此次的误报事件,X 尚未发表正式回应。

Grok 是马斯克旗下人工智能公司 xAI 推出的作品,自去年启动研发以来,已逐步融入 X,为订阅者带来了包括智能聊天机器人在内的多项创新功能。在新闻总结方面,Grok 展现了一定程度的准确性,预示着其巨大的技术潜力。马斯克特别指出,Grok 能够即时抓取 X 上的海量帖子,这是其显著优势之一。X 称其为 " 带有幽默感的人工智能搜索助手 "。

然而,近期发生的误报事件也暴露出 Grok 在设计上的不足,尤其是在处理突发事件时,其依赖的算法和模型可能成为弱点。面对来自多个渠道的实时信息流,一个倾向于幽默解读的计算机模型在筛选和整合信息时,显然面临着不小的挑战。

对此,前 Facebook 公共政策主管凯蒂 · 哈巴斯(Katie Harbath)表示:" 我们仍有很长的路要走。当涉及到像枪击这样的突发事件时,当事实尚未确定时,人类的专业判断与背景知识是不可或缺的。"

在这样的敏感时刻,即便是经验丰富的记者,在追逐重大突发新闻时,也难免偶有失误。但 Grok 的某些错误,却远远超出了这类常规混乱的范畴。

一则引人瞩目的 Grok 头条错误地声称:" 电影《小鬼当家 2》的演员在特朗普 *** 上遭到枪击?" 特朗普确实在 1992 年的电影《小鬼当家 2:迷失纽约》中露过脸,成为部分 X 用户热议的话题,但 Grok 的摘要却未能澄清 " 演员 " 是否是特朗普本人,反而混淆视听,写道:" 据报道,电影《小鬼当家 2:迷失纽约》的一名演员在公开活动中遭遇枪击,推测与特朗普竞选 *** 有关。"

Grok 并非首个在新闻事件总结上栽跟头的生成式人工智能工具。此前,谷歌也因其人工智能功能偶尔产生的离奇建议而宣布进行修正,比如建议用胶水将奶酪固定在披萨上。

值得注意的是,一些科技公司采取了与马斯克不同的策略,避免将产品直接定位为实时新闻工具。例如,OpenAI 的 ChatGPT 在接到关于此次袭击事件的查询时,不仅概括了事件本身,还贴心地提供了事实核查网站 PolitiFact 的链接,同时明确表明自己 " 并非实时新闻产品 "。

Meta 高管表示,他们并不鼓励在短视频平台 Threads 上发布政治性内容,这款应用旨在与 X 形成差异化竞争。Meta 高管亚当 · 莫瑟里(Adam Mosseri)去年便表达了这样的立场,他期望 Threads 能规避政治及硬新闻常伴的负面效应和其他弊端。

与此同时,周末期间,部分 Threads 用户抱怨该平台在枪击事件的信息更新上速度不及 X,这反映出马斯克旗下的平台依然是新闻资讯的重要来源之一。

针对此次暗杀未遂事件,X 首席执行官琳达 · 雅卡里诺(Linda Yaccarino)在周日发送的一封内部邮件中强调,公司已将此视为 " 重大事件 ",并迅速调集资源,优先处理平台上任何违反规则的内容,特别是那些对袭击表示赞赏的帖子。

Grok 在新闻事件总结上遭遇挑战并非首次。6 月份美国总统辩论后,当 X 用户提及加州州长加文 · 纽森(Gavin Newsom)时,Grok 竟错误地生成了 " 纽森在近期辩论中大获全胜 " 的标题,而事实上纽森并未参与辩论,尽管他出席了相关活动。此外,部分政治观察家虽提及纽森可能为拜登的潜在继任者,但这一说法已被纽森本人公开否认。

在马斯克接手 X(前身为 Twitter)之初,该平台曾设有专门团队负责热门话题的摘要撰写。然而,随着马斯克的大规模裁员行动,该团队也被解散。前 Twitter 高管埃文 · 汉森(Evan Hansen)透露,他曾是该团队的一员,直至裁员发生。

汉森回忆道,在马斯克接管之前,Twitter 已尝试利用人工智能辅助摘要撰写,但仍需人工进行内容审核与修正。他指出:" 人工智能虽能发挥作用,但必须要非常精细地进行处理。"

编译:金鹿