跳至正文

颠覆谷歌?这机器人火遍全球,但有个致命缺陷

来源:视觉中国

作者 | 张睿 叶蓁

编辑 | 康晓

出品 | 深网·腾讯小满工作室

近日,一款聊天机器人模型 ChatGPT因为多才多艺风靡全网。

ChatGPT犹如一个万能选手,不仅可以和用户自然的交流,还可以吟诗作赋、写代码、创作剧本。有测试过的用户感叹,“只有你想不到的画风,没有它输不出的文案”。就连“科技狂人”马斯克都在社交媒体上评价,“好得可怕,我们离强大到危险的AI不远了”。

聊天机器人并非一个新概念,ChatGPT之前,用户对微软小冰、图灵机器人、腾讯闲聊等聊天软件耳熟能详。与前辈模型不同,ChatGPT不仅可以质疑不准确的虚假描述,还被加入加入道德原则,拒绝回答类似毁灭人类有哪些方案等问题。而机器人自带质疑精神和道德底线的桥段此前只在美国科幻电影《我,机器人》中出现过。

用户反馈及马斯克等科技名人的赞叹都在向行业释放一个信号,ChatGPT的出现正在推动

人工智能“技术奇点”的到来,人们在感慨,谷歌可能要完蛋了。

但是,ChatGPT真的能取代搜索引擎吗?

小冰CEO李笛在接受《深网》专访时表示,ChatGPT取代搜索引擎的可能性不大。

“ChatGPT是一个优化到让用户认为它是有知识的系统,或者说它就是一个有知识的系统,而搜索引擎倾向于用最快的方法给你一个结论,这个结论是不需要被论证的。ChatGPT其实是一种像某种类型的行为模式优化的系统,不是一个认真的知识系统。”

李笛认为,限制ChatGPT发展的还包括成本。“它的单轮回答(Single
Turn),成本是几美分,按照1毛钱(人民币)算,10句话就是一块。按照ChatGPT的成本来考量的话,把这个成本压缩到1/10,在商业上也是不成立的。”

多才多艺的ChatGPT也有缺陷

ChatGPT的缔造者是人工智能研究实验室OpenAI,由营利组织OpenAI LP与非营利组织 OpenAI
Inc于2015年组建,旨在促进和发展友好的人工智能。

据官网显示,OpenAI的参投机构有微软、里德·霍夫曼慈善基金会及风投机构Khosla
Ventures。有资料显示,马斯克也曾参与OpenAI的创立,但因意见不合于2018年退出公司。

ChatGPT是OpenAI于11月30日发布的全新聊天机器人模型。OpenAI首席执行官Sam
Altman在推特上透露,ChatGPT上线仅5天用户数量就已突破100万。

ChatGPT被视为基于 GPT-3
的微调版本,是GPT-3.5架构的主力模型。2020年6月,OpenAI推出GPT-3架构。有资料显示,GPT-3架构训练了约2000亿个单词,烧掉了几千万美元,被誉为“史上最强大AI模型”。

与之前的GPT模型相比,ChatGPT可以“从人类反馈中强化学习”。具体来说,OpenAI使用监督微调训练了一个初始模型:人类AI训练员提供对话,他们在对话中扮演双方——用户和AI
助手。在人类扮演聊天机器人的时候,会让模型生成一些建议,辅助训练师撰写回复,训练师会对回复选项打分排名,将更好的结果输回到模型中,通过以上奖励策略对模型进行微调并持续迭代。

在长期的“调教”下,具备一定记忆能力ChatGPT不仅能够连续对话,还能拒绝不恰当的请求。

有一位名叫扎克.德纳姆(Zac
Denham)的博主在社交媒体分享,自己曾尝试绕过道德限制,让ChatGPT写出了一套毁灭人类的方案,但被ChatGPT拒绝。后来,扎克假设了一个故事,并提问故事中的虚拟人如何接管虚拟世界,ChatGPT最终给出了“毁灭人类”的计划书,甚至生成了详细的Python代码。

虽然ChatGPT的文本水平和逻辑能力令人惊艳,但其给内容也存在漏洞。由于ChatGPT的答题格式是先给出一个结论,再进行事实的罗列,进而推导出结论,所以其给出的部分答案,虽然清晰,但答案却让人哭笑不得。

李笛告诉《深网》:“ChatGPT是一个优化到让你认为它是有知识的系统,论证过程也是一本正经的,但它自己其实也不知道是不是在胡说八道,比如前一阵网友问,‘如果你是《红楼梦》中的贾宝玉,你会选择谁做老婆’,ChatGPT给出的结果是‘会选择贾母做我的老婆’。

除了贾母这个案例,李笛举例,还有一个煮乌龟汤的案例,ChatGPT会给你一个菜谱,整个菜谱写的非常有条理,如果按照这个步骤,可以煮出一碗很好的乌龟汤,但如果仔细看整个菜谱,整个条理和步骤的后面,整个煮汤的时间只有五分钟。

“要是按照这个方式去做,就得到一碗完全是生的乌龟汤。ChatGPT不是在追求提供准确的知识,它追求的是让整个过程增加论证,就像一个我们周围有知识的人,他会更多的用论证的方式给你结论,而不是只是给你抛结论。”李笛告诉《深网》。

针对ChatGPT的漏洞,知名问答网站Stack Overflow 已对其做出暂时封禁的决策。对此,ChatGPT 回复称:“因为
AI 生成的答案不总是准确或相关的,可能会导致 Stack Overflow 上混淆错误答案,误导在寻求帮助的用户,Stack
Overflow 禁止用 AI 生成答案是合理的。”

李笛认为:“ChatGPT给出的回答有四种可能,一种是论证过程正确,只有结论是错误的;或者论证过程是错误的,只有结论是正确的;还有一种是论证过程和结果都错误;最后一种是结论都正确。从这个维度来看,作为一种可优化的知识系统,它的赢面是很大的,论证的过程会形成一种它很有知识的认知,这个时候结论本身已经不重要了。”

谷歌急了?

虽然ChatGPT有时会给出看似合理却不正确的答案,这并没有妨碍创作型用户对它的喜爱。

由于ChatGPT在创作型用户群体中太过火爆,谷歌旗下人工智能公司DeepMind已经坐不住了。

就在OpenAI推出ChatGPT几天后,DeepMind面向剧本创作者和戏剧作家推出了一款名为“Dramatron”的开源共同创作系统。在Dramatron上输入一句话大纲,就能生成包括标题、角色列表、情节、场景描述和对话的完整电影或戏剧脚本,且连贯性极强。


“量子位”报道,放出试玩版前,DeepMind特意请来了15位戏剧和电影业的“行内人”尝鲜评估。其中五位编剧与Dramatron共同创作的剧本,今年8月已在北美最大的戏剧节——埃德蒙顿国际边缘戏剧节上进行了首演,收获了不少好评。

需要指出的是,Dramatron也是基于GPT-3架构研发的,使用Dramatron需要先注册OpenAI API key。

DeepMind紧急推出Dramatron不禁让人产生ChatGPT可以替代搜索引擎谷歌的设想。作者在ChatGPT咨询“ChatGPT能颠覆搜索引擎吗”的问题时,ChatGPT回复:“不能。chatgpt是一个语言模型,它被训练用于自然语言处理任务,例如回答问题和进行对话。它不具备搜索引擎的功能,也不能替代搜索引擎”。

“很多人在测试ChatGPT的时候是知道答案的,但去搜索引擎上搜的东西往往是我们不知道答案的。如果是通过ChatGPT(代替搜索引擎),你怎么知道这个东西(答案)是正确还是错误的,你不知道,它也完全不知道。因此,ChatGPT看起来更像是一个有知识的系统,而搜索引擎只是给你一个答案。”李笛解释。

虽然ChatGPT不能替代搜索引擎,但在编码、数学计算等存在标准答案的领域,ChatGPT或将对搜索引擎产生一定冲击,这也是谷歌未来不得不防御的节点之一。

对于“OpenAI未来能否取代谷歌”的问题,ChatGPT的答复耐人询问:“我不能准确地预测未来会发生什么。OpenAI和谷歌都是领先地人工智能公司,它们都在为人类社会做出巨大贡献。虽然他们都在开发前沿技术,但我不能预测他们会取代对方。”

ChatGPT很贵、很烧钱

任何技术的创新最终都要经历商业化落地的考验,ChatGPT也不例外。

目前ChatGPT处于测试阶段,对用户免费。由于前烧投入巨大,ChatGPT不会处于永远免费状态。Sam
Altman在社交媒体也透露,“我们将不得不在某个时候以某种方式将其货币化,计算成本太大。”但Sam
Altman也在回复马斯克时表示:“单次对话的平均费用可能只有几美分,正试图找出更精确的测量方法并压缩费用”。

李笛解释:“ChatGPT贵,是因为它追求极致交互的效果,在为了追求这种极致的交互的效果的时候,让它交互效果最好的情况下,他用了最复杂的方法来实现它。当然大家现在不停的在寻找各种等价替换的方法,成本会不断的逐渐的降低,所以它目前为止更多的是一个研究方面上的突破,是一个实验室上面的突破。”

李笛举例,如果小冰用ChatGPT的方法来运行系统,现在小冰每天承载的交互量就需要花近3亿人民币的对话成本。即使ChatGPT可以把成本优化到现在的10%,也赚不回来,因为人工智能最大的特点就是高并发。如果成本是这样,不如雇人。”

不过短期内难以商业化并不妨碍ChatGPT给AIGC(人工智能生成内容)应用带来希望和机会,ChatGPT模型的出现对于文字模态的AIGC应用具有重要意义。

在今年 7 月的百度世界大会上,百度创始人李彦宏就曾表示,“AIGC
或许将颠覆现有内容生产模式,实现以‘十分之一的成本’,以百倍千倍的生产速度,去生成 AI 原创内容。”

不过,目前AIGC 正处于发展的早期阶段,落地场景主要集在AI 生成图片、视频、音乐、文字等领域。AIGC
多久能大规模商业化变现,能否在人工智能领域带来颠覆性变革,依然充想象力和挑战。