0°

马斯克强调的 TruthGPT 是什么?下个“AK”;微软弃婴,二十年前的 ChatGPT

  有消息称,前 OpenAI 联合创始人&主席 Elon Musk,正在接洽曾在 DeepMind & OpenAI 任职的工程师 Igor Baushkin,打算组建一个新的AI实验室及ChatGPT的替代品,未来会如何呢?本文作者围绕这件事进行了分析,并分享了20年前的“ChatGPT”的故事,一起来看一下吧。

  这是 OpenAI 系列的第四篇,源自一则新闻,该新闻报道前 OpenAI 联合创始人&主席的 Elon Musk 正在接洽曾在 DeepMind & OpenAI 任职的工程师 Igor Baushkin,从而组建一个新的 AI 实验室以及 ChatGPT 的替代品,可能的名称为 Based AI 以及 TruthGPT,本篇将主要围绕这起事件分 2 节进行展开,第 3 节是一个古早的创业故事:

  OpenAI 的初衷与 Musk 的执念

  Igor Bauschkin 会是下个“AK”么?

  微软弃婴,20 年前的“ChatGPT”

  01 OpenAI 的初衷与 Musk 的执念

  根据外媒报道,Elon Musk 正与 AI 研究人员接洽,希望组建一个新的 AI 研究实验室以开发 ChatGPT 的替代品,其中就包括上周刚离开 Alphabet 旗下 DeepMind 部门的工程师 —— Igor Bauschkin。

  报道出来的同一天,Musk 其实还在 Twitter 上发了一个表情包,名为「Based AI」的 Doge 手持大棒打跑了 「Woke AI」以及「Closed AI」,不知道是不是分别暗指 DeepMind 和 OpenAI 这两家 :D,但无论如何还会出现一个第三方,并且是 Musk 主导的,暂且叫「Based AI」。

  那么这个「Based AI」想做什么呢?其实又回到了 OpenAI 成立之初,Elon Musk 所畅想的愿景与使命,毕竟 OpenAI 现在的状态可不是原先 Musk 所想的那样,OpenAI 成立之初非营利的性质是为了防止 Google 作恶,现在 OpenAI 变成了另一个硅谷巨头微软变相控制的企业,且以盈利导向,好家伙,非但原先的假想敌没干掉,还一下变成俩,这怎么搞?

  回到当年 OpenAI 成立不久,Musk 还同 Greg Brockman、Sam Altman 以及 Ilya Sutskever 一同署名了一篇文章《OpenAI technical goals,OpenAI’s mission is to build safe AI, and ensure AI’s benefits are as widely and evenly distributed as possible 》,也是登在 OpenAI 官网的唯一一篇Musk 以作者身份署名的文章,开头如下:

  大概意思是 OpenAI 的技术目标是构建安全的 AI,确保 AI 的利益尽可能的防范和均匀分布,而 Musk 对于目前 AI 的态度就好像对待 Twitter 一样,作为 Twitter 的深度用户,看到平台上的内容和信息集中而不均匀,或者叫中心化,这对于每一个内容消费者来说并不是好事。

  对于 Elon Musk 而言,训练一个聊天机器人不是最终目的,“我们需要 TruthGPT”,提高大语言模型的推理能力和真实性才是更重要的,即模型的可用性和可靠性。打个比方,作为用户,不管是“搜索”还是“聊天”,得到的结果无非是「人类生产+算法分发」或者「人类生产+ AI 加工」,AI 到一定程度实现生成即分发,两者还有区别么?区没区别其实也不重要,但是效果一样,终端用户是否依然受限于一个信息茧房之中?或者更严重?

  这里不具体讨论 Musk 主观想法,别人也难猜到,但是客观分析他的言论,确实存在“信息茧房”的问题。无论是推荐算法分发的时代,还是接下来生成式 AI 时代,用户如果都是被动获取来自机器派送的信息,那么一方面将受限于用户自己在屏幕的每一次点击、滑动、停留以及互动,另一方面也受限于用户当前的认知与语言框架,更可能本身 AI 训练的数据集都是被修饰过的。

  除此之外,生成式 AI 可能也会生产出一堆“噪音”,“噪音”可能比人类生产的“噪音”还要高效,那么就更加难以分辨出真正的“信号”,这个过程有点像是你用某搜索引擎搜索,得到的结果都是人家 SEO 精心优化好的。

  这一点其实在 Musk 对于教育的看法上有些吻合。Musk 在公开场合曾表示教育的本质是把数据(案例)和算法(方法)下载到大脑里,大部分知识可以在网上免费搜到,那么在网上冲浪本身也带有边刷边学的场景在,如果数据和算法是不安全的,那么也将会影响下一个“Musk”。

  所以,结合 TruthGPT 的话题反过来想,不管是 UGC 还是 AIGC,用户只要在网络上获取的是“噪音”而不是“信号”,那么体验总归是不好的,这也是为什么强调 “Truth”。

  未来如何,这很难预测,但应对“噪音”这个问题,Musk 本人也曾提过他的思维框架,这可能是一种可行的“降噪”方式 —— “你需要有一个这样的立场,从某种程度上假设自己是错的,你的目标打从一开始就不是分出对错,而是随着时间的推移减少错误”,这样就避免了过早下结论导致出错的可能性,并且保持稳扎稳打的心态。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论