OpenAI叛徒做出最强竞品?
两年估值40亿美金,OpenAI的”叛徒”做出GBT4次最强竞争对手K11,这位OpenAI的原副总裁为什么要离开OpenAI?而创立的这家新公司为什么又能在两年之内成为超级独角兽,拥有与OpenAl抗衡的实力?
我认为这背后都指向同一个问题,也是当今AI领域大家最关心的问题。从OpenAl带头出走的包括一对兄弟,哥哥原先是OpenAI的AI安全团队负责人,随后相继升任研究主管和研究副总裁,妹妹是OpenAl的安全和政策副总裁。相信大家也注意到了,兄妹俩都是OpenAl,负责AI安全的核心负责人,外界广传二者之所以离开OpenAI是因为对公司的发展方向产生了分歧。(因为)继OpenAI拿到微软投资之后越来越商业化,但你们细想这个事情它就不合理,因为他们新成立的AI公司也拿了Google的投资也会开启商业化。
![](http://www.openaimy.com/wp-content/uploads/2023/05/769eefa49bd99b97317efc41818df0b0.png)
我认为这背后的真正原因是OpenAI拿到微软投资之后,为了追求模型的极致发展速度而逐渐降低了对AI安全的要求,这才是他们真正的理念不合。从兄妹俩新公司的核心理念也能看出,他们高度强调新公司的AI安全愿景,包括语言模型的可解释性、让模型更加安全、更符合人类价值观、排除他做坏事的可能性等等。
![](http://www.openaimy.com/wp-content/uploads/2023/05/b4e07714637097e143c3690764c31537.png)
他们在训练大模型的过程中先训练一个百分百无害的AI模型,然后用这个无害模型来监督训练,他们要推向市场的大模型。而与之相比OpenAI使用无监督学习、以及使用海量非结构化数据训练模型,以最大程度的去预测人类语言一个追求模型的极致准确性,而一个注重模型的安全性。
![](http://www.openaimy.com/wp-content/uploads/2023/05/85dcdbb370d08838fbb5fdb60ab9baf4.png)
我认为兄妹俩理念是很超前的,也是具备长期价值的。因为大语言模型的安全问题比历史上任何事物注意我的用词、是任何事物的安全问题都要更大。原因是未来大源模型一定会深入各行各业,也会深入到每个人90%的生活工作娱乐之中。就像现在的互联网。
![](http://www.openaimy.com/wp-content/uploads/2023/05/cde533e1a4c12fee96976efb118c591a.png)
而大语言模型不像互联网,互联网是确定的,一个域名对应一个网站、一串字符对应一个账号。而大语言模型生成的内容是不确定的,它会产生新的内容,甚至未来还可以自我迭代。
·途途从最一开始就注重AI安全,无疑是有价值的,也是投资人们所看重的。大家更认可追求极致准确性的Jeff,还是更注重安全的Jeff。关注我,离AI更近一点。点个赞吧!