OpenAI叛徒做出最强竞品?
两年估值40亿美金，OpenAI的”叛徒”做出GBT4次最强竞争对手K11，这位OpenAI的原副总裁为什么要离开OpenAI?而创立的这家新公司为什么又能在两年之内成为超级独角兽，拥有与OpenAl抗衡的实力?
我认为这背后都指向同一个问题，也是当今AI领域大家最关心的问题。从OpenAl带头出走的包括一对兄弟，哥哥原先是OpenAI的AI安全团队负责人，随后相继升任研究主管和研究副总裁，妹妹是OpenAl的安全和政策副总裁。相信大家也注意到了，兄妹俩都是OpenAl，负责AI安全的核心负责人，外界广传二者之所以离开OpenAI是因为对公司的发展方向产生了分歧。(因为)继OpenAI拿到微软投资之后越来越商业化，但你们细想这个事情它就不合理，因为他们新成立的AI公司也拿了Google的投资也会开启商业化。
我认为这背后的真正原因是OpenAI拿到微软投资之后，为了追求模型的极致发展速度而逐渐降低了对AI安全的要求，这才是他们真正的理念不合。从兄妹俩新公司的核心理念也能看出，他们高度强调新公司的AI安全愿景，包括语言模型的可解释性、让模型更加安全、更符合人类价值观、排除他做坏事的可能性等等。
他们在训练大模型的过程中先训练一个百分百无害的AI模型，然后用这个无害模型来监督训练，他们要推向市场的大模型。而与之相比OpenAI使用无监督学习、以及使用海量非结构化数据训练模型，以最大程度的去预测人类语言一个追求模型的极致准确性，而一个注重模型的安全性。
我认为兄妹俩理念是很超前的，也是具备长期价值的。因为大语言模型的安全问题比历史上任何事物注意我的用词、是任何事物的安全问题都要更大。原因是未来大源模型一定会深入各行各业，也会深入到每个人90%的生活工作娱乐之中。就像现在的互联网。
而大语言模型不像互联网，互联网是确定的，一个域名对应一个网站、一串字符对应一个账号。而大语言模型生成的内容是不确定的，它会产生新的内容，甚至未来还可以自我迭代。
·途途从最一开始就注重AI安全，无疑是有价值的，也是投资人们所看重的。大家更认可追求极致准确性的Jeff，还是更注重安全的Jeff。关注我，离AI更近一点。点个赞吧!