OpenAI创始人呼吁全球合作,推动通用人工智能安全发展

  通用人工智能(AGI)是指能够像人类一样执行任何智能任务的人工智能系统。这一目标一直是人工智能领域的终极梦想,也是许多科幻作品的灵感来源。然而,AGI的出现也可能带来巨大的风险和挑战,比如如何确保AGI与人类的价值观和利益相一致,如何避免AGI被滥用或失控,以及如何平衡不同国家和地区在AGI领域的竞争和合作。

  为了探讨这些问题,北京智源人工智能研究院于6月10日举办了2023智源人工智能大会,邀请了OpenAI创始人Sam Altman以视频连线的方式发表了主题演讲,并接受了智源研究院理事长张宏江的问答。OpenAI是一家致力于推动友好型AGI的非营利性研究机构,其旗下的GPT系列模型是目前最先进的自然语言处理模型之一。

  Altman在演讲中表示,随着日益强大的AI系统的出现,全球合作的重要性从未如此之大。他认为,在一些重要的大事上,各国间必须进行合作和协调。推进AGI安全是我们需要找到共同利益点的最重要的领域之一。他还引用了《道德经》中的名句“千里之行,始于足下”,呼吁与国际科学和技术界合作,增加透明度和知识共享。

  Altman还介绍了OpenAI在AGI安全方面的研究进展和挑战。他说,对齐仍然是一个未解决的问题,需要新的技术方法。他举例说,GPT-4花了八个月的时间完成对齐方面的工作,比以往任何模型都更加与人类对齐。他还提到了可扩展监督和解释能力两个方向,以及使用AI系统来帮助进行对齐研究的目标。

  在问答环节中,张宏江向Altman提出了多个问题,涉及到AGI发展的时间表、不同国家在AGI领域的优势、开源模型的利弊、下一步的AGI研究方向、AI安全测试框架等话题。Altman表示,他没有一个具体的时间表或模型来预测AGI何时会出现,但他认为未来十年我们会有非常强大的AI系统。他说,开源模型有其优势,但开源一切可能并不是最佳路径。他还说,他们会尝试做一个GPT-5模型,但不会很快。他还透露,OpenAI曾经做过机器人方面的工作,并希望有一天能够回到这个领域。

  Altman最后表示,他相信我们可以利用AGI来解决世界上最重要的问题,并极大地改善人类的生活质量。他感谢张宏江和观众,并期待下次有机会来中国进行更深入的交流。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论