年初 Twitter 有场关于 AI 应该闭源还是开源的辩论,知名投资人维诺德·柯斯拉(Vinod Khosla)和马克·安德森(Marc Andreessen)各站一边。
柯斯拉支持闭源,认为 AI 研究的敏感性堪比核武器,开源可能威胁国家安全。安德森则坚定地支持开源 AI。对于柯斯拉的忧虑,他调侃地说如果要像对待曼哈顿计划那样对待 AI,OpenAI 可能需要建立严密的防护措施,甚至需要美国海军陆战队的驻守。
现在,美国国安局前局长、退役陆军将军保罗·仲宗根(Paul Nakasone)受邀加入 OpenAI 董事会。作为美国情报部门前负责人,仲宗根在伊拉克、阿富汗和韩国执行过任务,包括参战,曾担任阿富汗国际援助部队情报队长。2018 年起,仲宗根成为美国国家安全局、美国中央安全局和美国网战司令部的负责人,今年 2 月刚刚结束任期。
硅谷建立之初靠国防投资建造芯片和计算机,但到了个人电脑互联网时代,最著名的企业大多和政府、军队保持距离,将情报部门负责人请进董事会更是罕见。知名投资人比尔·格利(Bill Gurley)也说,这不是一个初创公司的常见行为。
仲宗根会加入 OpenAI 董事会的安全与保障委员会,负责就 OpenAI 有关项目和运营的安全保障决策提出建议。随着仲宗根的加入,OpenAI 的董事会成员人数、构成已经和阿尔特曼前一次离开前后截然不同。
之前,董事会中开发者的数量占据多数,独立董事 —— 不担任公司董事以外的其他职位且无利益冲突 —— 与非独立董事各占一半。现在,独立董事在 8 位中占了 7 位,有企业家、医生、律师,还有前政府官员。
不再信任阿尔特曼的伊尔亚·苏茨克维(Ilya Sutskever)、塔莎・麦考利(Tasha McCauley)和海伦·托纳(Helen Toner)先后离开了董事会。苏茨克维在今年 5 月进一步辞去了首席科学家的职位,离开了 OpenAI。只有问答平台 Quora 创始人兼 CEO 亚当·安捷罗(Adam D’Angelo)和阿尔特曼本人留下。
同时,阿尔特曼也是董事会唯一的一位公司高管。在这一层面,没什么人能制约他了。
在 “超级对齐” 团队解散之后,董事会成立了安全与保障委员会以评估 AI 安全,但成员几乎全是董事和公司高管,包括阿尔特曼本人。
虽然 OpenAI 承诺将聘请外部的安全技术专家,如美国国安局官员罗布·乔伊斯(Rob Joyce)和美国前司法部官员约翰·卡林(John Carlin),但彭博专栏作家帕米·欧尔森(Parmy Olson)认为,OpenAI 成立此类监督委员会,实际上对监督几乎没有任何作用。
与此同时,OpenAI 也在扩大对监管的影响。扩充全球事务团队进行 AI 立法的游说活动,聘请多位公共政策领域的资深人士,新董事会成员仲宗根、劳伦斯·萨默斯(Larry Summers)的政策经验也可能帮助 OpenAI 在影响 AI 监管法规的制定上发挥作用。(实习生朱悦)