马斯克
如果在几年前，有人说人工智能将毁灭人类，你肯定会觉得是杞人忧天。但随着chatGPT面世展现出来的能力，或者你的想法已经开始发生改变。
几天前，包括伊隆马斯克在内的1000多名科技界领袖和研究人员敦促人工智能实验室暂停对最先进系统的开发，并在一封公开信中警告，AI工具“对社会和人类构成深远风险”。
这封信说，AI开发人员陷入了一场失控的竞赛，开发和部署越来越强大的数字思维，以至于所有人一一甚至包括它们的创造者一一也无法理解、预测或可靠地控制它们。
如果碰到不负责任的企业，后果是很可怕的。
目前已经有国家开始明确禁止GPT了，比如咱们国家，还有意大利。预计后面还会陆陆续续出现相同的情况，直到技术可控和实现监管。
这封公开信呼吁暂停开发比GPT-4更强大的AI系统。信中说，暂停开发将为人工智能系统引入“共享安全协议”提供时间。
“只有当我们确信强大的AI系统将立生积极的影响，并且风险将是可控的时候”，才应该推进开发。
萨姆·奥尔特曼
不过，OpenAI的首席执行官萨姆·奥尔特曼没有在这封信上签名。这也说明说服更广泛的科技界同意暂停是很困难的。
其实，在GPT-4发布之前，OpenAI要求外部研究人员测试该系统的危险用途。研究人员表明它可以被诱使建议如何在网上购买非法枪支，描述如何用家居用品制造危险物质，以及如何发帖子来说服女性堕胎是不安全的。
他们还发现，OpenAI能够使用在互联网上雇佣一个人并骗过验证码测试，该测试被广泛用于在线识别机器人。当人问系统是不是“机器人”时，系统自称视障人士。
经过OpenAI的修改后，GPT-4去掉了这些逻辑。当然这只是一小部分，安全是个范围很大的问题。
多年来，许多AI研究人员、学者和包括马斯克在内的技术高管都担心，AI系统可能造成更大的危害。其中一些人认为AI最终会毁灭人类。
尽管签署这封信的一些人以反复表达对AI可能毁灭人类的担忧而闻名，但是小编则更担心眼前的危险，包括虚假信息的传播，还有就是人们可能依赖AI进行医疗和情感咨询所导致的风险。
小编相信，这封信将成为一个转折点。GPT只是宣布停止6个月，后续将会迎来更安全更完善的版本。作为一个普通民众，也要防范被AI攻击的可能性。