马斯克等千名科技人士签署公开信呼吁暂停训练比GPT-4更强大的AI系统

来源:TechWeb 2023-04-01 12:38:47  阅读量:7545   

,据外媒报道,在当地时间周二发布的一封公开信中,埃隆·马斯克和一群人工智能专家以及科技高管呼吁所有人工智能(AI)实验室立即暂停训练比GPT-4更强大的AI系统。

这封公开信由非营利性组织Future of Life Institute发布,信的开头写道:“广泛的研究表明,具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险,这一点也得到了顶级AI实验室的承认。”

这封公开信获得了1000多个签名支持,其中包括苹果联合创始人史蒂夫?沃兹尼亚克、Stability AI CEO伊马德?穆斯塔克(Emad Mostaque)、Sapiens的作者尤瓦尔?诺亚?哈拉里亚斯(Yuval Noah Hararias)、马斯克、图灵奖得主约书亚?本吉奥(Yoshua Bengio)、纽约大学名誉教授加里?马库斯(Gary Marcus)等,他们呼吁暂停训练比GPT-4更强大的AI系统至少6个月。

不出所料,OpenAI和微软高管并没有签署这封公开信。此外,Meta首席人工智能科学家Yann LeCun的名字没有出现在署名名单中。

这封公开信提到,6个月的暂停并不意味着AI总体发展的暂停,只是从目前危险的竞赛中退后一步。

公开信指出:“只有在我们确信它们的效果是积极的,风险是可控的,才应该开发强大的人工智能系统。”

这封公开信要求AI实验室和专家共同开发和实施一套安全协议,然后由独立的外部专家进行严格审计和监督。

在这封公开信发布的前两周,也就是在今年3月14日,美国AI研究公司OpenAI推出了新一代大型语言模型GPT-4。GPT-4是迄今为止最先进的AI系统,它的能力既让AI专家感到震惊,也让他们感到恐惧。

GPT-4是一个多模态大型语言模型,即支持图像和文本输入,以文本形式输出;扩写能力增强,能处理超过25000个单词的文本;更具创造力,并且能够处理更细微的指令;在高级推理能力方面超过了2022年11月30日推出的AI聊天机器人工具ChatGPT。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

猜你喜欢

300

热门文章