马斯克等千名专家签署联名信,呼吁暂停训练比GPT-4更强大的AI
作者:小微
发表于:2024年04月10日
浏览量:56366
(原标题:马斯克等千名专家签署联名信,呼吁暂停训练比GPT-4更强大的AI)
图片来源于网络,如有侵权,请联系删除
根报道,Tesla首席执行官Elon Musk、苹果联合创始人Steve Wozniak、图灵奖得主Yoshua Bengio等千名科技界专家及行业高管近日联合签署了一份关于《暂停巨型人工智能实验》的公开信,呼吁暂停训练比GPT-4更强大的人工智能系统至少6个月的时间,理由是这种系统对社会和人类构成潜在风险。公开信指出,现代AI系统正逐渐在通用任务上实现与人类竞争的水平,只有当人类确信AI系统的影响是积极的,风险是可控的时候,才应该开发强大的AI系统。此外,AI实验室和独立专家应该利用这个暂停期共同制定和实施一套共享的AI设计和开发安全协议,这些协议应由独立的外部专家严格审核和监督,应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停整个AI领域的发展,而仅仅是从危险的竞赛中退一步,避免研究更大、更难以预测、具有突现性能力的黑箱模型。
图片来源于网络,如有侵权,请联系删除