发布于：2023-03-30 13:27 阅读次数：
【外汇EA大师网讯】——埃隆马斯克(Elon Musk)与一群人工智能专家和行业高管一起，在一封公开信中呼吁暂停开发比OpenAI新推出的GPT-4更强大的系统，理由是它对社会和人类有潜在风险。
这封信由非营利性的生命未来研究所(Future of Life Institute)发布，有包括马斯克在内的1000多人签名，呼吁暂停高级人工智能的开发。
直到这种设计的共享安全协议被独立专家制定、实施和审核。
“只有当我们确信强大的人工智能系统的影响将是积极的，其风险将是可控的，我们才应该开发这些系统。”信中说。
这封信详细描述了人类竞争性人工智能系统对社会和文明的潜在风险，这些风险表现为经济和政治干扰，并呼吁开发者和政策制定者在治理和监管机构方面进行合作。
联合签名者包括Alphabet子公司DeepMind的研究员、Stability AI的首席执行官艾玛德莫斯塔克。
以及人工智能的重量级人物，人工智能领域的世界顶级专家之一，图灵奖获得者Yoshua Bengio，加州大学伯克利分校人工智能系统中心创始人兼计算机科学教授。
同时也是人工智能领域《标准教材《人工智能：一种现代方法》的作者。
根据欧盟透明度登记册，
未来生活研究所主要由马斯克基金会、总部位于伦敦的有效利他组织Founders Pledge和硅谷社区基金会资助。
周一，欧洲警察组织欧洲刑警组织(Europol)加入了对ChatGPT等先进人工智能的道德和法律担忧的行列，警告称该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。
与此同时，英国政府宣布了一项围绕人工智能的“适应性”监管框架提案。
周三发布的一份政策文件概述了政府的做法，即在人权、健康和安全以及竞争监管机构之间划分管理人工智能(AI)的责任，而不是创建一个专门负责该技术的新机构。
马斯克的汽车制造商特斯拉正在自动驾驶系统中使用人工智能，他一直直言不讳地表达对人工智能的担忧。
自去年发布以来，微软支持的OpenAI的ChatGPT促使竞争对手加速开发类似的大规模语言模型，并促使公司将生成式人工智能模型集成到产品中。
未来生活的发言人告诉路透社，OpenAI的首席执行官萨姆奥尔特曼没有在这封信上签名。OpenAI没有立即回应置评请求。
“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解后果。”在信上签名的纽约大学教授加里马库斯说：
“它们会造成严重的伤害.大公司对他们正在做的事情越来越保密，这使得社会很难防范任何可能的伤害。”
扫一扫添加微信