发布于：2023-03-31 10:01 阅读次数：
据官网，生命未来研究院，3月22日，生命未来向全社会发布了《暂停大型人工智能研究》公开信。
呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。该组织的使命是“引导变革性技术造福生命，远离极端大规模风险”。
信中说，“只有当我们确信它们的效果是积极的，风险是可控的，我们才应该开发强大的人工智能系统。”马斯克之前也多次表达过对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一。
威胁远高于车祸、空难、吸毒，甚至比核武器更危险。
截至目前，数千名科技巨头和人工智能专家，如马斯克、苹果联合创始人史蒂夫沃兹尼亚克和稳定性人工智能创始人艾玛德莫斯塔克，已经签署了公开信。
值得一提的是，OpenAI CEO奥特曼在与麻省理工学院研究科学家莱克斯弗里德曼的最新对话中指出，AI有其无法解释的推理能力，同时承认“AI杀死人类”有一定的可能性。
高盛：全球将有3亿人失业
ChatGPT迭代升级的步伐在加快，很多人对失业的恐惧越来越重。高盛分析师布里格斯和库达尼在3月27日发布的研究报告中直面了这个问题。
报告称：“最近出现的生成式人工智能将降低劳动力成本，提高生产率。虽然AI的潜力存在很大的不确定性，但它可以生成与人类创造的成果难以区分的内容，可以打破人机交流的壁垒。
反映出具有巨大潜在宏观经济影响的巨大进步。人工智能不仅节省了人力成本，还创造了新的就业机会，提高了在职工人的生产率。AI的革命性可以像早期的通用技术(如发电机、个人电脑)一样给社会带来繁荣。"
ChatGPT等生成式人工智能系统的最新突破，有望给全球劳动力市场带来重大颠覆。据估计，全球将有3亿个工作岗位被生成性AI取代，律师和行政人员将是最有可能被裁员的。
高盛研究发现，目前欧美约三分之二的工作岗位在一定程度上受到AI自动化趋势的影响，目前多达四分之一的工作岗位最终可能被完全取代。这项研究计算出，美国63%的工作都暴露在“人工智能的势力范围”之内。
超过7%的工作可以被AI自动化，这使得它们很容易被人工智能取代。在欧洲，情况类似。
更关键的是，现在的AIGC(人工智能生成的内容)不需要工资，也没有失业的概念。作为提供生产力的经济单位，其与宏观经济学的逻辑关系与人类相比发生了根本性的变化，可能会给经济环境带来不可估量的影响。
公开信一发表，尤德科夫斯基立即写了一篇长文，发表在《时代》杂志上。他说他没有签名，因为在他看来，这封信太温和了。这封信低估了形势的严重性，提出的问题太少，无法解决。他说，
关键问题不是“与人类竞争”的智力。很明显，当AI变得比人聪明的时候，这一步就很明显了。
关键是包括他在内的很多研究人员都认为，构建一个具有超人智慧的AI最有可能的后果就是，地球上所有人都会死。
不是“可能”，而是“肯定”。
如果没有足够的准确度，最有可能的结果就是，我们创造的AI不会做我们想做的事情，也不会关心我们，更不会关心其他有知觉的生命。
理论上，我们应该可以教会AI学会这种关怀，但现在我们并不知道该怎么做。
如果没有这种关怀，我们得到的结果就是：AI不爱你，也不恨你，你只是一堆原子组成的材料，它可以拿来做任何事。
而如果人类想要反抗超人AI，必然会失败，就好比「11世纪试图打败21世纪」，「南方古猿试图打败智人」。
Yudkowsky表示，我们想象中会做坏事的AI，就是一个住在互联网上、每天给人类发送恶意邮件的思想家，但实际上，它可能是一个充满敌意的超人AI，
一个思考速度数百万倍于人类的外星文明，在它看来，人类很愚蠢，很缓慢。
当这个AI足够智能后，它不会只待在计算机中。它可以把DNA序列通过邮件发给实验室，实验室将按需生产蛋白质，然后AI就拥有了生命形式。随后，地球上的所有生物都会死亡。
这种情况下，人类该如何生存？目前我们毫无计划。
OpenAI只是公开呼吁，未来的AI需要对齐。而另一个领先的AI实验室DeepMind，根本没有任何计划。
来自OpenAI官方博客，不管AI有没有意识，这些危险都存在。它强大的认知系统可以努力优化，并计算满足复杂结果的标准输出。
的确，当前的AI可能只是从训练数据中模仿了自我意识。但我们实际上对这些系统的内部结构知之甚少。
如果我们依然对GPT-4无知，并且GPT-5进化出了惊人的能力， 就像从GPT-3到GPT-4一样，那我们很难知道，究竟是人类创造了GPT-5，还是AI自己。
扫一扫添加微信