发布于：2023-05-08 09:07 阅读次数：
【外汇EA大师网讯】——2023年3月29日，非营利组织“生命的未来”(the Future of Life)发表公开信，呼吁暂停研发比GPT-4更强大的人工智能系统至少6个月。
这一领域的1000多名专家、技术人员和行业高管，包括特斯拉首席执行官马斯克和Stability AI首席执行官艾玛德莫斯塔克，都签署了这封公开信。在这封信中，
我们还看到了一位中国科学家的名字——曾毅(中国科学院自动化研究所人工智能伦理与治理研究中心主任)。
虽然这封公开信没有法律效力，但却引起了公众对人工智能治理的前所未有的关注。我们特意找到了曾毅董事，问他是否方便谈谈他为什么要签署这封公开信。他果断地回答：“我肯定能说，而且我得说清楚。”在对话中，
我们还问他一个尖锐的问题：“是AI领域技术研发落后更可怕，还是继续发展人工智能带来的潜在风险更可怕？”曾毅的观点很明确：“从竞争的角度分析这个问题，会让人变得不理性，
目前，中国的水平还没有达到GPT-4。我赞同开发一个信息处理能力接近GPT-4的大模型，但对伦理安全治理的规范和思考远远超过了对这样一个大模型的研发。"
我之所以支持这样的倡议，真的是基于我对人工智能的大模式迅速介入社会服务的担忧。因为在GPT3.5中，它的隐患已经显现。当GPT4发布时，它的能力并不局限于文本交互。
随着多模态内容生成，将会暴露更多的风险。
GPT系列与以往的人工智能发展模式有很大不同。以前的人工智能，比如我做了一个人脸识别系统，人脸信息是什么样的，可能会有多少种类型的输出？其实是相对可以预测的。但是现在GPT的数据是互联网数据，
这些数据包含“谁说了什么”是不可预知的，任何人在另一端提出任何问题也是不可预知的。ChatGPT提问后的反馈是什么？就更不清楚了。这样，至少存在三个不确定性。
未来人工智能服务人类社会时，一旦有潜在风险，会以什么模式和速度放大？这个真的很难预料。
可以说，在给我们带来超能力的同时，也给我们带来了极大的风险。所以正如公开信中提到的，
我们准备好让这项技术取代我们满意的工作了吗？我们准备好让这种文字生成技术干扰甚至取代人类文明了吗？以及它是否为技术的安全、伦理和道德做好了准备，
要服务这么广泛的用户？对于公开信中提到的一系列问题，我们已经做好了准备，但其大规模应用已经开始。
这就是那封公开信的意义和价值。正是因为我们对可能出现的潜在风险完全没有准备，但是已经开始尝试的太早太激进，所以我觉得有必要暂停半年。先解决潜在的风险，先考虑清楚再说。
OpenAI不再使用API客户数据来训练其大型语言模型。但OpenAI的商业客户，包括微软、Salesforce和Snapchat，更有可能利用OpenAI的API功能。
当地时间5月5日，OpenAI首席执行官山姆奥特曼(Sam Altman)在接受美国消费者新闻与商业频道采访时表示。
该公司已经“有一段时间”没有使用付费用户的数据来训练像GPT这样的大型语言模型了。“客户显然不希望我们训练他们的数据，所以我们改变了计划，不再这样做。”
据美国消费者新闻与商业频道称，网络记录显示OpenAI已经在3月1日悄然更新了服务条款，奥特曼表示OpenAI不再使用API客户数据来训练其大型语言模型。
API是应用编程接口，允许客户直接访问OpenAI软件。奥特曼还提到，OpenAI目前正在开发新技术。
将有可能使用更少的数据来训练模型。
CNBC提到，OpenAI的商业客户，包括微软、Salesforce和Snapchat等，则更有可能利用OpenAI的API功能。
不过OpenAI最新的隐私和数据保护条款仅适用于使用该公司API服务的客户。OpenAI在更新后的使用条款提到，“我们可能会使用API以外的服务中的内容。
”这可能包括员工在广受欢迎的聊天机器人ChatGPT中输入的文本。据商业内幕(Business Insider)报道，亚马逊最近已经向员工发出警告，要求员工不要与ChatGPT分享机密信息，
以防这些内容出现在答案中。
其实这样的问题已经发生在了三星电子身上。据韩国媒体报道，三星近期发生了三起涉及ChatGPT误用和滥用的案例，其中包括两起“设备信息泄露”和一起“会议内容泄露”，报道称，
ChatGPT可能已经获取到了半导体设备测量数据、产品良率等信息。
就在接受CNBC采访前，奥特曼刚刚出席了白宫的一场会议，讨论对人工智能开发和使用进行额外监管的必要性。据环球网5月5日援引路透社报道，
美国总统拜登出席了当地时间4日举行的美国政府官员与四家人工智能领域龙头企业CEO间的会议，讨论AI的风险。
奥特曼表示，对于人工智能安全问题，OpenAI可以做很多事情，但是长期来看，人工智能需要全球政府采取行动、制定法规和标准，以确保人们能够从技术中获益，而非遭受负面影响。他认为，介于技术发展之迅速，
对于人工智能的强监管应该从现在就开始。
事实上，在过去几个月中，围绕ChatGPT和类似服务存在严重的隐私问题，人们已经展开过大量讨论。由于不确定数据将如何使用，不少专家、企业家都在不停警告人们，不要与聊天机器人共享敏感信息。
正在进行的作家罢工也与人工智能有关。当地时间5月2日，美国编剧工会和好莱坞等影视巨头的谈判宣告破裂，一万多名工会成员决定罢工。其中的重要原因就是流媒体平台对人工智能技术的运用，
对编剧的职业生涯形成威胁。
扫一扫添加微信