发布于：2024-02-19 10:17 阅读次数：
【:外汇EA主网讯】- 20家领先科技公司周五宣布，他们将共同努力打击今年选举中的人工智能错误信息。
该行业特别针对深度伪造，它可以使用欺骗性音频、视频和图像来冒充民主选举中的关键利益相关者或提供虚假投票信息。
微软、Meta、谷歌、亚马逊、IBM、Adobe和芯片设计公司Arm都签署了该协议。人工智能初创公司OpenAI、Anthropic 和Stability AI 以及Snap、TikTok 和X 等社交媒体公司也加入了该团队。
科技平台正在为世界各地的重大选举做准备，这影响着40 多个国家的超过40 亿人。根据机器学习公司Clarity 的数据，人工智能生成内容的兴起引发了人们对与选举相关的错误信息的严重担忧，深度造假的数量同比增长900%。
选举中的虚假信息一直是一个主要问题，可以追溯到2016 年总统竞选时期，当时演员们找到了廉价而简单的方法在社交平台上传播不准确的内容。如今，立法者更关注人工智能的快速崛起。
“我们有理由严重担心人工智能可能会被用来在竞选中误导选民，”加利福尼亚州民主党参议员乔什贝克尔在接受采访时表示。 “我们看到一些公司来到谈判桌前。这是令人鼓舞的，但我还没有看到足够的细节，因此我们可能需要立法来制定明确的标准。”
与此同时，用于识别深度赝品的检测和水印技术的发展速度还不够快。目前，两家公司仅就一套技术标准和测试机制达成一致。
要有效解决这个多层次的问题，他们还有很长的路要走。例如，声称可以识别人工智能生成的文本（例如论文）的服务已被证明对非英语母语人士存在偏见。对于图像和视频来说，这并不容易。
即使人工智能生成的图像和视频背后的平台同意嵌入不可见水印和某些类型的元数据，也有办法绕过这些保护。屏幕截图有时甚至可以欺骗探测器。
此外，一些公司在人工智能生成的图像中包含的隐形信号尚未进入许多音频和视频生成器。
就在该协议消息发布的前一天，ChatGPT 的创建者OpenAI 宣布了其用于人工智能生成视频的新模型Sora。 Sora 的工作原理与OpenAI 的图像生成人工智能工具DALL-E 类似。用户输入想要的场景，Sora就会提供高清视频片段。 Sora 还可以生成受静止图像启发的视频剪辑，并扩展现有视频或填充缺失的帧。
参与该协议的公司同意八项高层承诺，包括评估模型风险、“努力发现”并解决此类内容在其平台上的传播问题，以及向公众提供这些流程的透明度。与科技行业及其他行业的大多数自愿承诺一样，新闻稿明确表示，这些承诺仅适用于“与每家公司提供的服务相关的范围”。
“民主取决于安全可靠的选举，”谷歌全球事务总裁肯特沃克在一份新闻稿中表示。他表示，该协议反映了该行业为打击“人工智能产生的侵蚀信任的选举错误信息”所做的努力。
IBM 首席隐私和信任官克里斯蒂娜蒙哥马利(Christina Montgomery) 在一份新闻稿中表示，在这个关键的选举年，“需要采取具体的合作措施来保护人们和社会免受人工智能生成的欺骗性内容的放大”。风险。”
扫一扫添加微信