返回

人工智能红队测试：推进安全可靠的人工智能系统 6页

VIP文档

ID：71098

大小：0.90 MB

页数：6页

时间：2024-09-09

金币：20

上传者：十三月
总统过度：优先议题
备忘录
2024
年
7
月
人工智能红队演练:
推进可靠安全的AI系统
人工智能系统在面对新型威胁时表现出独特的脆弱性，这些威
胁可能严重影响国家关键系统和公共服务。这些脆弱性包括幻
觉现象、模仿攻击以及敏感信息的提取。恶意行为者可以利用
这些攻击向量，导致身份盗窃、诈骗、生命和财产损失，以及
公众信任的侵蚀。为了应对对AI系统的对抗性攻击，我们必须
建立定期的AI红队演练，这种方法通过对抗性思维识别可被利
用的AI系统漏洞，并使AI社区在威胁发生之前采取相应措施。
采取行动的理由
人工智能的快速广泛应用将与其发展和进步的速度相匹配，这一速度是
前所未有的。这些因素共同造就了一个环境，在这一环境中，政府和工
业界使用的AI系统拥有广泛的“攻击面”，容易受到国家和非国家对手
的恶意行为的威胁。这些漏洞的利用会影响到关键公共服务和公众对机
构的信任。
虽然目前的行业实践以及以往的行政行动已经强调了AI红队演练的重要
性，但仍需进一步工作以将AI红队演练制度化，成为AI保证的不可或缺
的一部分。新一届政府应优先推进持续的AI红队演练工作，涵盖AI应用
的开发、部署及其持续使用阶段，以增强公众对AI的信任，减轻对抗性
利用的显著和已证明的风险，并保护美国的关键基础设施，包括民用和
军事设施。
MITRE的使命驱动团队致力于解决
问题，以实现一个更安全的世界。
通过我们的公私合营伙伴关系和联
邦资助的研发中心，我们在政府部
门和与行业合作伙伴的协作中，致
力于应对国家安全、稳定和福祉方
面的挑战。
mitre.org
人工智能作为一
种强大的双重用
途技术，其采纳
将在工业和政府
部门迅速而广泛
地推进。
资源描述：

本文档是一份关于总统过渡期间优先议题的备忘录，特别关注人工智能系统的安全和保障。

当前文档最多预览五页，下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页，下载文档查看全文
温馨提示：
1. 部分包含数学公式或PPT动画的文件，查看预览时可能会显示错乱或异常，文件下载后无此问题，请放心下载。
2. 本文档由用户上传，版权归属用户，天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容，确认文档内容符合您的需求后进行下载，若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误，付费完成后未能成功下载的用户请联系客服处理。
最近更新
更多
大家都在看
近期热门

分享

购物车

关闭