科技国防创新,国防科技创新力量
cysgjj时间2024-04-22 09:04:17分类科技创新浏览31
美国国防创新委员会公布的五角大楼AI***原则包含哪些内容？
由五角大楼提供建议的16名著名技术专家组成的小组国防创新委员会今天投票批准了国防部的AI***原则。该报告包括12条建议，说明美军将来如何在战斗和非战斗AI系统中应用道德规范。这些原则分为五个主要原则：负责，公平，可追踪，可靠和可管理。
原则指出，人类应继续对“发展、部署、使用和成果”负责，军方使用的人工智能系统应避免可能导致意外伤害的偏见。国防部部署的AI还应该可靠、可管理，并使用“透明且可审核的方法，数据源以及设计过程和文档。”
“您可能会在[AI***原则文档]中看到公平一词引起的共鸣。我会告诫您，在许多情况下，国防部不应该公平。” 国防创新委员会成员和卡耐基梅隆大学研究副总裁Michael McQuade周四表示。“这应该是一个坚定的原则，即我们的系统中不应有意外的偏见。”
applied Inventions联合创始人和计算机理论家Danny Hillis及其他委员会成员同意对文件草案进行修订，称可管理原则应包括“避免意外伤害和破坏以及避免人为部署系统的脱离接触。”Hillis表示，该报告应明确这点。军方使用的AI系统应配备一个关闭开关，以防万一情况出错时人为按下。
“我认为这是关于它们的最具问题性的方面，因为它们能够展现和发展出设计者很难预测的行为形式，有时这些行为形式实际上是一种自我保护的行为形式，可以他与设计者的意图和目标有些脱节，所以我认为这是关于它们的最危险的潜在方面之一。”他说。
国防创新委员会由谷歌前首席执行官Eric Schmidt主持，成员包括麻省理工学院CSAIL主任 Daniela Rus，海顿天文馆主任 Neil deGrasse Tyson，LinkedIn联合创始人Reid Hoffman，Code for America主任 Jennifer Pahlka和Aspen 研究所主任Walter Isaacson。
国防部发言人告诉VentureBeat，题为“人工智能原则：国防部关于人工智能在***上的使用的建议”的文件和相关的***将在国防创新委员会的网站上共享。现在，这两者都将与国防部领导共享，以供他们决定是否***纳任何原则。
展望未来，委员会希望负责国防部内领先AI计划的联合AI中心与国防部长Mark Esper合作，制定沟通和政策命令，以确保原则能够成功，在可重复性，加强AI测试和评估技术，并创建年度AI安全和保障会议。
道德原则通过两个红队演习进行了研究，以考虑它们如何影响作战决策并认识到AI的潜在意外后果。它还承认指导美国国防部道德规范的现有文件，例如美国宪法，2015年版《战争法手册》和1949年日内瓦公约。
[免责声明]本文来源于网络，不代表本站立场，如转载内容涉及版权等问题，请联系邮箱:83115484@qq.com，我们会予以删除相关文章，保证您的权利。转载请注明出处：http://www.wnpsw.com/post/12003.html
