2019年10月31日，美国国防立异委员会（The Defense Innovation Board, DIB）在官网上放出了一个音讯，国防部DIB投票经过了一份名为《人工智能准则：国防部人工智能运用道德的若干主张》（AI Principles: Recommendations on the Ethical Use of Artificial Intelligence）的陈述。为了向五角大楼供给这份陈述，集结了16位出色技能专家组成了专家小组担任，耗时15个月完结，一起，也寻求了李飞飞、Yan Lecun在内的人工智能范畴的专家的定见。
文章仅供参考，观念不代表本安排态度。
美国国防立异委员会：美国国防部人工智能运用道德的若干主张
编译：学术plus高档评论员 张涛
陈述要害定论一览
1. 陈述中提出了“担任、公正、可追踪、牢靠、可控”五大准则。陈述着重国防部应保证技能专家对人工智能的技能、开发进程和操作办法有满足了解；国防部应防止成见，以防在开发和布置战役或非战役人工智能体系时对人形成无意损伤等。
2. 陈述中还提出了12条主张，包含经过国防部官方途径将这些准则正式化，树立一个国防部规模的人工智能辅导委员会，保证人工智能道德准则的正确履行，举行有关人工智能安全的年度会议等。
-1-
意图
国防部领导美国国防立异委员会DIB为国防部规划、开发、布置战役和非战役AI体系的道德准则。依据国防部现有的道德、法令和方针结构根底，以及人工智能相关范畴加快速度进行开展的实际，DIB开发的准则与国防部应对战役和维护国家安全的任务相共同。
-2-
国防部现有道德结构和价值观
AI现在和未来都会成为国防部战役和非战役功用的必要才能。事实上，AI仅仅国防部运用的很多技能之一，也会遇到其他国防部成功和安全布置的大型技能杂乱体系所遇到的应战。国防部和DIB都有关于价值观的结构，包含美国宪法、美国法典第10篇（Title 10 of the U.S. Code）在内的其他运用法令都为现有运转的AI道德准则供给了根底。
树立的道德结构和其对应的价值观辅导着国防部怎么做和履行决议计划。这是经过各式各样的声明、方针文件和现有的法令义务来表现的。国防部的道德结构反映了美国人民和美国宪法的价值观和准则。
-3-
五个准则
AI的运用是必须在现有国防部道德结构之内的。依据这一根底，研讨人员提出了更针对AI的5个准则，而且这5个准则要运用于战役和非战役体系。AI是一个快速和持续不断的开展的范畴，没有一个安排和企业可以开宣布处理一切应战和道德准则的AI体系。但国防部应当为AI体系的运用设定方针，那就是这五条基本准则：
担任任。人们应当对国防部人工智能体系的开发、布置、运用和成果担任。
公正性。国防部应当采纳恰当的办法来防止战役或非战役人工智能体系的开发和布置进程中对人类形成损伤。
可追踪性。国防部的人工智能工程研讨应该满足先进，这样技能专家可以对人工智能技能开发、开发进程和操作办法有充沛的了解，包含通明和可审计的办法、数据源、规划程序和文档。
牢靠性。国防部的人工智能体系应该有一个清晰的、界说杰出的运用范畴，而且应该在其运用范畴的整个生命周期内对体系的安全性（safety和security）和安稳性得到测验和保证。
可控性。国防部的人工智能体系的规划和工程运用应能完成其预期的功用，一起具有检测和防止意外损伤或抗干扰的才能，假如发现已布置的体系发生意外晋级或其他行为时，可以主动或手动停用。
-4-
12条主张
除了上述五个准则外，陈述中还提出了关于美国国防部未来如安在战役和非战役人工智能体系中运用道德规范的12条主张。
（1）经过国防部官方途径将这些准则正式化。JAIC（人工智能联合中心）应当向国防部长提出恰当的通讯和方针来保证这些AI道德准则持续性的实质。
（2）在国防部规模内主张一个人工智能辅导委员会。国防部副部长应当树立一个高档委员会，担任保证国防部AI战略和AI项目是与国防部AI道德准则是共同的。坚持AI道德准则要求国防部将这些道德准则融入到决议计划的底层，从概念级的规划到数据共享、云核算、IT战略等AI相关的范畴。
（3）进一步培育和开展人工智能工程范畴。OUSD(R&E)和实验室应该经过构建可行的工程实践来支撑AI工程学科的老练和生长。这些工程实践是国防部经过长时间培育起来的，为刚步入科研的研讨人员供给一些时机，将AI的安全性和担任任融入到AI技能和更大更杂乱的工程体系中。
（4）加强国防部的训练和人才计划。国防部作战司令部、每个组成部分的办公室、国防架构和相关范畴活动都应树立AI相关技能和仅仅的人员训练和教育计划。国防部应该经过专业军事教育和有用运用教育来为初级军官、文职人员等供给持续学习和教育的时机。
（5）出资人工智能安全方面的新研讨。方针副秘书长办公室和净点评办公室应当在了解竞赛与震慑的新办法方面做出资，尤其是其与网络安全、量子核算、信息战、生物科技等范畴交融在一起时。需求加强重视的范畴包含人工智能的竞赛和晋级动力、防止危险的分散、对战略安稳的影响、震慑的挑选以及国家间活跃和许诺的时机。
（6）出资于研讨以增强技能的可重复性的研讨。OUSD(R&E)应当加大对AI体系的可重复性的研讨。AI社区面对的应战是为国防部供给了一个了解杂乱AI模型作业原理的时机。这可以在必定程度上协助处理AI的黑盒问题。
（7）界说（人工智能）牢靠性的基准。OUSD(R&E)应当开宣布怎么对AI体系的功能进行一个基准性的点评，包含与人相关的功能。
（8）加强人工智能测验和点评技能的开展。在Office of Developmental Test & evaluation (ODT&E)的领导下，国防部应当运用或改进现有的国防部测验、点评、承认和验证进程，在必要的情况下，还应为AI体系立异的根底设施。这些进程应当遵从DIB软件收购与实践研讨（Software Acquisition and Practices , SWAP）。
（9）开发危险办理办法。JAIC（人工智能联合中心）应当依据道德、安全和危险考虑创立国防部人工智能运用的分类办法。该办法应当办理和影响老练技能在低危险范畴的快速运用，并加强对可能会引发不良后果的运用范畴的防备和查看。
（10）保证AI道德准则的正确履行。JAIC（人工智能联合中心）应当依据2019国防授权法案第238条的要求对这些准则的运用和完成进行点评作为监管的一部分。还要研讨怎么完成AI道德准则。
（11）将研讨扩展到了解怎么施行AI道德准则。OUSD(R&E)应当与相关研讨架构组成一个跨学科的人工智能安全性（safety和security）和鲁棒性的研讨项目组（Multidisciplinary University Research Initiative (MURI)），进行相关范畴的根底和学术研讨。
（12）举行关于人工智能安全性（safety和security）和鲁棒性的年度会议。人工智能范畴技能和运用开展迅速，JAIC（人工智能联合中心）应当举行年度会议对嵌入在AI安全性（safety和security）和鲁棒性中的道德进行全方位查看，以接纳来自内外部的声响。
-5-
定论
文件中提出的准则并未为了粉饰一些有争议的问题，也不是为了约束国防部运用AI的才能。提出这些准则的意图是为了让AI体系和相关的操作与国防部阻挠战役和维护国家的任务。此外，这些准则与现有的方针结构也是共同的。DIB站在国防部的视点提出AI道德准则，以及完成进程中的一些主张。
美国国防立异委员会是一个独立的联邦参谋委员会，旨在为国防部高档领导供给主张。成员包含来自谷歌、脸书、微软等科技企业的高管和专家。
研讨首要方向包含：软件收购实践研讨；零信赖之路；5G生态体系：国防部危险与机会；AI运用准则项目。
（全文完）
来历：学术plus
