美国2019《国家人工智能研发战略规划》--战略2:开发有效的人和人工智能协作方法

 

 

节选于:

《THE NATIONAL ARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN: 2019 UPDATE》Strategy 2: Develop Effective Methods for Human-AI Collaboration

THE Report by the SELECT COMMITTEE ON ARTIFICIAL INTELLIGENCE of the NATIONAL SCIENCE & TECHNOLOGY COUNCIL

 

许多人工智能技术将与人类一起工作。如何最好地建立既直观又有用的人工智能系统与人类一起工作,成为一项重大的挑战。随着人工智能系统技术的不断增强,人类和人工智能系统之间存在的差距会逐渐被削弱。所以我们需要对人工智能进行一些基础的研究,以开发有效的人机交互和协作方法。

 

 

开发人工智能系统以补充和增强人的能力

并日益关注未来

 

2016年《国家人工智能研发战略规划》发布以来,人们对人和人工智能协作的兴趣日益浓厚。当人工智能系统补充增强人类能力时,人类与人工智能将成为完全自动化场景的合作伙伴。特别是,在未来的工作中,人工智能协作既是一个挑战,也是一个机遇。

 

在过去三年中,新成立的以及长期的会议,研讨会和工作组已经广泛地优先考虑人和人工智能协作。例如,人类计算和众包会议已经从一个研讨会发展成为重要的国际会议。该会议促进了人工智能与人机交互(HCI)交叉的研究。2018年,人工智能发展协会选择了人和人工智能协作作为其年度会议的新兴主题。2019年3月,《人机交互》杂志发出“统一人机交互和人工智能”呼吁。2019年5月,CHI举办了“搭建人工智能和人机交互之间的桥梁”的研讨会。麻省理工学院的计算机科学和人工智能实验室(CSAIL)以及推出年度人工智能和未来的数字经济倡议工作大会,开始探索人类,机器及其伙伴关系的作用。作为美国人工智能研究20年社区路线图的一部分,在2019年,计算社区联盟(CCC)举办了一场研讨会,重点讨论了人类与人工智能系统之间有意义的互动。此外,CCC前沿技术工作组在2017 - 2018年期间,专注提升技术以提高人员绩效的潜力,包括但不限于工作场所,教室和医疗保健系统。

 

2016年《国家人工智能研发战略规划》中的交叉战略原则“人工智能系统的适当信任需要解释能力,特别是当人工智能在规模和复杂性上增长时”,在人和人工智能协作的背景下看到了国家人工智能研发号召在行动。

 

许多专业协会和机构已将该原则确定为优先领域。可解释性,公平性和透明性是人工智能系统与人类有效合作的关键原则。同样,人工智能伦理道德与价值也是一个开放的研究领域。

 

由于联邦机构在过去三年中增加了对人工智能的投资,在任务目标方面,它们共同强调人机认知、自主性和机构性,如决策支持、风险建模、态势感知和可信的机器智能。通过这种研发投资,研究伙伴关系正在多个维度上发展,将计算科学家、行为、认知和心理科学家以及其他领域的科学家和工程师聚集在一起。学术研究人员和工作场所内外的人工智能系统用户之间形成了新的合作关系。

 

展望未来,至关重要的是,联邦机构应继续在开放的世界中促进人工智能的研发,以促进人工智能系统的设计,将用户的情况和目标结合起来,使人工智能系统和用户能够在预期和非预期的情况下协同工作。

 

虽然完全自主的人工智能系统在某些应用领域(如水下或深空探测)中将很重要,但许多其他应用领域(如灾难恢复和医疗诊断)最有效的解决办法是将人类和人工智能系统结合起来,共同努力实现应用目标。这种协作交互利用了人类和人工智能系统的互补性。虽然人和人工智能协作的有效方法已经存在,但大多数是“点解决方案”。它只在特定的环境中使用特定的平台来实现特定的目标。为每个可能的应用程序实例生成“点解决方案”并不具有可伸缩性。因此,需要更多的工作来超越这些点解决方案,转向更通用的人和人工智能协作方法。这必须在设计适用于所有类型问题的通用系统、减少构建所需的人力和增加应用程序之间切换的便利性与构建大量针对特定问题的系统之间进行权衡。

 

未来的应用将在人和人工智能系统之间的功能角色划分、人和人工智能系统之间交互的性质、人与其他人工智能系统协同工作的数量以及人与人工智能系统将如何通信和共享态势感知等方面有很大不同。人类和人工智能系统之间的功能角色通常分为以下类别:

 

人工智能与人类一起执行功能:人工智能系统执行支持人类决策者的外围任务。例如,人工智能可以帮助人们进行工作记忆,短期或长期记忆检索以及预测任务。

 

当人类遇到高认知过载时,人工智能执行功能:人工智能系统执行复杂的监控功能(例如飞机中的近地警告系统),决策制定以及人类需要帮助时的自动医疗诊断。

 

人工智能代替人类执行功能:人工智能系统执行人类能力非常有限的任务,例如复杂的数学运算,有争议的操作环境中动态系统的控制指导,有害或有毒环境中自动化系统的控制方面,在系统响应非常迅速的情况下(例如,在核反应堆控制室)。

 

 

实现人和人工智能系统之间的有效互动需要额外的研发,以确保系统设计不会导致过度的复杂性,不确定性或推翻。通过培训和经验可以增加人类对人工智能系统的熟悉程度,以确保人类对人工智能系统的能力以及人工智能系统能够做什么和不能做什么有很好的理解。为解决这些问题,应在这些系统的设计和开发中使用一些以人为中心的自动化原则:

 

1.采用直观、用户友好的人工智能系统界面,控件和显示设计。

 

2.让操作员知情。显示关键信息,人工智能系统的状态以及这些状态的变化。

 

3.让操作员接受培训。参与通用知识、技能和能力(ksa)的定期培训,以及人工智能系统采用的算法和逻辑以及系统的预期故障模式的培训。

 

4.自动化灵活。部署人工智能系统应被视为希望决定是否要使用它们的操作员的设计选项。同样重要的是,自适应人工智能系统的设计和部署,可用于在过度工作负荷或疲劳期间的人类操作员提供支持。

 

在创建与人类有效协作的系统时,研究人员面临许多基本挑战。以下小节概述了其中一些重要挑战。 

 

 

 

寻找新的人工智能算法

 

多年来,人工智能算法已经能够解决日益复杂的问题。然而,这些算法的能力与人类对这些系统的可用性之间存在差距。人类需要人性化智能系统,可以直观地与用户进行交互,实现无缝的人机协作。直观的交互包括浅层交互,例如当用户丢弃系统推荐的选项时,基于模型的方法,考虑到用户过去的行为;甚至是基于准确的人类认知模型的用户意图的深度模型。必须开发中断模型,允许智能系统仅在必要和适当时中断人类操作。智能系统还应具有增强人类认知的能力,知道在用户需要时,检索哪些信息,即使他们没有明确地提示系统获取该信息。未来的智能系统必须能够考虑人类的社会规范并采取相应的行动。智能系统如果具有某种程度的情商,就能更有效地与人类合作,以便它们能够识别用户的情绪并做出适当的反应。另一个研究目标是超越一个人和一个机器的交互,转向“系统体系”,即由多个机器与多个人交互组成的团队。

 

人工智能系统交互具有广泛的目标。人工智能系统需要能够代表多个目标,它们可以采取行动来实现这些目标,对这些行动的约束及其他因素,能够轻松适应目标的修改。此外,人类和人工智能系统必须有共同的目标,并且能够相互理解它们以及它们当前状态的相关方面。这就需要进一步研究以概括人类人工智能系统的这些方面,以开发需要较少人类工程的人工智能系统。

 

 

开发用于人类能力增强的人工智能技术

 

虽然人工智能研究的重点是匹配或优于执行狭窄任务人的算法,但还需要更多的工作来开发跨多个领域增强人的能力的系统。人类能力增强研究包括在固定设备(例如计算机)上工作的算法;可穿戴设备(如智能眼镜);植入设备(如大脑接口);在特定的用户环境中(例如特别定制的手术室)。例如,基于从多个设备组合的数据读数,增强的人类意识可以使医疗助理指出医疗过程中的错误。其他系统可以通过帮助用户回忆过去适用于用户当前情况的经验来增强人类认知。

 

人类与人工智能系统之间的另一种协作方式是积极学习智能数据。在主动学习中,从领域专家寻求智能数据的输入,并且仅在学习算法不确定时才对数据进行学习。这是减少首先需要生成的训练数据量或需要学习的量的重要技术。主动学习也是获得领域专家意见和增加学习算法信任的关键方法。迄今为止,主动学习仅在监督学习中使用;人类需要进一步研究,将主动学习纳入非监督学习(如聚类、异常检测)和强化学习。概率网络允许以先验概率分布的形式包含领域知识。我们必须寻求允许机器学习算法结合领域知识的一般方法,无论是以数学模型、文本或其他形式。

 

 

开发可视化和人工智能接口技术

 

更好的可视化和用户界面是需要更多开发的其他领域,以帮助人们理解来自各种来源的大量现代数据集和信息。可视化和用户界面必须以人类可理解的方式清楚地呈现从中获取的日益复杂的数据和信息。提供实时结果对于安全关键操作非常重要,并且可以通过增加计算能力和连接系统来实现。在这些类型的情况下,用户需要可视化和用户界面,以用来可以快速传达正确的信息以进行实时响应。

 

人工智能协作可以应用于各种环境,并且存在通信限制。在某些领域,人工智能通信延迟时间低,通信快速可靠。但在其他领域(例如,美国航天局将“勇气号”和“机遇号”探测器部署到火星),人类与人工智能系统之间的远程通信具有非常高的延迟(例如,地球与火星之间的往返时间为5-20分钟)。因此要求部署的平台基本上可以自主运行,只有高层次的战略目标才能传达给平台。这些通信需求和约束是用户界面研发的重要考虑因素。

 

 

开发更有效的语言处理系统

 

人们可以通过口头和书面语言与人工智能系统进行交互一直是人工智能研究人员的目标。虽然取得了重大进展,但在人类可以与人工智能系统进行就像对待其他人类一样的有效沟通之前,语言处理必须解决相当大的开放性研究挑战。语言处理的最新进展被认为是数据驱动的机器学习方法的使用。这些方法致使了系统的成功,例如,成功地在安静的环境中实时识别流利的英语语音。然而,这些成就只是实现长期目标的第一步。当前的系统无法应对现实世界的挑战,例如嘈杂环境中的语音、重音口音、儿童语音、语音障碍和手语语音。还需要开发能够与人类进行实时对话的语言处理系统。这样的系统需要推断对话者的目标和意图,根据实际情况判断对话者使用的语域,风格和修辞来处理这种情况,并在对话产生误解的情况下采用修复策略。需要进一步研究开发更容易概括不同语言的系统。此外,需要进一步研究以语言处理系统易于访问的形式获取有用的结构化领域知识。

 

为了使人类和人工智能系统之间的交互更加自然和直观,还需要在许多其他领域取得语言处理的进步。必须为口语和书面语中提供情感状态、情感和姿态证据的模式建立可靠的计算模型,并确定言语和文本中隐含的信息。需要新的语言处理技术,使语言在物理世界(如机器人学)中运行的人工智能系统的环境中接地。最后,由于人们在在线交互中的交流方式可能与语音交互大不相同,因此必须完善在这些上下文中使用的语言模型,以便社交人工智能系统能够更有效地与人们交互。

 

翻译仅供参考