设计更能理解人类目标的人工智能

当研究人员设计机器学习系统时，他们的目标通常是将某些功能自动化。然而，这些系统不是完全自主的，而是与人类一起工作。为了提供真正的帮助，他们需要了解人们的目标是什么。

芬兰人工智能中心(FCAI)的研究人员现在已经在设计能够理解人的人工智能方面迈出了重要的一步。

起初，研究人员教人工智能建立一个用户-人类或机器的模型。然后，他们教它通过跟随用户的动作来适应这个模型。在实践中，研究人员开发了统计与计算相结合的机器学习方法，然后在实践和仿真中测试了这些方法。他们在简单的情况下测试了这些算法，以确保他们理解在这些情况下到底发生了什么，并准确地报告事件。

在第一个实验中，他们为学习AI设计了一个AI老师。

阿尔托大学(Aalto University)教授、FCAI主任塞缪尔•卡斯基(Samuel Kaski)解释称:“这很困难，尤其是因为学习人工智能可以决定它想学什么。”研究人员注意到，当教师理解了学习者已经学过的信息，并对其教材进行改编以适应该特定学习者时，人工智能学习者取得了更好的学习效果。

在第二个实验中，人类用户被要求使用一个基于人工智能的单词搜索引擎来找到一个特定的目标单词。该引擎一次向用户显示一个单词，然后用户告诉它所显示的单词在查找目标单词时是否有用。例如，如果用户正在查找单词“football”，他们可能会说第一个出现的与运动相关的单词是有用的，如果前面所有的单词都与食物有关。

本实验的结果表明，如果人工智能能够理解用户希望通过对呈现的词语做出某种反应来引导其指向正确的词语，那么它能够帮助用户更快地找到目标词语。换句话说，人工智能考虑了用户试图教它的事实。

根据Kaski教授的说法，这个主题很重要，因为当AI理解了它的用户的目标时，用户和AI之间的交互就变得容易多了。“那么人类用户就不需要再详细解释他们对人工智能助手的期望了。”

FCAI的主要目标之一是开发理解人类和可理解的人工智能。“到目前为止，我们只能在非常简单的情况下构建理解用户目标的人工智能系统，这意味着设计真正有用的人工智能助手需要大量的额外工作，”卡斯基说。