人工智能（AI）提供了挖掘大数据的工具。无论它在哪里应用，它都有助于人们的工作和生活更轻松。但用户必须能够理解和控制人工智能的工作方式和决策依据。为了确保这一点，刘仁博士正在探索一种叫做视觉分析的方法。



作为智能人机交互（HMI）技术和系统的首席科学家，他的工作是探索如何将人机智能结合起来。可视化分析有助于避免错误，刘仁解释了它的工作原理。


什么是可视化分析？



人工智能辅助视觉分析，简称AiVA，是对人工智能推理的探索。它帮助我们理解人工智能系统是如何做出决策的，以及如何改进决策过程。这有三个阶段。首先，人工智能系统的数据经过处理，以便人类能够理解。在下一步中，数据将可视化。最后，通过最少的交互，人们可以利用这些可视化的信息来指导和优化人工智能系统。



人工智能算法通常就像一个黑匣子。他们制造了一个结果，但我们不知道他们是怎么做到的。这可能会引起一些问题，例如在自动招聘流程或信贷批准等情况下，决策是否真正公正。可视化分析可以通过提供决策过程的透明图片来消除这些疑虑。



让我们来看看我们正在与博世功能测试团队合作的自动驾驶系统。



在图像识别方面，这些汽车依赖于人工智能。但他们也必须面对我们所说的“拐弯情况”，这是一些罕见的情况，其中一些不寻常的条件会聚在一起，例如，当一辆汽车在恶劣天气中以一定角度面对红绿灯时。在这些情况下，系统需要什么来区分红灯？可视化分析有助于发现盲点，补充数据，并提高整体系统的准确性。


当它检测到这些缺点时会发生什么？



我们的可视化分析方法使用第二个人工智能自动填补数据空白。这个过程是透明的，涉及到人与人之间的互动。这样，第一个人工智能的缺点就得到了弥补。


个人工智能是如何生成这些数据的？


它利用了一种称为表征学习的方法。继续我们的红绿灯示例：根据训练数据，第二个人工智能学习一个表示法，这样每个红绿灯可以被分类为大约12个案例及其变体，所有这些都很容易让人理解。为了简化我们的示例，我们将只使用四个变体—交通灯的颜色、信号灯中的符号、背景以及它所指向的方向。



这四个有代表性的类别可以用来描述每一个红绿灯。这就是第二个人工智能如何对训练数据进行分类，识别和分类与红绿灯探测器（第一个人工智能）相关的错误案例。在发生弯道情况时，第二个人工智能还可以有效地生成新的训练数据，以进一步提高我们的交通灯识别器的性能，基于这四个类别和人工输入。



数据的可视化方式允许人们立即发现错误。人们可以通过将这些案例与所学的表示联系起来，轻松地分析这些案例，并找出人工智能训练数据中的差距。第二步，该系统要么生成新数据，要么就如何收集真实数据以填补这些空白提供指导。这样，人和机器一起工作，以提高我们的人工智能系统的性能。





上一篇：Q-CTRL团队与运输机构合作，利用量子计算优化交通网络
下一篇：“数字鼻子”：将电波形转变为定向气味“闻着回家”