本文摘要：嘿，AI，你实在你在看什么？

嘿，AI，你实在你在看什么？为什么具有自学算法的机器还不会骗理解出有本不不存在的东西？随着无人驾驶汽车这样的产品经常出现，这一点显得更加最重要。现在，我们可以通过一项测试来看出机器的大脑，这一测试可以使人们告诉人工智能正在看一幅图像的哪些部分。

人工智能和人类几乎有所不同。罗德岛布朗大学的克里斯·格里姆说道，即使是最差的图像识别算法，也不会骗，比如不会将红噪图像识别成知更鸟或是猎豹，这是一个大问题。

他说道，如果我们不解读为什么这些系统会犯可笑的错误，那么我们把性命交付给人工智能时，就应该三思而后行，比如审慎考虑否发展无人驾驶汽车。因此，格里姆和他的同事们创立了一个系统，分析一个人工智能在辨识图像过程中，动态监测它在注目图像的哪一部分。类似于地，对于一种文档分类算法来说，该系统表明了算法用于哪些单词来要求一种特定文档应当归属于哪个类别。窥视内在谷歌的研究人员杜密鲁特·埃尔汗说道，这是一种十分简单的方法，可以更进一步理解人工智能并研究它是如何自学的。

格里姆的工具为人们获取了一种便利的方式，让人可以检查出有一种算法否正确地得出了准确的答案，他这样说。为了创立他的注意力追踪工具，格里姆在他想测试的人工智能上加装了第二个人工智能。这个“外包AI”更换了一张具有红噪的图像，来想到这否对完整软件的辨别产生了影响。

如果更换部分图像转变了结果，那么这个图像的区域很有可能是辨识过程中的一个最重要区域。这种方法某种程度限于于语言。如果在文档中转变一个词使人工智能对文档展开了有所不同的分类，那么它就指出这个词对人工智能的要求至关重要。

格里姆在人工智能上测试了他的技术，该人工智能经自学可将图像分类为10个类别，还包括飞机、鸟类、鹿和马等。他的系统同构出有了人工智能在展开分类时的视线路径。结果显示，人工智能早已学会了把物体分解成有所不同的元素，然后在图像中搜寻每一个元素，以证实其辨识结果。

辨识马头例如，当看见马的图像时，格里姆的分析表明，人工智能首先对腿展开了紧密注目，然后在图像中搜寻了它指出有可能是头的地方——它预先并无法告诉这匹马的头经常出现的地方。对于包括了鹿的图像，人工智能也采行了类似于的方法，但在这些情况下，它专门搜寻了鹿角。

人工智能完全几乎忽视了一个图像中的许多部分，这些部分并不包括有助分类的信息。格林和他的同事们也分析了一个训练后可以玩游戏“Pong”(某电子游戏）的人工智能。

他们找到，它完全忽视了屏幕上所有的东西，只是紧密注目着两根粗壮的移动小柱。人工智能对一些区域完全没注目，以至于把小柱从它预期的地方卡住后，它就误以为它是在看球而不是小柱。格里姆指出，他的工具可以协助人们辨别出有人工智能是如何作出要求的。

例如，它可以用来检查在肺部扫瞄中检测癌细胞的算法，保证它们会通过观察图像错误的部分，却刚好寻找准确的答案。“你可以想到它否没注意到准确的东西，”他说道，但首先，格里姆想要他的工具来协助人工智能自学。如果人工智能没注意到时，它就不会让人工智能培训师把他们的软件必要引领到到涉及的信息上去。

本文来源：澳门最新网站游戏-www.517bst.com