AI 中的神经网络连接性低于预期

admin 　2024年03月28日 09:58

人工神经网络继续带来难题。很难准确破译信息是如何编译的，文本是如何创建的，为什么会出现重大错误，以及为什么一些聊天机器人会崩溃。

其中一个原因是这些网络的基本结构类似于大脑。表征它们工作方式的不是数据点和单个信息，而是它们之间几乎无限数量的可能联系。

然而，正如 https://arxiv.org/pdf/2308.09124.pdf 最近的一项研究发现的那样，人工智能的神经网络通常保持在一个更简单的水平。

人工智能处理基本信息的方式比以前预期的要简单得多。例如，使用线性链接，而不是收集查询的所有可能答案，并使用最有可能的（因为最常链接的事实）进行响应。

研究人员能够在正在研究的人工智能中识别出总共47种不同的线性链接。这是通过相应的查询和随后通过神经网络跟踪信号路径来实现的。

对于许多事实来说，这令人惊讶地简短。例如，关于知名艺术家演奏的乐器、职业运动员所从事的运动类型甚至个别国家的首都的问题都可以通过一个链接来回答。相比之下，在网络中很难找到不太明显的问题的答案。

然而，可以证明许多信息是直接相互链接的，并且很难组织成一个网络。了解这样的聊天机器人如何输出其知识以及如何在网络中可靠地跟踪信号，无论如何都应该有助于理解人工智能有时令人好奇但有时难以识别的错误。

仅凭其令人惊讶的线性结构，深入了解它的工作原理就很有价值。

来源：IT时代网

Recommend