查看: 376|回复: 0

AI 要更聪明了?Deepmind 提出新架构:可实现更高级别推理

[复制链接]
发表于 2020-2-3 11:59:00 | 显示全部楼层 |阅读模式
  作者:I/O
  AI 究竟能否抓住推理的本质,也就是,对分布在多个事实或记忆中的元素之间的远距离关系实现认知?
  为此,Alphabet 子公司 DeepMind 试图从即将在 Arxiv.org 上发布的一项研究中找到答案,该研究提出了一种具有远距离推理能力的架构 MEMO 。按照研究人员说法,MEMO 有两个新的组成部门:第一个介绍事实和存储在外部存储中的记忆之间的不同点,第二个则采用检索系统,该系统允许在决定答案之前利用可变数量的“内存跃点”。
  通过这两个部门,可以使之可以或许解决新型推理任务
  雷锋网留意到,这个架构的灵感来源是海马。论文的合著者写道:
海马以全新的方式支持单个经验的灵活重组,以推断出未观察到的关系……这称为推理。有趣的是,已经有证据证明,海马是通过一个被称之为模式分离(pattern separation)的过程相互独立地存储记忆,以最大水平地减少记忆之间的干扰。 最近的一项研究揭示了这一点:这些被独立存储记忆的整合出现在通过循环机制(该机制允许多个模式分离的代码进行交互并因此支持推理)进行检索的时候。
  由此,DeepMind 的工作从这项研究中得到开导,以研究和增强呆板学习模子中的推理。 研究人员利用神经科学文献,设计了一个过程生成的任务,称为配对遐想推理(paired associative inference,简称 PAI),该任务旨在通过迫使 AI 系统学习抽象知识以解决先前未见的问题来获取推理能力。
  随之,研究者们构建了 MEMO,它可以或许在提供输入查询时会输出一系列可能的答案;而且为了尽量减少须要的计算,答案还多采用表征的形式。
  研究人员说,MEMO 在内存中保留了一组事实,并学习了一种与某种机制共同利用的映射方式,该机制在利用内存时具有更大的灵活性,并且它与典型的 AI 模子不同,由于它使计算时间适应了任务的复杂性。 在工作过程中,MEMO 从称为 REMERGE 的人类遐想记忆模子中获取线索,该记忆将从记忆中检索到的内容作为新查询进行再循环,并利用再循环过程中不同时间步长检索到的内容之间的差异来计算模子是否已适应在固定点上,随后,MEMO 会输出一个动作,该动作指示它是否盼望继续计算并查询其内存,或者是否是可以或许响应给定的任务。
  在测试中,DeepMind 的研究人员在 Facebook AI Research 的 bAbi 套件(雷锋网(公众号:雷锋网)按:一组 20 个评估文本理解和推理的任务)中将 MEMO 与两个基准模子以及当前的最新模子进行了比较,结果表现,MEMO 可以或许在 PAI 任务上实现最高的准确性,并且它是唯一可以或许在较长的序列上乐成回答最复杂的推理查询的体系布局。  
  此外,与性能最佳的基准模子的 10 个步骤相比,MEMO 仅需要三个“跃点(hops)” 即可完成一项任务。 在另一个需要模子在给定节点图的情况下找到两个节点之间最短路径的任务中,面临更为复杂的节点图,MEMO 比基准模子的表现好出了 20%。
  via Venturebeat,雷锋网编译。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?用户注册

x

相关技术服务需求,请联系管理员和客服QQ:2753533861或QQ:619920289
您需要登录后才可以回帖 登录 | 用户注册

本版积分规则

帖子推荐:
客服咨询

QQ:2753533861

服务时间 9:00-22:00

快速回复 返回顶部 返回列表