新型人工神经网络“连续思维机器”的突破

2次阅读

共计 452 个字符,预计需要花费 2 分钟才能阅读完成。

当下人工神经网络对生物神经网络模拟简单,能力和效率远落后于人脑。受其启发,“Transformer 八子”之一联合创立的 Sakana AI 提出了新型人工神经网络——“连续思维机器”(CTM)。

与传统网络不同,CTM 将神经元活动同步作为核心推理机制,在神经元层面使用时序信息,实现更复杂神经行为和决策过程。研究表明,CTM 能逐步“思考”问题,解决问题能力和效率提高,推理过程具可解释性。

在 CTM 模型中,神经元可访问自身行为历史,根据过去信息改变行为,其主要行为基于神经元之间的同步。添加时序信息后,研究团队观察到高度可解释行为,如浏览图像时会仔细移动视线并关注显著特征。

CTM 的一大优势是能观察其如何随时间解决问题。在迷宫求解任务中,CTM 会制定计划,像人类一样沿着迷宫路径前进,且能自行开发这种方法。在图像识别任务中,CTM 会采取多个步骤检查图像不同部分,使行为更具可解释性,还能节省能源。

现代人工智能以大脑为基础,但人工智能研究与神经科学重叠少。CTM 是在两者间架桥的首次尝试,有望构建更强、更高效的模型。

正文完
 0