新型神经网络实现类人概念形成、理解与交流

近日，中国科学院自动化研究所（以下简称自动化所）脑图谱与类脑智能实验室余山团队与北京大学心理与认知科学学院毕彦超团队合作，提出了一种新型人工智能神经网络框架——CATS Net，实现了类人的概念形成、理解和交流，相关成果已在线发表于国际学术期刊《自然·计算科学》（Nature Computational Science）。

类人AI概念图。图片由AI生成

从感官体验中抽象出概念，一直是人类专属的独特能力。这种能力让人们可以脱离感官体验，直接在概念空间进行思考和交流。一般认为，这种将高维感知“压缩”为低维概念，再由概念“重构”感知的双向过程，共同构成了人类符号化思维的基础，进而支持了语言的产生。当前，人工智能（AI）系统难以实现这一过程。这是由于，传统的深度网络往往将知识“纠缠”在海量参数中，难以提取出独立的概念；而AI大模型则高度依赖人类已有的语言符号进行训练，无法真正“从无到有”地从感知经验中自发形成概念。

这种能够“玩抽象”的能力，一直也是当前AI与人脑之间的一个关键差别。但现在，余山团队与毕彦超团队合作提出的CATS Net框架，为AI逐渐具备类人概念智能打开了一扇门。

论文作者、自动化所副研究员陈阳介绍说，CATS Net包含两个核心模块：概念抽象（CA）模块与任务求解（TS）模块。在处理视觉任务时，CA模块能够自发地将高维的视觉输入，压缩成紧凑的低维“概念向量”。随后，这些概念向量如同“开锁的钥匙”一般，通过分层门控机制产生一系列“开关”信号，可动态调节TS模块的神经网络活动，高效灵活地指导其完成特定的视觉感知任务。在这两个核心模块的作用下，该系统可以根据与环境的互动，自主生成大量新概念，并形成自己的概念空间。

“这模拟了人类概念的形成和理解。”陈阳说，当不同神经网络所生成的概念空间对齐之后，就可以不用从环境中学习，而是直接通过概念向量在网络间传递知识，实现“模拟‘人类通过语言等符号来交流’的过程”。

进一步地，研究团队将CATS Net 自发形成的概念表征，与人类的概念空间和神经活动数据进行了对比。功能磁共振成像的表征相似性分析（RSA）显示，CATS Net 生成的概念空间不仅与心理学上的人类认知语义模型高度一致，其表征模式还与人类大脑中负责视觉语义表征的腹侧枕颞皮层活动（vOTC）模式显著相关。同时，概念抽象模块的动态门控机制，与大脑中负责概念提取与操控的语义控制网络活动模式相吻合。

“这非常有趣。”毕彦超说，这表明，CATS Net不仅在功能层面模拟了人类的概念认知，同时也在机制层面揭示了人脑概念形成与理解的计算原理。 她介绍说，CATS Net正是受前额叶工作机制启发的一种情境化信息处理模型（CDP），这也提示了前额叶和CDP可能在人类概念认知中发挥了核心的作用。

被问及研究初衷，余山告诉《中国科学报》，当前，大语言模型能力仍受限于人类语言所限定的范畴。而赋予它们自主形成新概念的能力，有望促进其在更广阔的领域发挥作用，“比如从事全新的科学探索”。

“当然，拥有了这种能力之后，如何确保这些系统与人类的价值对齐，将成为下一步要解决的关键问题。”余山说。