集智俱乐部 07月17日 00:31
基于信息分解的因果涌现理论|集智百科
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章介绍了基于信息分解的因果涌现理论,该理论通过将复杂系统中的互信息分解为独特信息、冗余信息和协同信息等原子,从而量化因果涌现。文章深入探讨了因果涌现的定义、相关概念,如部分信息分解和整合信息分解,以及基于协同信息和宏观态特有信息的因果涌现量化方法。此外,文章还讨论了因果涌现的分解,包括向下因果和因果解耦,并介绍了基于机器学习的方法。最后,文章总结了该理论的优势与不足,并展望了未来的研究方向。

💡 因果涌现理论是一种从因果角度量化复杂系统涌现现象的理论,它与涌现和因果概念紧密相连,旨在解决“涌现”的定量化问题。

🔍 部分信息分解(PID)将互信息分解为特有信息、协同信息和冗余信息等信息原子,揭示变量间的复杂相互作用,而整合信息分解(ΦID)进一步拓展了PID框架,用于分析多组变量间的互信息。

🤝 基于协同信息的因果涌现定义认为,如果系统内存在不可约的协同效应,即协同信息大于零,则发生因果涌现;而基于宏观态特有信息的因果涌现则关注宏观态对下一时刻系统提供的特有信息。

⬇️ 因果涌现可分解为向下因果和因果解耦两种形式,前者指宏观态影响微观变量,后者指宏观态在宏观层级表现出新的因果模式。

🧠 基于机器学习的方法通过最大化因果涌现的近似指标,学习宏观态变量,从而识别因果涌现,但该方法仍面临计算复杂度和结果依赖于近似指标的问题。

原创 集智百科团队 2025-07-12 21:09 北京

导语


基于信息分解的因果涌现理论是一种用于理解和量化复杂系统中因果关系的理论框架。该理论通过信息分解的方法,将系统中多个目标变量与源变量之间的互信息分解为不重叠的信息原子,包括独特信息、冗余信息和协同信息。基于这些信息原子的内在特性,该理论提供了一种量化因果涌现的定义,即通过测量源和目标变量之间的协同信息来量化因果涌现。该理论不仅能够识别出数据中的因果涌现现象,还能够基于特定的宏观动态来量化数据中的因果涌现。这为理解复杂系统中的因果涌现现象提供了新的视角。

为了系统梳理因果涌现最新进展,北京师范大学系统科学学院教授、集智俱乐部创始人张江老师领衔因果涌现系列读书会,目前已经持续到「因果涌现第六季」读书会,如果你对这一话题感兴趣,非常推荐你加入社区!

“集智百科精选”是一个长期专栏,持续为大家推送复杂性科学相关的基本概念和资源信息。作为集智俱乐部的开源科学项目,集智百科希望打造复杂性科学领域最全面的百科全书,欢迎对复杂性科学感兴趣、热爱知识整理和分享的朋友加入,文末可以扫码报名加入百科志愿者!


↑↑↑扫码直达百科词条


关键词:因果涌现,机器学习

吕奥博、张江 | 作者

张江、袁冰、杨明哲、王志鹏 | 整理&审校


目录

1. 历史

1.1 涌现

1.2 因果涌现

1.3 基于信息分解的因果涌现理论

2. 相关概念

2.1 部分信息分解

2.2 整合信息分解

3. 基于信息分解的因果涌现

3.1 基于协同信息的因果涌现定义

3.1.1 案例

3.2 基于宏观态特有信息的因果涌现

3.3 基于宏观态特有信息的近似计算

4. 因果涌现的分解

4.1 各项具体定义

4.1.1 系统因果涌现能力的分类定义

4.1.2 特定宏观特征因果涌现的分类定义

4.1.3 存在问题

4.2 充分指标和近似计算

4.3 基于机器学习的方法

5. 总结与展望


1. 历史


因果涌现理论是一种试图用基于因果的定量研究方法,从现象学的角度回答什么是涌现这一问题的理论,因此因果涌现的发展与人们对涌现和因果等概念的认识和发展密切相关。

1.1 涌现涌现一直是复杂系统中的一个重要特性,是许多关于系统复杂性,以及宏微观之间关系讨论的核心概念[1][2]。涌现可以简单理解为整体大于部分之和,即整体上展现出构成它的个体所不具备的新特性[3]。尽管学者们在各个领域都指出存在涌现的现象[2][4],如鸟类的群体行为[5],大脑中的意识形成,以及大语言模型的涌现能力[6],但目前还没有对这一现象普遍认可的统一理解。以往对涌现的研究大多停留在定性的阶段,如 Bedau等人[7][8]对涌现进行了分类研究,即将涌现分为名义涌现[9][10]、弱涌现[7][11]与强涌现[12][13]

1.2 因果涌现涌现和因果是相互联系的。具体来说,联系存在于以下方面:一方面,涌现本身可以看做为一种因果作用的结果,它刻画了复杂系统中各组成部分之间复杂的非线性相互作用;另一方面,涌现出的特性也会对复杂系统中的单个个体产生因果作用。此外,以往人们习惯于将宏观因素归因为微观因素的影响,但是宏观涌现出来的模式,往往无法找到微观的归因,所以也就无法找到对应的原因。由此可见,涌现与因果存在着深刻的联系。再者,虽然我们有了对涌现的定性分类,然而却无法定量的刻画涌现的发生。因此,我们可以借助因果来定量刻画涌现的发生。

2013年,美国理论神经生物学家 Erik Hoel 尝试将因果引入涌现的衡量,提出了因果涌现这一概念,并且使用有效信息(Effective Information,简称 EI)来量化系统动力学的因果效应强弱[14][15]。因果涌现可以描述为:当一个系统在宏观尺度相较其在微观尺度上具有更强的因果效应的时候,就产生了因果涌现。因果涌现很好的刻画了系统宏观和微观状态之间的区别与联系,同时把人工智能中的因果和复杂系统中的涌现这两个核心概念结合起来,因果涌现也为学者回答一系列的哲学问题提供了一个定量化的视角。比如,可以借助因果涌现框架讨论生命系统或者社会系统中的自上而下的因果特性。这里的自上而下因果指的是向下因果(downward causation),表示存在宏观到微观的因果效应。例如,壁虎断尾现象,当遇到危险时,壁虎不管自己的尾巴怎样,直接将它断掉。这里整体是因,尾巴是果,那么就存在一个整体指向部分的因果力。

1.3 基于信息分解的因果涌现理论然而,Erik Hoel基于有效信息的因果涌现理论存在着一定的弊端。首先,尽管因果涌现的量化定义为宏观和微观动力学的有效信息之差,但是这其中的宏观动力学变量依然有可能包含微观变量的部分信息,因而并不严格保证宏观变量的不可约简的特性;其次,为了得到宏观变量和动力学,我们必须指定粗粒化策略,即使可以通过最大化有效信息从而消除对粗粒化策略的依赖,但是这个最大化策略的搜索仍然是一个计算上的难题;最后,这种对于涌现现象的量化,难以刻画“整体大于部分之和”的效应。

因此,2020 年,Rosas 等[16]从信息理论视角出发,提出一种基于信息分解的方法来定义系统中的因果涌现,基于协同信息或者特有信息来定量的刻画涌现,这一方面部分回避了基于有效信息因果涌现理论的上述弊端。所谓的信息分解是分析复杂系统中各个变量复杂相互关系的一种新方法,通过对互信息进行分解,用信息原子来表示每个部分信息,同时借助信息晶格图将每个部分信息投射到信息原子中,其中协同信息以及冗余信息都可以用对应的信息原子来表示。该方法建立在 Williams 和 Beer 等[17]提出的多元信息非负分解理论的基础之上,文中使用部分信息分解(PID)将系统上下时刻的互信息进行分解。然而,PID 框架只能分解关于多个源变量和一个目标变量之间的互信息,Rosas 扩展了该框架,提出整合信息分解方法 ΦID[18]来处理多个源变量和多个目标变量之间的互信息,作者基于分解后的信息提出了两种因果涌现的定义方法。


2. 相关概念


2.1 部分信息分解在信息熵与互信息的基础上,部分信息分解(Partial Information Decomposition)是信息论的进一步扩展,旨在将信息论所关注的成对关系拓展到多个变量间的复杂相互作用。

在两变量场景下,信息论可以通过相互信息 I(X1;Y)量化单个源变量X1对目标变量Y的信息量。如果我们考虑加入第三个变量X2并探讨其中某一变量与另两个变量的关系时,经典信息论则只能描述联合变量{X1,X2}Y的相互信息,由I(X1,X2;Y)给出,而无法深入探究X1X2及其相互作用与Y 间存在何种关系。

这种传统测度局限性的一个体现就是变量间的协同效应:假设我们有两个独立的布尔变量作为源变量 X1,X2{0,1} 和一个通过对源变量进行异或操作所得到的目标变量 Y=XOR(X1,X2)。在这种情况下,总互信息 I(X1,X2;Y)=1,而个体互信息 I(X1;Y)=I(X2;Y)=0。也就是说,X1,X2 关于 Y 的相互作用产生了协同信息,而这无法用经典信息论中的互信息或是信息熵轻易捕捉到。

对于更加一般的三变量场景而言,部分信息分解将源变量 {X1,X2} 与目标变量 Y 之间的互信息分解为如下图所示的四个部分:

此处各个符号的定义为

· Unq(X1;YX2) 表示特有信息,是指每一个微观态变量单独给宏观态提供的信息:X1 具有的关于 Y 的“独特”信息,而 X2 中没有这些信息。

· Syn(X1,X2;Y) 表示协同信息,是指所有微观态 X1 和 X2 联合在一起给宏观态 Y 提供的信息。

· Red(X1,X2;Y) 表示冗余信息,是指两个微观态X1X2重复地给宏观态 Y 的“冗余”信息。

它们每一项都称为一个信息原子。

并且,这些信息原子满足如下约束关系:

信息分解除了能够被韦恩图所直观的呈现以外,更常被表示为晶格图的形式以在更多变量的情况下维持其简洁的结构。晶格图(lattice)是抽象代数中研究的一种抽象结构,它由一个偏序集组成。信息分解所得到的信息原子也可以被描述为一种晶格结构,这一晶格结构被称为冗余晶格(redundancy lattice)。冗余晶格是用来系统化地列举并组织所有可能信息源组合的结构。具体是由反链(antichain)和反链之间的偏序关系构成。

反链是信息源的非空子集作为元素所组合出的所有集合中元素间两两互不包含(即互相不为子集)的组合。 对于源变量集合S={S1,,SN},冗余晶格定义为, 这里是 S 的所有非空子集。

将所有反链收集起来后,它们之间的偏序关系定义为:给定两条反链 α和 β,定义 αβBβ,Aα,s.t.AB. 也就是说, α “高于”  β 当且仅当  α 中的每个集合都是  β中某个集合的子集。在冗余晶格上定义的每个节点对应一种“冗余信息份额”,而格的上下结构则刻画了不同冗余成分之间的包含与分解关系,从而为 PID 提供了一个清晰的代数化视角。

以两变量 {X1,X2} 为例,集合 {1,2}的所有非空子集包含 {1,2}{2}和 {1},因此所能构成的无重复变量的集合包括 {{1,2}} {{2}} {{1}} 和 {{1}{2}}。如下图所示,这些反链(anti-chain)与上图的信息原子一一对应,既{{1,2}} 对应协同信息,{{2}} 和 {{1}} 对应特有信息,{{1}{2}}对应冗余信息。

2.2 整合信息分解整合信息分解(Integrated Information Decomposition)是Rosas等[14]对于信息分解理论的进一步拓展。与部分信息分解关注一组变量与一个变量间的互信息不同,整合信息分解关注于两组变量间互信息的更细致划分。具体而言,该框架对两组变量间的互信息进行了两次不同方向的部分信息分解,分别是

1)将第一组的变量视为源变量,第二组的联合变量视作目标变量进行部分信息分解。

2)反之,将第二组的变量视为源变量,第一组的联合变量视作目标变量进行部分信息分解。

由于两次分解都是针对相同的两组变量间的互信息,因此我们得到了对该互信息的两种划分方式,通过对这两种划分方式进行组合,我们便得到了更加细粒度的信息分解框架。该框架对部分信息分解框架中目标变量的数量进行了进一步的拓展,使得我们能够分析源变量等于目标变量的场景。而其中最重要的应用场景之一就是马尔科夫系统的上下时刻间子系统间的关系,这也奠定了整合信息分解框架作为因果涌现框架的理论基础的可能性。

以两变量系统 {X1,X2} 为例,下图a中是前后向视角下分别对系统上下时刻互信息的分解结果,通过对这两种视角进行结合便得到了下图b中的16个信息原子。其中,左图中的彩色连边对应了右图中的彩色格点,例如左侧最上方{12}到{12}的绿色线条对应右图中最上方{12}->{12}格点。该图中的记号与部分信息分解中冗余晶格的记号含义相同。

由于整合信息分解框架是对信息分解框架的进一步划分,因此在整合信息原子计算时需要引入新的整合信息计算方法,该方法相比于已有的信息分解方法额外新增了一个自由度,因此需要在原有信息分解方法的基础上定义一个新的(比如冗余到冗余原子)的计算方法。具体的计算方法,如部分信息分解框架一样,也有很多广泛的讨论,但目前仍没有一个被普遍接受的方法。(可进一步补充)


3. 基于信息分解的因果涌现


Rosas等[16] 从信息分解理论的视角出发,提出了一套基于信息原子定义因果涌现的方法。该方法可被分为两个部分:首先是关于系统是否产生因果涌现的定义,包括指定宏观态特征与不指定宏观态特征的两种场景。以及在此基础上,基于整合信息分解(PhiID)的因果涌现类型划分:即因果解耦(Causal Decoupling)和向下因果(Downward Causation)。以下分别是因果涌现定义,因果涌现分类框架以及基于部分信息分解和整合信息分解的即因果解耦和向下因果具体定义。

3.1 基于协同信息的因果涌现定义在研究因果涌现(Causal Emergence)的框架下,我们考虑一个多变量动力系统,其中系统的状态随时间演化,并可以从微观层级(microscopic level)和宏观层级(macroscopic level)进行观察和建模。基于部分信息分解(PID)框架,作者提出了系统在未指定宏观变量情况下分别定义因果涌现的方法。

在每个时间步 t,设系统的微观状态(microscopic state) 由 Xt 表示,其中:。这里,代表该系统在时间 t 时刻的第 i 个微观变量,整个状态空间可以视为一个高维随机变量,描述系统在该时刻的完整状态。

基于协同信息的因果涌现定义:假设系统当前时刻的微观态 Xt 和下一时刻的微观态 Xt+1,定义指标为对该系统因果涌现的量化指标,其中指的是系统内任何大于等于k的子集所能产生的所有协同效用的总效果。且若该信息大于零,则先前时刻与后续时刻变量之间存在不可约的协同效应(irreducible synergy),即系统发生因果涌现。

指标指的是系统内任何大于等于k的子集所能产生的所有协同效用的总效果,而非PID框架中的特定协同信息原子。在系统只包含两个微观变量,且k=1的情况下,该定义等价于两源变量系统的协同信息。以三变量系统为例,当源变量是当前时刻三个微观变量,目标变量为下一时刻联合变量时,系统的信息分解晶格图如下所示。对于信息分解框架,三变量对自身联合变量的协同信息应当为下图中的{123},但是该定义包含下图中的粉色区域所有晶格。

3.1.1 案例以下是一个四变量布尔网络案例,其每个节点遵循如下的动力学规则:

A、B、C、D是四个布尔类型的变量,它们的连边情况如上图所示,其中A节点受到C、D两个节点的影响;B节点受到C、D两个节点的影响;C节点受到A、B的影响;D节点受到A、B的影响。右侧的表格给出了节点彼此的相互作用规则。

进一步,根据上图右侧中的规则遍历所有的状态,我们可以得到系统转移到另一个状态的概率值,进而绘制出属于该马尔科夫链的状态转移图。其中每个节点代表一种可能的状态,箭头的灰度代表概率值的大小,如下所示:

其中,每个节点代表一种系统状态,连边表示状态彼此之间的概率转移,灰度代表概率大小。

我们可以用William和Beer的方法计算冗余信息和这个四变量系统的冗余晶格。由于这是一个四节点的系统,因此冗余晶格过于庞杂而无法画出。但我们可以列举出所有非零的信息原子和相应的信息量:

信息原子及其对应的原子信息量与注释

其中信息量相对较大的信息原子包括ABCD四变量的协同,A,B和C,D两两分组组合在一起的冗余,以及ABCD四个变量共享的冗余信息。其中由协同效应产生的信息原子(无法被任何单一变量所提供的信息)则为前12行。

因此,按照因果涌现的度量指标Syn(k)(At,Bt,Ct,Dt;At+1,Bt+1,Ct+1,Dt+1),即所有协同效应的总和,该案例存在因果涌现,并且其度量结果为前12个信息原子数量之和,共0.8018比特。

3.2 基于宏观态特有信息的因果涌现尽管上述基于协同信息的因果涌现是一种不依赖于任何粗粒化策略的因果涌现定义,同时它也能很好地刻画出涌现的“整体大于部分之和”的特征,但是它却很难被实际计算出来,这是因为计算各阶的协同信息需要遍历冗余晶格,其次冗余晶格的节点数会随着系统中变量数的增长而指数爆炸。因此,Rosas在[16]中又提出了一种新的等价定义,该定义基于指定的宏观态变量,并且基于该变量的特有信息。

为了研究系统在更高层级的行为,我们引入宏观状态(macroscopic state) Vt,其由微观态 Xt 通过某种粗粒化(coarse-graining)策略得到,即: Vt=f(Xt) 其中,函数 f() 代表某种确定性的映射,将高维的微观状态映射到较低维的宏观表征。因此,宏观状态 Vt 是 Xt 的随附特征(supervenience),意味着 Vt 的值完全依赖于 Xt,但不同的粗粒化方法可能导致不同的宏观表征。

基于特有信息的因果涌现量化:在指定系统的宏观随附特征(即宏观态变量) Vt 后,系统的因果涌现可以被定义为

 (1)

这里表示在给定Xt的所有分量的情况下,变量VtXt+1所提供的不包括在任何Xt中大小大于k的子集中的信息。

当:>0 则称系统发生了因果涌现,即当前时刻的宏观态 Vt 能超过当前时刻的微观态 Xt 给下一时刻的整体系统 Xt+1 提供更多信息,则系统存在因果涌现。此处的 k表示排除掉系统内每k个变量所构成的变量组内部所产生的该效应(类似于在微观和宏观间加入针对所有大小为k的子集的粗粒化中间层,然后仅关注从该中间层出发到宏观层间的因果效应)。为了便于理解,在本词条的后续介绍中默认k=1并不再标注,即不存在中间层的情况。

因果涌现指标想要表示的是不能够被任何单一的微观变量所提供的信息,但是能够被他们之间的协同效应(的代表Vt )所提供的关于下一时刻系统 Xt+1 的信息。该指标代表不能够被任何单一的微观变量所提供的信息,但是能够被Vt所提供的关于下一时刻系统Xt+1 的信息。以两变量系统为例,令微观变量为变量1和2,宏观变量Vt={}为变量3,目标变量为{},此时三变量关于目标变量的信息分解如下图所示,该定义包含下图中的粉色区域所有晶格。

基于以上的定义,Rosas 等人进一步提出了引理以支撑因果涌现的定义[16]

引理 1(因果涌现的必要条件),如果系统在时间 t 具有因果涌现特性,则必定满足:

1. 系统的微观变量至少大于等于2。这表明因果涌现的存在要求当前时刻的系统状态必须具有协同信息贡献(至少要来源于两个或以上变量),否则宏观态不会比微观态提供更多的预测信息。

2. 宏观变量不是任何一个微观变量的确定性函数。这与第一点类似,既 Vt 能够以高于单一微观态的方式(协同方式)预测系统的未来状态。

值得注意的是,方法二判断因果涌现的发生需要依赖宏观态 Vt 的选择,而方法一是方法二的下界。这是因为:

若 Un(Vt;Xt+1|Xt) 大于 0,则系统必然会出现因果涌现。然而,Vt 的选择往往需要预先定义粗粒化函数,因此方法一无法回避 Erik Hoel因果涌现理论的局限。而方法二借助协同信息来判断因果涌现的发生,但协同信息的计算复杂,存在组合爆炸问题,往往不可行。

3.3 基于宏观态特有信息的近似计算然而,即使根据公式1,该特有信息由于信息分解理论的不足和计算复杂性,仍然难以计算,因此Rosas等人在文献[16]中进一步提出了一个近似计算该特有信息的方法,即:

因果涌现的近似计算方法:在给定宏观态表里Vt的条件下,系统的因果涌现可以被量化为:

且定义当

则系统发生了因果涌现。

值得指出的是,这个指标衡量的是两个时间步长之间宏观变量的互信息减去每个微观状态与下一宏观状态之间的互信息,减去微观状态与下一时刻宏观状态之间的互信息一定能够保证所有的单一微观态和下一时刻的宏观态间的效果被从两时刻宏观态间的效果中剔除,但是这一不可避免的导致不同微观态对下一时刻的宏观态所提供的相同效果被重复的考虑。


4. 因果涌现的分解


在系统的时间演化过程中,微观状态Xt影响下一时刻的微观状态Xt+1,即:P(Xt+1|Xt)同时,宏观状态Vt也演化为Vt+1,其变化取决于其自身的历史状态和底层的微观演化:P(Vt+1|Vt)此外,由于VtXt生成,我们也可以定义:P(Vt|Xt) 以描述从微观到宏观的信息传递关系。



如上图所示,因果涌现(Causal Emergence) 指的是在某些系统中,宏观变量相比于微观变量表现出更清晰或更强的因果关系(从当前时刻的宏观态到下一时刻的系统,包含红绿两部分)。换句话说,系统的因果结构在某种粗粒化的表征下可能变得更具信息性,而不是简单地由微观层级直接推导出来。在这样的设定下,框架具体关注因果涌现可以被进一步分解为两种主要表现形式:

1. 向下因果(Downward Causation):宏观态 Vt 影响下一时刻微观态 Xt+1的部分变量,即宏观变量能够提供超过所有仅单独考虑系统每个微观变量的效果的总和,这意味着宏观信息能够提供额外的预测能力,而不仅仅是所有微观状态直接演化的线性组合。

2. 因果解耦(Causal Decoupling):某些宏观态 Vt 对于预测下一时刻宏观态 Vt+1 具有比所有仅单独考虑系统每个微观变量的效果的总和更强的能力:这表明系统的演化在宏观层级上可能表现出新的、在微观尺度上不明显的因果模式。

也就是说,无论如何定义因果涌现,它总可以被进一步分解为两项,即向下因果和因果解耦。

以下案例能够很直观的说明以上两种因果涌现的形式:

文中作者列举了一个具体的例子(如上式),来说明什么时候发生因果解耜向下因果以及因果涌现。该该例子是一个特殊的马尔科夫过程,这里,表示动力学关系,为微观态。所有微观变量的异或为宏观态。该过程是基于前后两个时刻的变量xtxt+1取值间关系的概率定义的。

因而该过程的宏观态可以就看做是整个序列所有维度和的奇偶性,该奇偶性的概率分布是微观态的异或计算的结果。定义的第一行表示下一时刻的第一个微观变量取值是由上一时刻宏观态(全部微观变量的异或操作)决定的,这种需要上一时刻所有变量共同参与才能够进行的预测(运算)对应着向下因果。第二行和第三行确定了系统上下时刻宏观态之间的关系,根据γ取值的不同,系统上下时刻间会存在不同的宏观预测能力,而这对应着因果结耦。

4.1 各项具体定义在给出了定义的基础之上,因果涌现可被进一步划分为向下因果(Downward Causation)与因果解耦(Causal Decoupling)两个部分,并且它们也都分别有在指定宏观变量和未指定宏观变量情况下的定义。

4.1.1 系统因果涌现能力的分类定义如果因果涌现采用协同信息的方式定义,即未指定系统的宏观随附特征时,测量系统是否存在因果涌现的指标可基于PhiID框架进一步分为如下两部分:

其中代表向下因果的指标是指在系统进行整合信息分解后所产生的从协同原子(反链)α到协同原子(反链)β的所有信息原子。而代表因果结耦的指标,是指在系统进行整合信息分解后所产生的从协同原子(反链)α到非协同原子(反链)β的所有信息原子。这里的协同原子(反链)(包含在中的原子)指的是仅能够通过变量间的协同效应所产生而无法被任何一个变量所单独提供的信息,其形式为所有不存在元素数为1的集合的反链。而非协同原子(包含在中的原子)则是存在至少一个元素数为1的集合作为其元素的反链。

以二变量系统为例: Xt由两个微观变量组成,而Xt+1Xt影响: 在ΦID框架下,对系统从时间tt+1之间的互信息I(Xt;Xt+1)进行分解,可以得到 16 个信息原子。这些信息原子由PID 信息原子的双向作用形成,即每个ΦID原子都可以表示为一个PID 信息原子对的有向组合。

特别地,从 12出发的四个 ΦID 原子与因果涌现的定义及其分类直接相关,其中:因果解耦(G)对应于 {{12}}{{12}},其取值大于零则系统具有因果解耦。向下因果(D)对应于 {{12}}{{1}},{{12}}{{2}},{{12}}{{1}{2}},其中任意取值大于零则系统具有向下因果。

通过这种方式,PhiID 允许我们将系统的因果涌现分解为不同的成分,并在数学上严格刻画因果信息流的方向性。这一框架不仅适用于理论分析,还可以用于实际数据集的计算分析,帮助识别复杂系统中的因果结构。

4.1.2 特定宏观特征因果涌现的分类定义在指定系统的宏观随附特征 Vt 时,基于前文对于因果涌现的定义,测量系统是否存在因果涌现的指标Un(Vt;Xt+1|Xt)可进一步分为如下两部分:

1. 向下因果意味着宏观变量 Vt 对微观变量 Xt 的未来状态 Xt+1 产生影响,而这个影响无法由单个解释。其定义为, 其中代表微观变量集合的一个大小为|α|的子集,即

2. 因果解耦意味着某个宏观特征 Vt 影响未来宏观状态 Vt+1,但该信息在微观层级(Xt 或 Xt+1)不可见。其定义为Un(Vt;Vt+1Xt,Xt+1)

此外,如果系统存在因果涌现,即,并且对于微观变量任意大小的子集都存在 ,则称Vt 具有纯粹的因果解耦。如果所有涌现特征都表现出纯粹的因果解耦,则称系统是完全解耦的。

编者注: 此处的数学表述也有类似歧义,因此我们提议将以上两个指标分别写作,该表示方式代表不能够被任何单一的微观变量所提供的信息,但是能够被Vt所提供的关于下一时刻的信息。同样需要注意的是,尽管这种表示方式能够严谨的表达因果涌现的定义,但是无法套用PID算法对该指标进行计算。如果想要计算修正后的该指标,需要引入有粗砺化函数的PhiID框架。

4.1.3 存在问题尽管信息分解提供了严谨的理论框架,但计算因果涌现仍然存在以下挑战:

1. 计算复杂度 - 计算PID 或 ΦID 中的信息原子随着变量数的提升其复杂度与计算量均呈现指数提升,因此很难将该方法应用于实际系统。

2. 粗粒化选择的影响 - 由于 Vt 的定义会影响因果涌现的测度,如何自动选择最佳的粗粒化策略仍然是一个未解决的问题。

3. 信息分解的不确定性 - 不同的信息分解方法可能导致不同的因果涌现度量,PID 计算的不一致性导致因果涌现的定义依赖于特定的 PID 计算。

这些挑战说明,尽管 PID 框架提供了强有力的因果涌现理论基础,但其应用仍然依赖于实际系统的计算方法和数据可获取性。

4.2 充分指标和近似计算为了解决上述提到的问题,Rosas简化了因果涌现的计算,并建立了一套基于因果解耦和向下因果的识别标准。具体来说,为了避免该方法基于特定的某个协同信息和冗余信息的具体量化方法,这套标准通过反复减去冗余信息,使结果成为因果涌现的充分条件。三个指标如下:

1. ,这个指标衡量的是两个时间步长之间宏观变量的互信息减去每个微观状态与下一宏观状态之间的互信息。减去微观状态与下一时刻宏观状态之间的互信息一定能够保证所有的单一微观态和下一时刻的宏观态间的效果被从两时刻宏观态间的效果中剔除,但是这一不可避免的导致不同微观态对下一时刻的宏观态所提供的相同效果被重复的考虑。

2. ,这个指标是Vt之间互信息与之间互信息总和之间的差的最大值。

3. ,这个指标是Vt之间最大互信息。这个指标既包含了上一时刻任意微观态通过宏观态对当前时刻微观变量j的预测,也包括了只由上一时刻宏观态所提供的对这一时刻微观变量Xj的预测。

对于上述指标,V是一个预定义的宏观变量。这些指标的具体用途如下:

1. 当Ψt,t+1(V)>0 ,这是Vt因果涌现的充分条件。因为如果I(Vt;Vt+1)在剔除所有从单一微观变量到宏观变量的效果后(包括重复剔除)仍保持正值,说明一定存在不能够由任意单一微观变量提供的只属于宏观态间的相互作用。

2. 当Δt,t+1(V)>0 ,这是Vt表现出向下因果的充分条件。如果存在一个变量Vt使得该值为正,则说明对这个微观变量Xj而言即便重复考虑了所有其余变量对自身的效应,依旧没有宏观态对自身的影响大,因此一定存在从上一时刻宏观态到这一时刻微观态Xj的向下因果效应。

3. 当Ψt,t+1(V)>0Γt,t+1(V)=0时,这构成了因果解耦的充分条件。即如果对于任意微观变量Xj,上一时刻宏观态都无法提供任何信息,那么存在的因果涌现就只能以因果解耦的形式存在。

尽管这三个指标避免了冗余信息计算的问题,但重要的是要注意,它们作为充分条件,而不是涌现性的决定性证明。换句话说,大于0的指标可以表明存在涌现性,但小于0的指标并不一定意味着不存在涌现性。这个指标的构建在识别具有大量冗余信息或大量变量的系统中的涌现性时面临挑战,并且这类系统在许多现实世界中通常是常见的情况。此外,这种方法的一个局限性是需要预先确定粗粒化变量V,而这个变量的不同选择也会显著影响结果。

为了强调该套指标的可行性,Rosas在文中使用了三个案例进行验证,并得出了以下结论:粒子碰撞在康威的生命游戏(Conway’s Game of Life)中被验证作为一个独特的特征涌现,鸟群动态指标(平均位置)在模拟的鸟类行为中被验证作为一个特征涌现,猕猴的运动行为被验证从神经活动中涌现。具体研究设计详见文章。

总体来说,Rosas不仅提出了一种基于PID理念和ΦID框架的定量表征和分类因果涌现的方法,还在此基础之上给出了用于回避信息分解计算问题的因果涌现充分判断指标,一定程度上弥合了因果涌现研究理论框架与定量实证研究之间的差距。

4.3 基于机器学习的方法Kaplanis 等人[19]基于表示机器学习 (Representation learning) 的理论方法,用算法通过最大化Ψ(即公式1)而自发学习到宏观态变量V变量。具体的,作者们使用神经网络fθ来学习将微观输入Xt粗粒化成宏观输出Vt的表示函数,同时使用神经网络gϕhξ来分别学习I(Vt;Vt+1)等互信息的计算,最后该方法通过最大化两者之间的差 (即Ψ) 来优化神经网络。该神经网络系统的架构图如下图a所示。


图b展示了一个 toy 模型实例,微观输入存在 6 个维度,每个维度存在 0 和 1 两种状态,Xt+1 是 Xt 的下一时刻输出,宏观态为,其中表示微观输入 Xt 前 5 个维度加和模 2 的结果,前后两个时刻的宏观态存在 γ 概率相等,微观输入的前后两个时刻的第6个维度以 γextra 概率的可能性相等()。

结果表明,在图b所示的简单例子中,通过图a构建的模型最大化 Ψ,实验发现学习出来的 Ψ 和真实的 groundtruth Ψ 近似相等验证了模型学习的有效性,该系统能够正确地判断出因果涌现的发生。但是该方法也存在着难以应对复杂多变量情形的问题,这是因为图中的右侧的神经网络数量是正比于宏微观变量对的数量的,因此微观变量数(维度)越多,则神经网络的数量就会成比例增长,这会导致计算复杂度的提升。此外,该方法仅在很少的案例上进行测试,因此尚无法规模化。最后,更主要的是,因为网络计算的是因果涌现的近似指标,且得到的是涌现的充分非必要条件,所以上述近似算法的各种弊端会被此方法继承。


5. 总结与展望


将 Hoel 的框架与 Rosas 的因果涌现量化框架进行比较,可以发现后者有几个明显的优势。首先,Rosas 的理论不需要预先确定的粗粒化方法,这使得它在数学上更加严谨和正式。其次,它对因果涌现进行了详细的分解,特别是向下因果关系和因果解耦。最后,它有效地避免了伪因果涌现的情况,即宏观变量仅依赖于微观变量中的独特或冗余信息。

然而,也有一些缺点需要考虑。首先,为了获得完整的信息格,需要对所有变量组成进行系统迭代。此外,尽管使用了近似公式,但仍需要定义一个宏观变量。不幸的是,作者没有提供任何方法来识别这样的变量。其次,所有互信息及其分解都是基于相关性而不是因果关系。讨论如何将因果因素(例如干预和反事实)纳入框架至关重要。最后,前面的讨论并没有解决根据给定的行为时间序列数据来识别系统中是否发生因果涌现的问题。

为了解决这个问题,需要应用机器学习和人工智能等新兴技术。这些技术可以为检测和分析因果涌现提供有价值的工具和技术。

附录关联关键词解析:

1. 因果涌现:在复杂系统中,宏观层面的因果关系可能比微观层面更加明显,即宏观层面的因果关系能够解释更多的现象。

2. 整合信息论(ΦID):一种用来衡量因果涌现的方法,但其数学公式复杂且计算量大,难以应用于现实世界系统。

3. PID计算:一种计算方法,由于其不一致性,导致因果涌现的定义依赖于特定的PID计算方法。

4. 因果解耦:宏观变量与微观变量之间的因果关系被削弱或消除。

5. 向下因果:宏观层面的因果关系对微观层面产生影响。

6. 互信息:衡量两个变量之间共享信息量的指标。

参考文献

     Meehl P E, Sellars W. The concept of emergence[J]. Minnesota studies in the philosophy of science, 1956, 1239-252.

     Holland J H. Emergence: From chaos to order[M]. OUP Oxford, 2000.

     Anderson P W. More is different: broken symmetry and the nature of the hierarchical structure of science[J]. Science, 1972, 177(4047): 393-396.

     Holland, J.H. Hidden Order: How Adaptation Builds Complexity; Addison Wesley Longman Publishing Co., Inc.: Boston, MA, USA, 1996.

     Reynolds, C.W. Flocks, herds and schools: A distributed behavioral model. In Proceedings of the 14th Annual Conference on Computer Graphics and Interactive Techniques, Anaheim, CA, USA, 27–31 July 1987; pp. 25–34.

     Wei, J.; Tay, Y.; Bommasani, R.; Raffel, C.; Zoph, B.; Borgeaud, S.; Yogatama, D.; Bosma, M.; Zhou, D.; Metzler, D.; et al. Emergent abilities of large language models. arXiv 2022, arXiv:2206.07682.

     Bedau, M.A. Weak emergence. Philos. Perspect. 1997, 11, 375–399. [CrossRef]

     Bedau, M. Downward causation and the autonomy of weak emergence. Principia Int. J. Epistemol. 2002, 6, 5–50.

     Harré, R. The Philosophies of Science; Oxford University Press: New York, NY, USA , 1985.

     Baas, N.A. Emergence, hierarchies, and hyperstructures. In Artificial Life III, SFI Studies in the Science of Complexity, XVII; Routledge: Abingdon, UK, 1994; pp. 515–537.

     Newman, D.V. Emergence and strange attractors. Philos. Sci. 1996, 63, 245–261. [CrossRef]

     Kim, J. ‘Downward causation’ in emergentism and nonreductive physicalism. In Emergence or Reduction; Walter de Gruyter: Berlin, Germany, 1992; pp. 119–138.

     O’Connor, T. Emergent properties. Am. Philos. Q. 1994, 31, 91–104

     P. A. Mediano, F. Rosas, R. L. Carhart-Harris, A. K. Seth, A. B. Barrett, Beyond integrated information: A taxonomy of information dynamics phenomena, arXiv preprint arXiv:1909.02297 (2019).

     Hoel E P. When the map is better than the territory[J]. Entropy, 2017, 19(5): 188.

     Rosas F E, Mediano P A, Jensen H J, et al. Reconciling emergences: An information-theoretic approach to identify causal emergence in multivariate data[J]. PLoS computational biology, 2020, 16(12): e1008289.

     Williams P L, Beer R D. Nonnegative decomposition of multivariate information[J]. arXiv preprint arXiv:10042515, 2010.

     P. A. Mediano, F. Rosas, R. L. Carhart-Harris, A. K. Seth, A. B. Barrett, Beyond integrated information: A taxonomy of information dynamics phenomena, arXiv preprint arXiv:1909.02297 (2019).

     Kaplanis C, Mediano P, Rosas F. Learning causally emergent representations[C]//NeurIPS 2023 workshop: Information-Theoretic Principles in Cognitive Systems. 2023.


(参考文献可上下滑动查看)


作者简介



本词条由集智俱乐部众包生产,难免存在纰漏和问题,欢迎大家留言反馈,一经采纳,可以获得对应的积分奖励噢!

加入我们

亲爱的社区伙伴与知识探索者:

我们诚挚邀请热爱知识分享的您,加入集智百科词条编写志愿团队!无论您是领域专家,还是对特定主题充满热忱的学习者,这里都有您的舞台。通过编写百科词条,您将为全球读者传递权威知识,同时获得专家指导个人能力跃升的双重成长。

📝 志愿者职责

创作新词条:覆盖复杂系统、人工智能等前沿领域

迭代经典内容:更新现有词条,守护知识的准确性与时效性

质量守护者:参与内容校对审核,共建精品知识库

🌟 我们期待您

集智读书会成员(需完成共创任务并获得退费资格)

拥有清晰表达复杂概念的写作能力

对特定领域有深度研究或强烈兴趣

具备信息检索与整合素养

怀揣责任感与协作精神,愿为知识共享赋能

🎁 您将收获

百科积分(支持兑换集智俱乐部周边:文化衫、复杂科学知识卡等)

集智俱乐部创始人张江教授亲自指导写作

科研助理晋升通道:表现优异者可加入张江教授科研团队

加入任何一期读书会并完成共创任务即可 让我们一起,用知识连接世界!

因果涌现读书会第六季

在霓虹灯的闪烁、蚁群的精密协作、人类意识的诞生中,隐藏着微观与宏观之间深刻的因果关联——这些看似简单的个体行为,如何跨越尺度,涌现出令人惊叹的复杂现象?因果涌现理论为我们揭示了答案:复杂系统的宏观特征无法通过微观元素的简单叠加解释,而是源于多尺度动态交互中涌现的因果结构。从奇异值分解(SVD)驱动的动态可逆性分析,到因果抽象与信息分解的量化工具,研究者们正逐步构建起一套跨越数学、物理与信息科学的理论框架,试图解码复杂系统的“涌现密码”。

为了系统梳理因果涌现最新进展,北京师范大学系统科学学院教授、集智俱乐部创始人张江老师领衔发起「因果涌现第六季」读书会,组织对本话题感兴趣的朋友,深入研读相关文献,激发科研灵感。

读书会将从2025年3月16日开始,每周日早9:00-11:00,持续时间预计10周左右。每周进行线上会议,与主讲人等社区成员当面交流,之后可以获得视频回放持续学习。诚挚邀请领域内研究者、寻求跨领域融合的研究者加入,共同探讨。


详情请见:因果涌现第六季——动力学、因果抽象与信息分解


推荐阅读

1.计算力学(因果态理论)| 集智百科

2.基于有效信息的因果涌现理论|集智百科

3.机器学习框架NIS+:通过最大化有效信息识别“因果涌现” | NSR

4. 游戏化科研——让我们突破内卷、共研涌现

5. 探索者计划 | 集智俱乐部2025内容团队招募(全职&兼职)

6. 加入集智,玩转复杂,共创斑图!集智俱乐部线下志愿者招募

7. 系统科学前沿十讲:理解自然、生命与社会的复杂性


点击“阅读原文”,报名读书会

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

因果涌现 信息分解 复杂系统 机器学习
相关文章