2026/5/29 2:07:52
网站建设
项目流程
学网站开发要学什么,如何获取网站备案号,商标设计公司推荐,百度关键词点击排名核心概念
在理解注意力机制的应用之前#xff0c;首先要明白数据是如何被处理的#xff1a;CIF文件作为输入#xff1a; CIF文件包含了晶体的原子种类、晶胞参数和原子坐标等详细的结构信息。构建晶体图#xff1a; CGNNs的第一步就是将CIF文件描述的晶体结构转化为一个图首先要明白数据是如何被处理的 CIF文件作为输入 CIF文件包含了晶体的原子种类、晶胞参数和原子坐标等详细的结构信息。 构建晶体图 CGNNs的第一步就是将CIF文件描述的晶体结构转化为一个图Graph 节点Nodes 图中的节点代表晶体中的原子不同的原子种类。 边Edges 图中的边代表原子之间的键/连接通常基于原子间的距离和晶体的周期性。 特征向量 每个节点和边都被赋予一个特征向量编码了原子属性如元素类型、价态和键属性如键长、周期性边界条件下的相对位置。注意力机制在CGNN/CIF结构中的应用注意力机制的核心在于加权聚合允许模型在聚合邻居信息时动态地为不同的邻居或特征分配不同的重要性权重。1. 节点级别的注意力局部关系建模这是最常见也最关键的应用通常发生在图卷积层中如在晶体图注意力网络 GAT-GNN 或 注意力机制嵌入的 CGCNN 中 目的 确定一个中心原子节点在聚合其所有邻居原子和它们之间的键的信息时哪个邻居更重要。 作用方式 对于中心原子 i模型会计算它与每个邻居原子j之间的注意力系数αij。 这个系数 αij 反映了邻居 j 对中心原子 i 新特征表示的贡献程度。 系数通常是通过一个相似度函数如前馈神经网络计算然后通过 Softmax 进行归一化确保所有邻居的注意力权重之和为 1。 数学表示简化 聚合后的中心节点 i 的新特征 hi 是邻居特征的加权和2.特征通道注意力Dual Attention Mechanism有些模型如 DA-CGCNN会引入双重注意力机制其中可能包含通道注意力Channel Attention目的 确定在原子节点或键边的特征向量内部哪一维特征或哪个“通道”更重要。 作用方式 模型为特征向量的每个维度例如原子特征向量中表示价电子数的那一维计算一个权重以突出或抑制某些特征的贡献。 意义 例如模型可能会发现元素周期表的族数这个特征比原子半径对预测某种特定材料性质如带隙更重要并给前者赋予更高的权重。3.全局注意力图级别目的 在最终从所有原子特征聚合得到整个晶体的表示Graph-level Representation时确定哪个原子或局部环境对预测最终的宏观性质最重要。 作用方式 模型计算图中所有原子对最终性质预测的全局注意力权重。 意义 例如在预测材料的形成能时模型可能会发现晶体中具有缺陷或高配位数的原子通常是局部不稳定的区域贡献更大并给予它们更高的全局权重。