新上线今天0 投票
DISTAL：无结构材料性能预测的新框架，结合蒸馏与自监督预训练
材料性能预测在数据稀缺场景下一直是个难题，尤其是当目标属性仅有少量标注样本时。传统上，预测精度最高的模型往往依赖晶体结构信息，这限制了在早期筛选阶段的应用，因为此时结构信息往往缺失或难以获取。针对这一挑战，研究者提出了 DISTAL，一个用于无结构材料性能预测的双先验框架，结合了自监督成分预训练与结构感知知识蒸馏。
核心思想
DISTAL 的核心在于利用两个互补的先验来增强预测能力：一是通过自监督学习在大规模虚拟成分空间中学习可迁移的成分表示，二是从预训练的 ALIGNN 教师模型中蒸馏结构知识到一个成分条件的学生模型。这样，在训练时可以利用结构先验，但在推理时无需结构输入，从而在保持预测精度的同时，摆脱了对结构信息的依赖。
技术细节
DISTAL 首先使用 145 个成分衍生描述符，从大规模虚拟成分空间中学习成分表示。然后，通过知识蒸馏，将 ALIGNN 教师模型的结构知识转移到学生模型中。最终，在统一的预测流程中，DISTAL 集成了显式成分描述符、预训练潜在特征和蒸馏结构特征，以捕捉单一表示难以获得的互补信号。
性能表现
在 39 个基准任务上，DISTAL 的最佳多模态配置（结合所有三种信号）在 37 个任务上优于参考基准，且在所有评估的特征组合中表现最强。这表明，成分预训练和结构蒸馏提供了互补的先验，为小数据材料信息学中的稳健成分预测提供了一条实用途径。
意义与展望
DISTAL 的出现为材料科学中的早期筛选提供了一种新的工具，使得在没有结构信息的情况下也能进行较为准确的性能预测。这对于加速新材料发现具有重要意义。研究者已匿名提供源代码和预训练模型，并将在论文正式发表后公开官方链接。
总之，DISTAL 通过自监督预训练和知识蒸馏的结合，巧妙地解决了结构依赖问题，为材料性能预测领域带来了新的思路和方法。