人类进行科学发现的实践,经过了数千年前的观察经验范式、数百年前的理论推导范式、数十年前的计算模拟范式以及近年来的数据驱动范式,正在走向以 AI for Science 为主的第五范式。

本周,最新一期Nature杂志刊登一篇综述文章 “Scientific Discovery in the Age of Artificial Intelligence”(人工智能时代的科学发现)。
这篇综述文章由来自世界各地的顶尖科学家和人工智能专家联合撰写,作者团队包括了深度学习三巨头之一 Yoshua Bengio,以及数位自剑桥、康奈尔、MIT、佐治亚理工、微软、英伟达的研究者,百图生科 CTO 宋乐博士是作者之一。

AI for Science 15 大技术方向
在这篇阵容豪华的综述文章中,作者们首先回顾了 AI 对科学研究的革命性影响,梳理出包括 AI 辅助数据收集与管理、基于 AI 生成科学假设、 AI 驱动的模拟实验等 15 个具体的应用方向,并进行了深入且系统的分析,最终提出 AI 4 Science 进一步发展的挑战,为 AI 改变科学发现提供了完整视角和洞察。
文章认为,人工智能正越来越多地融入科学发现中,以加速研究,帮助科学家生成假设,设计实验,收集和解释大型数据集,并获得仅使用传统科学方法可能无法获得的见解。此外,生成式 AI 技术可以通过分析包括图像和序列在内的各种数据模式来生成设计,如小分子药物和蛋白质。

图:人工智能时代的科学
具体而言,人工智能在解决挑战性科学问题的潜力,主要体现在以下方向上:
AI-aided data collection and curation for scientific research
  • Data selection
  • Data annotation
  • Data generation
  • Data refinements
Learning meaningful representations of scientific data
  • Geometric priors
  • Geometric deep learning
  • Self-supervised learning
  • Language modelling
  • Transformer architectures
  • Neural operators
AI-based generation of scientific hypotheses
  • Black-box predictors of scientific hypotheses
  • Navigating combinatorial hypothesis spaces
  • Optimizing differentiable hypothesis spaces
AI-driven experimentation and simulation
  • Efficient evaluation of scientific hypotheses
  • Deducing observables from hypotheses using simulations

图:基于AI的科学假设生成
提出可检验的假设,是科学发现的核心环节。科学假设可以采取多种形式,从数学符号表达,到化学分子和生物学中的遗传变异。但是制定有意义的科学假设可能是一个费力的过程,而人工智能方法可以在此过程提供帮助,AI可以通过从嘈杂的观察中识别候选符号表达来生成假设,还可以帮助设计与治疗靶点结合的分子等等。

图:AI驱动的模拟实验
通过实验评估和验证科学假设,对于科学发现至关重要。然而,传统实验成本高昂且对于一些超前、超大假设往往不具备可操作性。如今,计算机模拟已成为一种有前途的替代方案,提供了更高效、更灵活的实验能力。
生命科学大模型与蛋白质生成
毋庸置疑的是,人工智能已经重塑了科学研究范式,基于AI辅助或驱动,不仅能够提出假设,还能设计实验、收集和解释数据,进而突破科学理解的界限。此外,生成式人工智能技术也可以实现从无到有的创新设计。
以 GPT-4 为代表的大语言模型在今年风靡全球,展现了 AI 理解和生成人类自然语言的惊人能力。
实际上,我们面对的生命科学问题和人类自然语言很类似:组成蛋白质的 20 种氨基酸“字母”,决定了蛋白质的性质、蛋白质之间的相互作用关系,也决定了细胞中蛋白质网络的复杂调控关系。这也是我们可以使用 Transformer 技术来建模生命科学问题的基础。
相比之下,蛋白质语言更加复杂,不过这更是 Transformer 技术以及创新性的融合其他 AI 技术如图神经网络的用武之地。
正如 DeepMind 首席执行官兼创始人 Demis Hassabis 所说:“从其最基本的层面来看,我认为生物学可以被看作是一个信息处理系统,尽管是一个非常复杂和动态的系统。就像数学被证明是物理学的正确描述语言一样,生物学可能会成为人工智能应用的完美领域。”
百图生科 CTO 宋乐博士所带领的团队,历时两年构建了面向生命科学的千亿参数大模型体系“xTrimo” ,从跨物种、跨模态的生命信息中,学习蛋白质如何构成和实现功能、如何相互作用、如何组合和调控细胞功能的关键规律,从而破解生命的自然语言——蛋白质。而基于 xTrimo 推出的生成式蛋白设计平台 AIGP(AI Generated Protein ),融合了 AI 生命科学大模型和多种蛋白设计任务模型,除了更好地完成结构预测等基础任务外,也开始可以根据不同的问题输入,以生成的方式,De novo设计蛋白质,来回答各种生命科学问题。
7 月初,BioMap 发布了一篇题为 xTrimoPGLM: Unified 100B-Scale Pre-trained Transformer for Deciphering the Language of Protein的预印本文章,正式提出了一个统一的蛋白质语言模型xTrimoPGLM。


xTrimoPGLM 基于 General Language Model(GLM)的预训练框架,巧妙地统一了蛋白质理解和生成两种类型的预训练任务,使模型能同时处理多种与蛋白质相关的任务。
研究团队通过全面的实验评估了 xTrimoPGLM 框架的有效性。在蛋白质理解任务上,xTrimoPGLM 在蛋白质结构、功能、交互和可开发性等领域的 13项 任务,显著优于其他先进基线模型。在生成任务上,xTrimoPGLM 能够生成与自然蛋白质结构类似的新蛋白质序列。此外,研究团队基于相同的框架额外训练了一个 12 亿参数的抗体模型(xTrimoPGLM-Ab),其在预测抗体自然性和结构方面取得了已知的最好效果,并且显示出比 AlphaFold2 更快的推理速度(数十倍到数百倍)。
这些结果充分展示了 life science AI Foundation Models 在理解和生成蛋白质序列方面的强大能力和广阔的应用前景,从而加速药物设计、酶催化、蛋白质结合、配体设计等领域的研究。
宋乐博士认为,随着 AI 技术的不断发展,生命科学大模型和蛋白质生成等领域将会继续发展,作为 AI4S “主战场”之一,为科学界提供更多的工具和方法来解决现实世界中的复杂问题。
当然,如同这篇 Nature 综述所提的,要进一步提高人工智能在科学学科中的影响力,除了要继续推动在基础理论、方法、软件和硬件基础设施方面的进展此外,不同领域之间的跨学科合作,对于实现全面且有效的 AI4S 同样至关重要。
相信通过不断的科学研究、技术创新以及负责任使用的共识达成,AI在科学领域的潜力将得到更大的发掘,AI也将真正为人类社会带来更多的科学发现和创新突破。

论文链接:

https://www.nature.com/articles/s41586-023-06221-2