人工智能（AI）一直在迅速发展，但对人类来说，强大的模型却是个「黑匣子」。

我们不了解模型内部的运作原理，不清楚它得出结论的过程。

然而最近，波恩大学（University of Bonn）的化学信息学专家Jürgen Bajorath教授和他的团队取得了重大突破。

他们设计了一种技术，揭示了药物研究中使用的某些人工智能系统的运行机制。

研究显示，人工智能模型主要通过回忆现有数据来预测药物有效性，而非学习特定化学相互作用。

——也就是说，AI预测纯靠拼凑记忆，机器学习实际上并没有学习！

他们的研究结果最近发表在《自然机器智能》（Nature Machine Intelligence）杂志上。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

论文地址：https://www.nature.com/articles/s42256-023-00756-9

在医药领域，研究人员正在狂热地寻找有效的活性物质来对抗疾病——哪种药物分子最有效？

通常，这些有效的分子（化合物）会对接在蛋白质上，蛋白质作为触发特定生理作用链的酶或受体。

在特殊情况下，某些分子还负责阻断体内的不良反应，例如过度的炎症反应。

可能的化合物数量巨大，寻找有效的化合物就像大海捞针一样。

因此，研究人员首先使用AI模型来预测，哪些分子最能与各自的靶蛋白对接并牢固结合。然后在实验研究中，更详细地进一步筛选这些候选药物。

自人工智能发展以来，药物发现研究也越来越多地采用AI相关的技术。

比如图神经网络（GNN），适用于预测某种分子与靶蛋白结合的强度。

图由表示对象的节点和表示节点之间关系的边组成。在蛋白质与配体复合物的图表示中，图的边连接蛋白质或配体节点，表示物质的结构，或者蛋白质和配体之间的相互作用。

GNN模型使用从X射线结构中提取的蛋白质配体相互作用图，来预测配体亲和力。

Jürgen Bajorath教授表示，GNN模型对于我们来说就像一个黑匣子，我们无法得知它如何得出自己的预测。

Jürgen Bajorath教授任职于波恩大学LIMES研究所、波恩-亚琛国际信息技术中心（Bonn-Aachen International Center for Information Technology）和拉玛机器学习与人工智能研究所（Lamarr Institute for Machine Learning and Artificial Intelligence）。

人工智能如何工作？

来自波恩大学化学信息学的研究人员，与罗马Sapienza大学的同事一起，详细分析了图神经网络是否真的学习到了蛋白质与配体的相互作用。

研究人员使用他们专门开发的「EdgeSHAPer」方法分析了总共六种不同的GNN架构。

EdgeSHAPer程序可以判断GNN是否学习了化合物和蛋白质之间最重要的相互作用，或者是通过其他的方式来得出预测。

科学家们使用从蛋白质配体复合物结构中提取的图训练了六个GNN，——化合物的作用方式以及与靶蛋白的结合强度已知。

然后，在其他复合物上测试经过训练的GNN，并使用EdgeSHAPer分析GNN如何产生预测。

「如果GNN按照预期行事，它们需要学习化合物和靶蛋白之间的相互作用，并且通过优先考虑特定的相互作用来给出预测」。

然而，根据研究小组的分析，六个GNN基本上都没有做到这一点。大多数GNN只学会了一些蛋白质与药物的相互作用，主要集中在配体上。

上图展示了在6个GNN中的实验结果，色标条表示用EdgeSHAPer确定的每个预测的前25个边中蛋白质、配体和相互作用所占的平均比例。

我们可以看到，代表绿色的相互作用本该是模型需要学到的，然而在整个实验中所占的比例都不高，而代表配体的橙色条占了最大的比例。

为了预测分子与靶蛋白的结合强度，模型主要「记住」了它们在训练过程中遇到的化学相似分子及其结合数据，而不管靶蛋白如何。这些被记住的化学相似性基本上决定了预测。

这让人想起「聪明的汉斯效应」（Clever Hans effect），——就像那匹看起来会数数的马，实际上是根据同伴面部表情和手势的细微差别，来推断出预期的结果。

这或许意味着，GNN所谓的「学习能力」可能是站不住脚的，模型的预测在很大程度上被高估了，因为可以使用化学知识和更简单的方法进行同等质量的预测。

不过，研究中也发现了另外一个现象：当测试化合物的效力增加时，模型倾向于学习到更多的相互作用。

也许通过修改表征和训练技术，这些GNN还能朝着理想的方向进一步改进。不过，对于可以根据分子图学习物理量的假设，一般来说应该谨慎对待。

「人工智能不是黑魔法。」

相关文章： 自媒体洗稿神器：助你轻松提升内容生产效率！  文心一言对话记录清除指南，操作步骤与安全须知,形状海报ai  红米K60列，红米AI大模型背后的智能科技揭秘,乐政ai  豆包AI，趣味驱动的人工智能新体验,ai字体转化路径  人工智能助力动车建模，动车模型打造揭秘,ai586586  文心一言测评，人工智能写作助手表现力与创造力深度解析,ai化验技术  人工智能的语言艺术揭秘，AI大模型的表达力探析,mugen ai等级  AI驱动制造革新，美好模型从梦想变为现实,华为ai音箱生态链  探索AI绘画艺术融合，入门教程与模型深度解析,liplip ai  AI与大数据驱动的股票市场交易模型，机遇与并存的未来,ai白描设计  AI赋能，智能时代软件创新,鞠躬ai  AI生成文章：“熊”的神秘世界  AI撰写率：让创作变得更高效，助力内容产业腾飞,人力ai  轻松畅聊，开启在线聊天新体验  打造个性化大模型，构建高效离线AI训练,AI转换AI2O3  豆包AI违规操作揭秘，违规次数与封号之谜,爱ai小视频完整版免费  解锁心理学新视野，AI大模型软件助你轻松入门与进阶,我要自学网视频教程ai  AI牙齿模型素材制作与应用全攻略教程,ios口语ai  全方位解读，AI模型在多领域的差异与运用,丝印AI8C  AI大模型技术，未来学习浪潮中的关键技能解析,ai喷枪工具  AI模型框架资源速查指南，轻松找到理想框架的秘诀,sgs质优生ai面  AI模型软件下载，跟随美漫风潮，开启创意无限之旅,绿色ai  AI模型被禁用，策略转型与应对之道,.ai 修改  科技与文化交融盛宴，文心一言3月16日绽放,ai写作公文哪个好用  如何识别文章是否由AI撰写？揭开智能写作的秘密  文心一言攻略，畅游全球文化交流地,讨厌ai到使用ai  谷歌收录怎么查？这3个方法，快速了解网站收录情况！  2024最新SEO蜘蛛弛：助力网站排名稳定提升的秘密武器  AI写作技巧，让创作事半功倍！  AI大模型引领GTA未来体验革新,ai畅想未来  未来科技：AI工具为生活赋能，打造智能未来  打造内容创作新时代：有言AI生成助力创作者释放灵感  畅享AI休闲时光，推荐几款轻松的AI模型,大度ai  AI金融科技领航者，大模型专家预见未来金融智慧之光,AI黑体是什么意思  厂商AI大模型争霸，揭秘行业领先者实力对决,ai写作好用免费  小艺AI模型，生活工作两相宜的智能助手新选择,ai选择工具切换  轻松解锁文心一言创作之旅，邀请码获取攻略大揭秘！,神龙ai绘画  J*aAI大模型实战，未来智能时代导航手册,mix3左侧ai键  网站站内信功能，让用户沟通更加高效与便捷  AI智能软件：未来科技的核心力量  畅享AI写作盛宴，揭秘送文心一言活动，解锁写作助手！,思创ai智能写作平台  从零开始，个人AI模型构建全攻略,山东ai全网通价格  文心一言审核流程深度解析，揭秘时长与关键要点,河北ai机器视觉设备  解锁AI绘画CP模型，创意无限的艺术之旅,小狼ai写作  怎么让AI润色文章，让写作更轻松？  AI模型部署策略揭秘，最佳位置与关键技巧,AI领域分布  AI豆包，未来科技美食，智能生活新伙伴一键体验,夏新ai版闹钟怎么连接ai  資料來源於網絡：如何辨別信息的真實性與價值  文心一言，深度挖掘生产数据，推动企业智能化升级之路,丁程鑫ai图  智能时代硬件解析，AI模型运行背后的设备需求揭秘,天眼是ai摄像头吗