主要观点总结
文章介绍了单细胞预训练模型面临后门攻击威胁的问题。南开大学数学科学学院陈盛泉副教授团队与中国科学院分子细胞科学卓越创新中心陈洛南研究员合作发表了题为“Unveiling potential threats: backdoor attacks in single-cell pretrained models”的通讯文章。文章提出了单细胞预训练模型后门攻击策略scBackdoor，并揭示了现有主流单细胞预训练模型普遍存在后门攻击风险，给单细胞研究带来潜在威胁。研究使用了多个数据集验证了scBackdoor的有效性，并提出了多种防御策略降低后门攻击的风险。文章还讨论了未来研究需要应对的问题和团队未来的计划。
关键观点总结
关键观点1: 海量单细胞数据的积累为AI for Science研究带来新的契机，但也带来了新的安全威胁。
随着单细胞预训练模型的提出，如scBERT、GeneFormer、scGPT和scFoundation等，在细胞类型注释、基因调控网络推断等重要任务上表现优异，但面临后门攻击的威胁。
关键观点2: 单细胞预训练模型可能受到后门攻击的影响。
通讯文章提出了单细胞预训练模型后门攻击策略scBackdoor，实验表明攻击成功率接近100%，揭示了现有主流单细胞预训练模型存在后门攻击风险。
关键观点3: 后门攻击的策略和防御策略。
scBackdoor策略通过恶意篡改训练数据或模型，使模型在特定触发条件下输出攻击者指定结果。研究还从数据或模型完整性验证、数据质量控制等方面提出了多种防御策略。
关键观点4: 研究的重要性和对未来研究的挑战。
通讯文章揭示了单细胞预训练模型的安全风险，对生物医学研究的准确性和可靠性提出了严峻挑战。未来的研究需要探索如何更有效地防御数据投毒和后门攻击，不断提高模型的准确性和可靠性。
文章预览
海量单细胞数据的积累给AI for Science研究，特别是单细胞预训练模型研究带来了新的契机，scBERT [1] 、GeneFormer [2] 、scGPT [3] 、scFoundation [4] 等模型相继被提出，在细胞类型注释、基因调控网络推断等多种重要任务上表现优异。然而，由于数据采集和模型训练中无意失误或刻意投毒等行为，单细胞预训练模型可能面临后门攻击的威胁，影响其在生物医学研究中的可靠性和准确性。 近日，南开大学数学科学学院 陈盛泉副教授团队 、中国科学院分子细胞科学卓越创新中心 陈洛南研究员 合作在 Cell Discovery 发表题为“Unveiling potential threats: backdoor attacks in single-cell pretrained models”的通讯文章（Correspondence）， 首次提出了单细胞预训练模型后门攻击策略scBackdoor，在scGPT、GeneFormer、scBERT等多个单细胞预训练模型上进行了实验，攻击成功率均接近100%，表明现有的
………………………………
