1.中心简介
智能安全与反智实验室聚焦智能系统的安全防护与风险对抗，致力于防范和抵御人工智能技术滥用与误用带来的各类威胁，构建可信、可控、可解释的智能系统安全体系，服务国家信息安全与人工智能治理的战略需求。
中心合照
2.中心核心成员
中心负责人
盖珂珂
北京理工大学人工智能学院副院长，北京中关村学院助理院长，教授，博士生导师，国家级青年人才计划获得者。主持科技部重点研发项目课题、国家自然科学基金重点项目等10余项科研项目；发表SCI/EI论文200余篇，申请专利70余项。担任IEEE技术与工程管理学会区块链专委会联合主席，中国计算机学会区块链专委会常务委员，新工科联盟区块链工委会秘书长，中国电子学会区块链分会常务委员，中国电子学会区块链标准工作组负责人，担任期刊Blockchains主编，担任多个网络安全、区块链领域的国际会议程序委员会主席，担任TDSC、JPDC、FGCS等多个学术期刊编委，IEEE高级会员（IEEE Senior Member）；担任中国国际电视台（CGTN）特邀专家。
中心学生规模：在站博士后，在读硕士、博士研究生和进实验室的本科生40余名。
3.中心研究方向
人工智能安全与反智技术：围绕大模型安全前沿领域，结合隐私计算技术，聚焦大模型身份主动确权技术和大模型身份被动溯源技术、数据泄漏防护等方向，在大模型水印、成员推理攻击防御机制、训练数据隐私保护、生成内容安全与对抗机制、可解释性大模型算法等前沿领域开展研究，构筑大模型可信流通和大模型安全使用的关键技术支撑，推动人工智能技术健康发展。
大模型攻击及防御机制：围绕大模型面临的新型对抗性威胁，结合动态防御与主动加固技术，聚焦于对抗攻击、提示注入与系统鲁棒性等核心挑战，在自适应对抗提示生成与防御、神经扰动鲁棒性增强、多模态与动态指令注入攻防、资源消耗型攻击缓解、以及大模型认知安全加固等前沿领域开展研究，构筑覆盖生成、推理与部署全链条的主动防御体系，保障大模型在复杂对抗环境下的安全、稳定与可信。
大模型认知安全关键技术：围绕大模型在复杂推理与逻辑决策中的安全可信挑战，结合可验证计算与内生安全方法论，聚焦于**推理过程可验证性、逻辑一致性保持、行为边界动态管控及伦理对齐**等关键方向，在可验证推理引擎构建、反思增强训练框架、指示边界动态管控、伦理约束嵌入机制、内生安全建模等前沿领域开展系统研究，构筑具备自我检验与持续演化能力的可信元认知体系，推动大模型在科学计算、高端决策等高可靠性场景中的安全可信落地与治理。
可信协同计算：围绕可信协同计算前沿发展方向，结合区块链与人工智能技术，聚焦联邦学习的性能提升、安全增强和资源优化，在自适应聚合、个性化联邦学习、异构联邦学习、持续学习、遗忘学习、离线强化学习、逆向强化学习等前沿领域开展研究工作，构建面向数据流通和大模型协同训练的可信、低耗、高效的联邦学习框架和策略，推动数据在应用场景实现“可用不可见”目标。
4.中心研究成果
本团队长期深耕网络空间安全前沿领域，服务国家重大需求，在人工智能安全方向形成了具有国际影响力的研究体系。团队在可信计算架构设计、数据隐私保护机制、智能系统安全加固等方向取得系列创新突破，承担国家级项目10余项，获省部级奖励多次，研究成果服务于国家数字治理与安全能力建设，与工信部、公安部、网信办、科技部、教育部等多部委有紧密合作。
首次完成分布式数字身份管理及应用仿真验证平台建设，实现跨域网络统一数字身份标识身份管理，支持1亿以上的账号规模、3万+接入节点。首次提出多模态联邦学习环境下的模型水印，兼具所有权验证和模型泄露方追溯实现数字孪生可信数据交互服务系统，对孪生数据交互服务的安全评估和原型验证，解决数字孪生数据共享与流通中数据价值难激活的难题。
5.中心文化与资源
课题组氛围
课题组以“开放求真、协作共进、责任为锚”为文化核心，致力于营造自由而严谨的科研氛围。通过常态化学术研讨与技术沙龙促进思想碰撞，提供个性化指导与资源支持，鼓励在智能安全前沿开展探索性研究。团队注重科研伦理与社会责任，着力培养兼具创新能力、系统思维和责任意识的新一代科研人才。
优势资源
本实验室拥有国内领先的科研条件与资源体系，支持千卡级智能算力集群与高仿真实验环境，为前沿研究提供强大算力与实验支撑。团队承担多项国家重点研发计划、国家自然科学基金重点项目及部委专项课题，科研经费充足，课题覆盖从基础理论到系统应用的完整链条。实验室与国内外顶尖高校、科研机构及行业头部企业建有深度合作网络，共建联合实验室与攻关基地，为学生提供跨领域研究、产业实践与国际交流的优质平台。多项研究成果发表于安全与人工智能顶级会议与期刊并参与相关技术标准制定，持续推动科研成果向国家治理与产业应用转化，为学生成长提供高起点、宽通道的完整支撑体系。
招生要求
团队欢迎具有人工智能、网络空间安全、计算机科学与技术、应用数学、电子信息等相关专业背景，并对智能安全治理、反智技术有强烈兴趣的同学加入。
课题组热烈欢迎对智能安全与反智领域充满热情的博士后、研究生和本科生加入！欢迎联系：gaikeke@bit.edu.cn