昨日，量子位主办的第三届中国AIGC产业峰会在北京召开，主题为“万物皆可AI”。瑞莱智慧CEO田天博士受邀出席峰会，以《安全可控的大模型应用落地前沿实践》为题发表演讲，分享了瑞莱智慧在大模型安全领域的探索与思考。

峰会现场揭晓了“2025年值得关注的AIGC企业”和“2025年值得关注的AIGC产品”两个重要榜单，瑞莱智慧及AIGC检测平台DeepReal凭借卓越实力，强势登榜。

第三届中国AIGC产业峰会现场

当前，大模型热潮持续翻涌，也引发了人们对其安全问题的广泛关注。

田天在演讲中指出，人工智能的安全性问题由来已久，且预训练大模型其算法原理上仍然主要采用深度学习技术，因此不仅会存在和深度学习类似的安全性问题，还存在幻觉、滥用等新型安全性问题，给人们带来潜在的安全威胁。

瑞莱智慧首席执行官田天博士

瑞莱智慧自2018年成立以来，持续深耕人工智能安全领域，围绕提升AI自身可靠性和防范AI滥用危害长期实践，研发了一系列平台型产品。

田天介绍，基于AI安全与应用平台，为严肃场景打造了更加安全可控的垂类大模型；基于AIGC检测平台，研发了多款AI滥用治理产品，帮助大家用AI对抗AI。同时，为确保AGI的安全发展，瑞莱智慧也在进行前沿布局研究，例如超级对齐平台。

“也许很多人会认为，随着大模型能力的持续增强，AI会自然而然变得更加安全可控，但我本人持不同观点。”田天说，人工智能安全性问题的复杂性恰恰会随着技术能力的提升而指数级增长。当模型具备更强的自主决策能力和更广泛的应用场景时，其潜在风险边界也将大幅扩展。

田天认为，不需要单一的智能体具备无所不能的能力，而是应该将现有的智能体通过更好的组织方式融入各行各业的工作流中，重构工作流程，就能够大幅度解放AI的生产力，“而在这个过程中，安全可控一定是非常核心的前置门槛。”

会上，「2025年值得关注的AIGC企业/产品」结果正式揭晓，瑞莱智慧及AIGC检测平台DeepReal双双入榜。本次评选基于技术实力、产品创新、市场表现和未来潜力等多项维度，旨在推动AIGC技术的广泛应用和产业生态的健康发展。

瑞莱智慧斩获双大奖项

2025年值得关注的AIGC企业包含来自底层基建、基础模型、行业应用等AIGC全产业链的代表玩家，均具备强劲的技术创新能力和丰富的应用落地实践经验，共同推动AIGC技术的产业应用落地。

2025年值得关注的AIGC产品涵盖多种应用场景，包括AI内容创作、AI客服、AI编程助手、AI视频生成等。这些产品在技术创新和实际应用方面表现出色，推动了AIGC技术的广泛应用和产业生态的健康发展。

未来，瑞莱智慧将持续深耕人工智能安全，坚持自主创新，积极布局安全可控新一代人工智能基础设施，持续助力人工智能产业高质量发展，赋能新质生产力建设。