人工智能大模型发展迎来新机遇：如何应对安全挑战和技术瓶颈

近期，国家网信办发布了关于生成式人工智能的数据，显示截至2025年11月，累计有611款生成式人工智能服务完成备案、306款相关应用或功能完成登记。这种快速发展的背后，也反映出国内外对AI大模型的广泛关注和认可。

然而，随着AI大模型的应用范围不断扩大，其安全性也变得愈发重要。长亭科技首席安全研究员杨坤坦言，目前的国产大模型供应链尚未实现完全自主可控，一定程度上存在后门植入、恶意篡改等安全隐患。此外，中文高质量语料在整体数量上少于英文语料，这也可能导致因数据质量参差出现“幻觉”、回答不准等问题。

针对这些挑战，永信至诚副总裁付磊提出，大模型安全防护策略需要摒弃‘救火式’的被动状态，转向具备前瞻性与体系性的安全管理。例如数据加密、漏洞补丁等传统安全措施不再可取，而是需要更多地关注前端数据质量和算法设计的安全性。

另一方面，AI大模型的发展也面临着技术瓶颈的问题。360集团创始人周鸿祎表示，当前大模型推理能力得到显著改善，但缺乏“手和脚”的问题仍未解决，即大模型缺少使用工具的能力，不能直接“干活”。未来，大模型进化到智能体是必然的，而专业智能体将更具生命力。

根据专家的分析，AI大模型的发展要经历从低到高五个层面——获取知识与推理、多模态对齐与深层次推理、类人感觉和联觉以及物理世界和虚拟环境的结合、机器自主学习、机器自我认知。而当前的AI大模型正处于第二第三层面的交汇处，未来将朝着通用大模型方向演进。

在这种快速发展的背景下，国内外专家都表示，AI和安全领域的结合必将日益紧密，要坚持技术创新，筑牢安全发展根基；坚持融合赋能，壮大产业发展生态；坚持协同共治，形成安全发展合力。

最后，中国互联网协会发布的《中国互联网发展报告（2025）》提到，大模型时代的到来，标志着人工智能发展进入新时期，创新技术加速演进，认知升维和自主进化，推动人类社会向通用人工智能的方向持续探索。电信与互联网分析师马继华满怀期待地表示，未来5至10年，AI将深度融入生活工作各领域，带来更多便利。