封面新闻记者 雷强

近一段时刻，中国东说念主工智能规模迎来里程碑式打破。国产推理大模子DeepSeek-R1的出身标记着我国AI工夫从“追逐者”向“领跑者”收尾历史性提高，成为全新的坐褥力器用，其开源、透明、免费等特点，尤其符合在政府与企业开展特等化部署，随之而来的安全问题也日益突显。

3月4日，记者获悉，本年两会期间，世界政协委员、360集团创举东说念主周鸿祎再度聚焦大模子安全。他觉得，DeepSeek-R1等先进模子带来了前所未有的机遇，也不异濒临无法通过传统收罗安全技巧惩处的安全挑战。对此周鸿祎敕令各界共同英勇，构建愈加完善的大模子应用安全管束体系，在保险安全的前提下最大化地开释大模子工夫的后劲。

周鸿祎暗示，“开源带来大模子的普通应用，将来将会有各类专科大模子、垂直大模子、场景大模子，联络里面学问库，以智能体的体式在大宗政府机构和企业中普通部署，推动“数转智改”，收尾降本增效。关联词大模子存在幻觉、实质安全等诸多问题无法通过传统安全决策灵验化解，一朝部署在政府、企业里面的基座模子、学问库或智能体中任一法度出现安全隐患，皆极有可能诱发总共坐褥环境爆发系统性风险。”

周鸿祎觉得，大模子应用安全主要聚会在基座模子、学问库和智能体三个方面。基座模子安全方面，由于大模子深广存在的幻觉景观，特殊是在生成文本时可能输出与实践不符的信息，这在战术制定、法律条规解读或交易决策等场景下可能导致误导性后果。

学问库安全方面，政府和企业中枢数据钞票存储于里面学问库中，若缺少灵验的安全箝制轨范，未授权用户可能利用与大模子交互的契机窃取这些贵重的数据资源。

智能体安全方面，智能体频频与政府、企业里面各类IT、邮件、箝制系统相连，一朝碰到缺欠，可能会激勉一系列四百四病，从发送无益邮件到中断坐褥线运作，酿成严重的物理挫伤。

针对上述挑战，周鸿祎先容，360哄骗东说念主工智能工夫重塑安全模式，袭取“以模制模”的神色支吾新痛苦，依托安全大模子工夫搭建起掩饰“基座模子—学问库—智能体”的全链路安举座系，护航政府与企业“数转智改”。

为进一步强化这一真玉体系，周鸿祎淡薄聘请两项轨范：一是推动安全工夫革新与后果篡改。淡薄关系部门实时出台配套战术轨范，饱读舞具备“安全+东说念主工智能”完好惩处决策的链主企业，针对东说念主工智能应用所波及的基座模子、学问库、智能体等安全问题，基于安全大模子工夫开展研发责任，加快推动工夫后果篡改，将安全身分深度镶嵌东说念主工智能应用全经过。

另一方面，组建产业定约，握行安全居品。开发关系链主企业显露牵头作用，普通吸纳产业链凹凸游企业、科研机构及终局用户，组建东说念主工智能大模子安全定约，在定约里面收尾工夫后果分享，共同开展居品及作事测试云开体育，待居品与作事训练踏实后，向更雄壮的市集加以握行，助力大模子安全保险普及至千行百业。