在2025年的“两次会议”期间，中国人民政治咨询会议委员会成员朱·洪吉（Zhou ）兼360集团的创始人，重点介绍了大型模型安全和“幻觉”的问题。他认为，他认为实现了“国家水平的科学和技术成就”的国内大型模型。凭借其技术范式创新和性能优势，它进入了全球大型模型的第一个梯队。它的特征（例如开源，透明度和自由）促进了大型模型加速进入数百个行业，不仅促进了独立的技术创新，推动了上游和下游行业的协调发展，而且还成为促进中国科学和技术进步，经济增长和国家优势的关键力量。
但是，随着大型模型变得越来越广泛，安全问题变得越来越突出。周野指出，大型模型中存在许多问题，例如幻觉和内容安全性，这些问题无法通过传统的安全解决方案有效地解决。将来，各种专业，垂直和场景模型将与内部知识库联系起来，并以代理的形式在政府机构和企业中广泛部署。一旦在基本模型，知识库或代理中的任何链接中都存在安全风险，就很可能会引起系统性风险。
周野建议一方面，它促进了安全技术的创新和转变，鼓励使用“安全 +人工智能”解决方案的连锁所有者基于安全大型模型技术进行研究和开发，并将安全元素嵌入人工智能应用程序的整个过程中；另一方面，它将形成一个人工智能大型模型安全联盟，以实现联盟内的技术成就，共同测试产品和服务，并在成熟后将其推广到市场，有助于普及大规模的安全保证。
此外，关于大型模型的“幻觉”问题，周·霍伊（Zhou ）说，“幻觉”是大型模型的先天特征，无法消除，但它决定了其创造力和想象力，这对于实现通用人工智能（AGI）至关重要。在科学研究领域，“幻觉”可以“想象”新药的分子结构和蛋白质结构，从而指导新研究的方向。在准确性要求很高的领域（例如医疗保健，法律和金融），尽管可能发生错误，但可以通过比较专业知识库和实时网络信息来使用抹布（检索增强生成）技术来纠正它。
Zhou that from the of the "safe haven ", of large and and , "", avoid down and the for , give the to , to and let , and to make more "copy" .
本站候鸟号已成立3年，主要围绕财经资讯类，分享日常的保险、基金、期货、理财、股票等资讯，帮助您成为一个优秀的财经爱好者。本站温馨提示：股市有风险，入市需谨慎。
暂无评论