专家把脉AI安全：建议把公共安全意识嵌入技术研发

　　上证报中国证券网讯（谭镕 记者 宋薇萍）3月24日，2024全球开发者先锋大会大模型前沿论坛上，各界专家共同探讨AI安全范式变革。

　　“造成模型安全问题的原因，一是内生的问题，二是滥用的问题。通过技术和法规政策，可以同时应对两方面原因，提高模型安全性。”复旦大学研究员马兴军说。

　　从安全的角度出发，如何看待模型研发与应用的不同环节？复旦大学计算机科学技术学院教授张奇表示，在当前普遍使用的模型框架下，确保模型合理、负责任地输出是一个重要的挑战，普通开发者在大模型的安全治理方面参与度较低，部分原因是整个技术路线与通用大模型的开发路线基本一致，普通开发者较难进行深度参与。

　　上海交通大学教授、人工智能治理与法律研究中心主任季卫东从法学角度分析了当前的大模型安全问题，他说，模型幻觉造成了“一本正经胡说八道”，甚至有人利用大模型伪造信息，这些将会对社会秩序造成威胁。季卫东说，应把公共安全的意识嵌入到技术研发过程中，作为人工智能治理的重要内容。

　　“安全不是锦上添花。” 阿里云通义算法、产品安全负责人张荣表示，大模型最核心的还是模型内生安全能力，许多模型性能强的模型安全性也更好。“安全和模型的能力有时候相互矛盾，更多时候是相互促进。在实践中模型越安全它越能够得到工程的信任，在更广的应用范围中，可以获得更多的安全提升机会。”张荣说。