商汤科技邹春慧:推动建设开放、可信的人工智能创新生态
2023-10-29 10:53:12
来源:中国证券网
上证报中国证券网讯(记者 刘雪)10月29日,商汤科技亚太区副总裁邹春慧在博鳌亚洲论坛全球经济发展与安全论坛第二届大会“AIGC时代的可持续发展与风险管理”分论坛上表示,商汤科技将积极推动可信AI建设。
刘雪 摄
“以AIGC为代表的人工智能产业高速发展的同时,其伦理治理风险备受关注。”邹春慧表示,商汤已成立“人工智能伦理与治理委员会”,推出“AI安全治理开放平台”,推动建设开放、可信的人工智能创新生态。
2023年上半年,“商汤可信AI基础设施—SenseTrust”推出,对AI训练数据、模型、应用治理环节实施全周期安全可信治理。
邹春慧表示,在深度模型安全上,平台可提供模型体检(涵盖对抗安全、鲁棒性以及后门安全评估)和开源的防御解决方案(鲁棒训练插件、AI防火墙)。在内容创作上,平台可提供商汤数字水印功能以达到作品的防伪溯源,并且利用投毒技术保护图片信息不被深度模型所利用。
“我们希望AI成为人们日常生活中的陪伴,也希望具有安全机制,推动AI向善,实现以人为本、可持续发展。”邹春慧表示。