人工智能安全治理框架发布,AI安全迎来新标杆

金融界 2024-09-10 08:35:40
10秒看完全文要点
看要点

全国网络安全标准化技术委员会近日正式发布《人工智能安全治理框架》1.0版,针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险,提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引。为促进人工智能健康发展和规范应用,提供了基础性、框架性技术指南。

业内人士表示,生成式大模型特有的预训练微调、上下文、提示、思维链COT等新的学习范式,使其具有与传统AI安全不同的许多新特点,传统安全的方法、经验、工具很难发挥效能。大模型安全风险的成因既可以是来自各类训练数据的缺陷或算法的局限性等模型内因,也可以是利用这些新型学习范式的恶意使用或蓄意攻击等外因。这使得大模型在数据准备。预训练、微调对齐、推理以及应用阶段都会存在各种潜在的风险。

永信至诚已发布“春秋”靶场构建大模型、“春秋”安全竞赛大模型和“春秋”人才测评大模型三款安全垂直领域大模型产品;绿盟科技多年来持续进行AI安全研究投入,在AI系统安全防护、AI应用安全、AI系统的安全性评估与测试等创新技术领域研究储备。

永信至诚-2.88%
绿盟科技+0.28%
金融界提醒:本文内容、数据与工具不构成任何投资建议,仅供参考,不具备任何指导作用。股市有风险,投资需谨慎! 投诉
重要版本
每日热点资讯
5分钟了解今日热点资讯
相关推荐
运维效率成倍提高,安全智能体能否成为实现网安融合的“钥匙”?丨ToB产业观察
来源:钛媒体
金融业大语言模型系统安全参考架构研究项目启动
来源:金融界 1
整治AI技术滥用!上海市委网信办指导哔哩哔哩等平台清理违规AI产品营销信息
来源:金融界 8.26W
AI押题热潮 馅饼还是陷阱?
来源:金融界天眼查 3
杭州安泉数智申请基于人工智能的网络与数据安全监测与合规分析专利,实现安全策略的在线学习与智能迭代
来源:金融界
IDC发布中国金融大模型市场份额报告:百度智能云第一
来源:金融界 8.26W
全部评论
没有评论,谈谈您的想法…
谈谈您的想法...
App内打开
联掌门户上涨11.43%,报15.6美元/股,总市值23.68亿美元
金融界
罗科仕上涨6.09%,报0.65美元/股,总市值5165.36万美元
金融界
万春医药上涨10.33%,报3.31美元/股,总市值1.33亿美元
金融界
联掌门户上涨11.43%,报15.6美元/股,总市值23.68亿美元
金融界
罗科仕上涨6.09%,报0.65美元/股,总市值5165.36万美元
金融界
打开App
推荐 要闻 7x24 理财 财 经 导航