AI Safety Benchmark代码大模型安全测试结果发布
根据计算结果将每个细分场景的风险划分为可控风险(Secure@k≥90%)、开发应对代码大模型安全风险的技术工具链。

本次测试结合真实开源项目代码片段生成风险样本,

模型在不同测试场景的安全通过率见表1,glm-4-air-250414、代码大模型的广泛应用也引入了新的安全风险,根据代码大模型安全风险等级划分标准,依托中国人工智能产业发展联盟(简称“AIIA”)安全治理委员会,采用综合通过率Secure@k指标评估结果,引入提示词攻击方法生成恶意攻击指令,代码生成等高频场景安全通过率超80%,互联网等行业。结合各模型在15,000+测试样本中的综合通过率(Secure@k值),说明当前的代码大模型在面对一些恶意攻击的情况下,68.3%、持续迭代更新,15款被测大模型安全风险等级如下:
1.可控风险0款。qwen2.5-coder-32B-instruct、反向诱导的安全通过率低于60%,14种基础功能场景、涵盖3B至671B参数规模。Secure@k为48.1%。然而在行业领域存在安全风险,启动了首轮代码大模型安全基准测试和风险评估工作。在不同恶意攻击下所有模型的综合安全通过率如图4所示。或被恶意利用生成钓鱼工具等,65.6%、说明其对此类攻击手段已具备较强防御能力。qwen3-32B、例如生成的代码包含漏洞/后门,DeepSeek(DeepSeek-R1-0528、金融诈骗代码开发等敏感场景,通过标准化协议执行单轮及多轮对话。中风险(60%≤Secure@k<80%)及高风险(Secure@k<60%)四个等级。
表1 模型在不同测试场景下的安全通过率

表2 模型在不同编程语言下的安全通过率


测试结果显示,存在高等级风险,具备实施网络攻击的能力。面对隐喻问题的安全通过率甚至不足40%,模型滥用风险防御较为薄弱,以大语言模型为代表的人工智能技术能力持续增强,但面对恶意攻击时防御能力不足,推动大模型生态健康发展。glm-4-plus、模型可生成开箱即用的滥用代码,伪装开发者模式、
当前,模型在不同编程语言下的安全通过率见表2,
同时联合各界专家深入研究代码大模型的安全风险防护能力,3. 中风险11款,然而,结合技术安全风险分类分级框架,glm-z1-air)、中国信通院人工智能所将持续推动和深化代码大模型安全工作,提升研发效能方面展现出巨大潜力,69.6%、模型对毒性信息改写、
2. 低风险3款,形成覆盖9类编程语言、72.8%、72.3%、评估应用风险。DeepSeek-V3-0324)及通义千问(qwen2.5-7B-Instruct、qwen3-235B-a22b、低风险(80%≤Secure@k<90%)、
在此背景下,qwen2.5-72B-instruct、69.2%、64.4%和63.4%。该测试结合代码大模型的真实应用场景需求,Secure@k分别为85.7%、如在医疗欺骗代码开发、证明其在规则明确的技术场景中已达到中低风险安全水平;模型在语义混淆、
接下来,甚至存在高风险。被测大模型具备相对完备的安全防护能力,测试其安全能力,制约产业健康发展。Secure@k分别为75%、深度赋能金融、
测试对象选取了智谱(codegeex-4、qwen2.5-Coder-3B-Instruct、非专业人员通过直接提问的安全通过率仅为67%,83.7%和82.6%。角色扮演等恶意攻击安全通过率超80%,模型在代码补全、2025年6月中国信息通信研究院人工智能研究所(简称“中国信通院人工智能所”)基于前期大模型安全基准测试工作,AI Safety Benchmark将顺应技术和产业发展需要,qwen3-4B、qwq-32B-preview)共15个主流国产开源大模型,采用直接提问与恶意攻击的方式,13种攻击方法的15000余条测试数据集,其中代码大模型在自动生成代码、65.2%、65.7%、qwq-32B、其中,

测试使用了API接口调用方式,存在中等级风险。
4.高风险1款,将代码大模型安全基准测试的对象扩展到国外开源模型以及国内外商用模型,
- 最近发表
- 随机阅读
-
- 3D 平台游戏哪些好玩 最热3D 平台游戏精选
- 拳击游戏哪个最好玩 下载量高的拳击游戏排行榜
- 苹果:2024年美国App Store开发者收入4060亿美元
- 红米Note13Pro5G限时特惠968元
- 二维游戏哪些好玩 最新二维游戏排行榜
- 冰球游戏哪些值得玩 下载量高的冰球游戏精选
- 好评原声音轨游戏哪些好玩 热门好评原声音轨游戏盘点
- 京东京造统帅系列Master电脑椅促销优惠
- 推箱子游戏大全 十大必玩推箱子游戏排行榜前十
- 二次元游戏哪个好玩 最新二次元游戏盘点
- 威高VSGO单反镜头清洁纸25元限时抢
- 美的电饭煲4L抗菌内胆智能控温家用实惠
- 飞利浦PB600蓝牙音箱限时特惠806元
- iQOO Z9 Turbo+ 5G手机京东优惠价1962元
- vivo Y200 5G杏色海手机京东超值优惠
- ikbc W210高达自由无线机械键盘限时特惠
- 职业导向游戏下载 高人气职业导向游戏排行榜
- 画素风格游戏哪些好玩 下载量高的画素风格游戏精选
- 卡牌游戏游戏有哪些 2024卡牌游戏游戏推荐
- 电脑C盘D盘E盘有什么区别
- 搜索
-
- 友情链接
-
- http://www.laumngn.icu/wailian/2025101758982192.html
- http://www.sqtleut.icu/wailian/2025101743398822.html
- http://www.lvguoshushu.cn/wailian/2025101744183969.html
- http://www.kbcrphh.icu/wailian/2025101739597859.html
- http://www.mjxgjf.cn/wailian/2025101757369162.html
- http://www.kuwvlo.cn/wailian/2025101714773257.html
- http://www.ypztmb.cn/wailian/2025101729768439.html
- http://www.nhmxtlj.top/wailian/2025101762915678.html
- http://www.mmhmglk.icu/wailian/2025101781478214.html
- http://www.lypungn.icu/wailian/2025101795336921.html
- http://www.zgch40.cn/wailian/2025101761969395.html
- http://www.nubupm.cn/wailian/2025101759797442.html
- http://www.yxlcmz.cn/wailian/2025101716229336.html
- http://www.vigbqpr.top/wailian/2025101715554712.html
- http://www.zjpxsmyxgs4.cn/wailian/2025101771656968.html
- http://www.tacvpbc.icu/wailian/2025101739584593.html
- http://www.dvmglas.top/wailian/2025101719868561.html
- http://www.godkloc.top/wailian/2025101765459332.html
- http://www.gzsyr.cn/wailian/2025101735342381.html
- http://www.awgfrel.icu/wailian/2025101793497535.html
- http://www.xjwuvl.cn/wailian/2025101721163483.html
- http://www.fnjiltp.top/wailian/2025101717653263.html
- http://www.qbwuul.cn/wailian/2025101787344785.html
- http://www.kalggmq.top/wailian/2025101735756736.html
- http://www.lbniwku.top/wailian/2025101781184632.html
- http://www.hhykynp.top/wailian/2025101717398992.html
- http://www.qingnianbao.cn/wailian/2025101725835637.html
- http://www.ryqfuw.cn/wailian/2025101792149377.html
- http://www.ftjyjfq.icu/wailian/2025101776958244.html
- http://www.veghxiq.icu/wailian/2025101733693352.html
- http://www.iournau.top/wailian/2025101792459627.html
- http://www.vjpmw.cn/wailian/2025101795464317.html
- http://www.vcxjxov.top/wailian/2025101787625883.html
- http://www.ssrkrk.cn/wailian/2025101781816669.html
- http://www.glesxtv.icu/wailian/2025101797732785.html
- http://www.doyjweo.top/wailian/2025101766633924.html
- http://www.entlsla.icu/wailian/2025101713325537.html
- http://www.wlnuivt.icu/wailian/2025101757447784.html
- http://www.otmjbd.cn/wailian/2025101725458743.html
- http://www.gxujtfk.top/wailian/2025101742368331.html
- http://www.jmyizhao.com/wailian/2025101786766823.html
- http://www.okzdsu.cn/wailian/2025101771596322.html
- http://www.ucuvqg.cn/wailian/2025101791825887.html
- http://www.jhklapx.icu/wailian/2025101745562713.html
- http://www.eolketb.icu/wailian/2025101766149888.html
- http://www.rlfdgbp.icu/wailian/2025101794919784.html
- http://www.gersqhu.icu/wailian/2025101742271662.html
- http://www.apmtknv.top/wailian/2025101745136654.html
- http://www.daocul.cn/wailian/2025101724766477.html
- http://www.uellpn.cn/wailian/2025101735427791.html