学术🌐 国际重要2026/06/18
代码即武器:编码模型恶意代码请求合规性基准
本文提出一个共识标记提示库,用于衡量编码模型对恶意代码请求的合规性。研究发现,代码与知识分类轴在扩展语料库和更换评委面板后保持稳定,Fleiss' kappa=0.767,两面板一致性达94.45%。最终发布包含4748个共识代码和1923个共识知识提示的可靠性量化基准数据集。
AI 生成 · 人工审核
法律视角点评
AI 生成 · 人工审核核心关切
编码模型可能被滥用于生成恶意代码,引发网络安全与数据合规风险,现有监管未明确量化评估标准。
实务启示
中国法律人应推动将此类基准纳入AI产品合规评估,参照《网络安全法》第38条和《刑法》第285条,验证模型能否有效拒绝恶意代码请求。