代码即武器：编码模型恶意代码请求合规性基准

SOURCE / arXiv cs.CL · Code as a Weapon: A Consensus-Labeled Prompt Bank for Measuring Coding-Model Compliance with Malicious-Code Requests

原文

Code as a Weapon: A Consensus-Labeled Prompt Bank for Measuring Coding-Model Compliance with Malicious-Code Requests

当前来源未提供可展示的完整正文，请打开原文链接查看。

本文提出一个共识标记提示库，用于衡量编码模型对恶意代码请求的合规性。研究发现，代码与知识分类轴在扩展语料库和更换评委面板后保持稳定，Fleiss' kappa=0.767，两面板一致性达94.45%。最终发布包含4748个共识代码和1923个共识知识提示的可靠性量化基准数据集。

编码模型可能被滥用于生成恶意代码，引发网络安全与数据合规风险，现有监管未明确量化评估标准。

AI 生成 · 人工审核

AI 生成 · 人工审核

编码模型可能被滥用于生成恶意代码，引发网络安全与数据合规风险，现有监管未明确量化评估标准。

中国法律人应推动将此类基准纳入AI产品合规评估，参照《网络安全法》第38条和《刑法》第285条，验证模型能否有效拒绝恶意代码请求。