多语言刑事法律中LLM过度对齐的测量与缓解

针对大型语言模型在刑事法律领域因模型护栏导致拒绝和免责声明（过度对齐）的问题，研究引入TF-RefusalBench多语言基准测试，该基准源自瑞士联邦最高法院公开裁决，包含法语、德语、意大利语和英语共5200个提示，涵盖易触发拒绝的常见任务。实验表明，过度对齐受模型、提示及文本语言影响，且其影响不能仅从过度拒绝角度评估，还需考虑免责声明对任务忠实度的损害。研究评估了提示工程和abliteration（消除拒绝方向）两种缓解方法，后者能消除拒绝行为且对任务性能影响最小。