法律 AI // 资讯总览
需要被持续追踪的
法律 AI 信号。
本期索引按监管、判例、实务与研究归档；可依主题或关键字定位已发布记录。
法律 AI // 资讯总览
本期索引按监管、判例、实务与研究归档；可依主题或关键字定位已发布记录。
原题: When Disability Disclosure Travels: Memory, Privacy, and Contextual Integrity in Conversational AI
涉及法律行业大模型应用、律所与企业法务数智化实践指引。
本篇论文基于美国12名残障成年人的访谈，考察其在ChatGPT、Claude、Gemini等大型语言模型对话助手中披露残障信息的时机、方式与动机，并与向人类披露进行对比。以情境完整性理论为框架，研究得出三项核心发现：其一，参与者常按任务需要而非以残障身份类别披露，将残障状态转化为具体任务指令；其二，同一披露行为同时面向两个接收者——对话界面这一“非评判性”拟人主体与背后实际持有数据的公司，两者触发截然不同的隐私规范预期；其三，AI的记忆功能虽缓解了重复披露的负担，却可能使残障信息脱离原有语境，流入后续不相关对话场景。研究揭示，参与者普遍通过大量边界工作恢复语境，并期望获得对信息披露范围、来源、留存期限及访问权限的精细控制，而非仅依赖逐句开关。该研究为对话式AI的隐私设计、无障碍支持及敏感个人信息保护提供了实证基础，尤其对AI系统记忆功能的数据最小化与目的限制原则提出挑战。
展示来源全文，完整内容以原文页面为准。
arXiv:2609.22720v1 Announce Type: cross Abstract: Conversational AI assistants remember what people tell them, and for disabled people, that often includes disability. We interviewed 12 adults with disabilities in the United States who use LLM-based assistants such as ChatGPT, Claude, and Gemini about when, how, and why they disclose disability to these systems and how this compares with disclosing to people. Using contextual integrity as an analytic lens, we found that participants disclosed by need rather than by name, translating disability into task-scoped instructions; that the same disclosure was judged against two recipients, a non-judging interlocutor and a data-holding company, producing opposite norms; and that memory features relieved the burden of repeated disclosure while letting disability information drift into contexts where it did not belong. Participants did extensive boundary work to restore context and wanted control over scope, provenance, retention, and access rather than per-utterance toggles. We discuss implications for the design of conversational AI assistants.
该研究聚焦于对话式AI中残障敏感信息收集、保存与跨场景流动的隐私合规风险。残障信息通常属于法律上突出的敏感个人信息，受目的限制、数据最小化、知情同意等原则约束。然而，AI助手将用户任务型披露与长期记忆结合后，原始语境被打破，用户基于对拟人化对话者的信任所披露的信息，可能被后台公司用于模型优化或分析，形成隐私规范冲突。核心法律关系涉及用户隐私自我控制权与AI服务商数据权力之间的不平衡，以及情境完整性理论所强调的信息流转应符合特定社会语境的规范要求。实践中需厘清AI的“记忆”是否构成独立的数据处理行为，并明确其合法基础、存储边界与用户控制能力的法律定位。
文书与研报规范引注
《对话式AI记忆功能与残障信息披露的隐私研究》（来源: arXiv cs.CY，发布日期: 2026/09/23，访问链接: https://arxiv.org/abs/2609.22720）