当政府官员起草政策时，通常会设立公众评论期。长期以来，立法者已经学会辨别大规模制造的虚假反馈，但人工智能的出现让人们能够提交看似真实的评论，难以直接判定背后是否有人。MIT 媒体艺术与科学系教授、构建性沟通中心（CCC）主任 Deb Roy 在《原子科学家》杂志的文章《谁站在文字背后？》中呼吁在使用 AI 撰写文本时仍需保持责任感和可追溯性。CCC 与其关联的非营利组织 Cortico 已在市政会议、学校、议事会等场景中使用技术（包括 AI）帮助归纳评论主题，并在每一步让参与者检查并覆盖机器输出，确保每条公开评论都有真实的人负责。
Roy 说，他在 ChatGPT 推出后首次注意到问题。虽然他早期的博士研究涉及所谓的“Puny Language Models”，但 ChatGPT 的规模和交互方式让他意识到模型缺乏“站位”。他提出，法律中的站位概念可以借用到日常对话中：发言者应当是对议题有利害关系的真实个体。大语言模型可以生成流畅文本，却没有承担后果的主体。
一个典型案例是 2017 年美国联邦通信委员会收到超过 2200 万条关于废除网络中立性的评论，其中约 1800 万被发现是模板化的虚假评论。模型可以抹去这些指纹，使审阅者难以辨别真实声音，进而削弱公众参与的价值。
Roy 将站位与“可回答性”结合，指出拥有发言权的人必须能够接受交叉询问并对所说负责。隐私并不等同于匿名，机构可以在不公开身份的前提下验证发言者的资格。AI 可以在起草、摘要、模式识别等环节提供帮助，但最终必须有个人对文本负责。为此他提出四项设计原则：可归属的作者身份、可拆解且可检查的流程、以溯源为基础的基础设施以及扩大而非集中站位。核心规则是：允许自主，但不容无责任。
“以信任的速度”而非“以技术的速度”是 Roy 在与社区组织者对话时得到的启示。信任需要时间建立，一旦获得，技术才能快速落地。否则 AI 的部署速度会超前民主程序，导致决策缺乏公众监督。
CCC 的实践包括 Real Talk 项目、Youth Voices 计划以及 New Social Forms 项目。Real Talk 通过小规模、经同意的环境让人们真实分享，并利用技术揭示整体模式；Youth Voices 将同样方法带入高中，帮助学生、教师和管理层共同制定政策。团队还开发了原型系统 VoiceTrace，能够将每条摘要或建议追溯到具体发言者，实现可追溯性。New Social Forms 关注职场中的协作问题，利用 AI 提升个人能力的同时防止团队沟通碎片化，旨在构建更具问责性的集体沟通框架。
点评：文章深刻指出 AI 生成文本的潜在风险，并提供了可操作的设计框架，提醒技术研发者必须把人放在责任链的最末端，以维护民主对话的可信度。