新上线今天0 投票
AI 生成“合成引述”混入新书，作者却坚持继续使用
记者兼作家 Steven Rosenbaum 的新书《真相的未来：AI 如何重塑现实》探讨了 AI 对真相的扭曲，但书中却出现了 AI 生成的“合成引述”。据《纽约时报》调查，书中至少有两处引述被当事人否认：科技记者 Kara Swisher 称自己“从未说过”某句话，东北大学教授 Lisa Feldman Barrett 则表示引述内容“不存在于我的书中，而且是错误的”。Rosenbaum 承认问题源于他在研究过程中使用了 AI 工具，并正在与编辑合作进行“引文审计”以修正后续版本。
然而，令人惊讶的是，Rosenbaum 并不打算放弃 AI。他表示自己“学到了教训”，未来会对 AI 输出“更加怀疑和谨慎”，但同时也认为 AI 是“神奇的”，因为它能“连接想法、提供思考路径”。他将 AI 比作托尔金笔下的“至尊魔戒”——使用者往往相信自己能掌控其力量。Rosenbaum 强调，AI 仅用于“浮现想法、定位文章、总结主题”，而“实际的报道、叙事结构、采访、论点和结论”完全属于他自己。
这一事件再次引发关于 AI 在写作中可靠性的讨论。Rosenbaum 的经历表明，AI 工具可能产生看似合理但实际错误的引述，而人类作者难以完全识别。尽管存在风险，许多创作者仍因 AI 的高效和创造力而难以割舍。Rosenbaum 计划继续使用 AI，但会加强验证流程，例如要求 AI 提供来源链接。
行业启示
- AI 的幻觉问题：大型语言模型可能生成逼真但虚假的内容，包括引述、数据和事实。
- 人类监督的局限：即使有经验的研究者，也可能被 AI 的流畅输出所迷惑。
- 未来方向：工具厂商需改进引用机制，用户则需建立更严格的核查流程。
