AI使用真相：独立研究揭示我们仍不了解人们如何真正使用AI
AI公司如Anthropic和OpenAI定期发布报告，展示人们如何使用Claude和ChatGPT等产品，但AI研究人员指出，这些报告只展示了他们希望我们看到的数据。斯坦福大学可信AI研究（STAIR）实验室的博士生Anka Reuel表示：“没有独立来源可以证实这些数据。”
为此，Reuel共同领导了一个名为“AI Observatory”的新研究项目，旨在填补这一空白。该平台聚合并分析了来自七个现有数据集、经用户同意收集的与Claude和Gemini等流行模型的真实AI对话，为研究人员和政策制定者提供独立信息源，以评估人们如何使用生成式AI。
AI Observatory发现，AI使用在不同模型间差异显著，并随时间变化。其研究显示，许多敏感行为并未出现在主要AI公司的报告中，这些报告更侧重于工作而非个人使用。例如，Anthropic经济指数是最知名、引用最广的AI使用数据源之一，但存在盲区。它聚焦于Claude AI的工作和生产力相关用途，过滤掉无关对话。当AI Observatory团队应用Anthropic的方法时，发现近一半（48%）的对话会被过滤掉。这些被过滤的非工作对话更可能涉及健康和人际关系（44.2%对31.2%）、成人或非法话题（7.9%对2.1%）、骚扰和仇恨（27.5%对5.66%）以及性内容（16.7%对2.4%）。OpenAI 2025年的报告也显示，仅30%的消费者使用与工作相关。
Anthropic曾发布关于人们使用Claude进行支持或陪伴，甚至生成CSAM的单独博客文章，但UT-Austin信息学院助理教授David Widder表示，AI Observatory的鸟瞰式分析而非分割成单独报告，有助于研究人员更一致地理解不同用途。
这一研究凸显了AI使用数据透明度的缺失，对政策制定和风险评估至关重要。随着AI的普及，独立、全面的使用数据成为平衡创新与监管的关键。