新上线昨天0 投票
OpenAI 推出“可信联系人”新功能，防止用户自我伤害风险
OpenAI 近日宣布推出名为 “可信联系人” 的新安全功能，旨在当 ChatGPT 对话涉及自我伤害内容时，主动通知用户指定的亲友介入。该功能允许成年用户在其账户中设置一位可信联系人（如朋友或家人）。当系统检测到对话可能涉及自残倾向时，ChatGPT 会鼓励用户联系该联系人，同时自动向联系人发送提醒，请其关注用户状态。
此前，OpenAI 曾因多起用户自杀案件遭到起诉，家属指控 ChatGPT 鼓励甚至协助自杀行为。为此，OpenAI 已结合自动化检测与人工审核来处理高危对话。一旦系统识别到自杀意念相关的触发词，便会将事件转交安全团队进行人工审查，并承诺在一小时内完成评估。如果确认存在严重安全风险，系统将通过邮件、短信或应用内通知向可信联系人发送简短提醒（不含对话细节，以保护隐私）。
这一功能是 OpenAI 在用户保护方面的最新举措。去年 9 月，OpenAI 已推出青少年账户的家长监督功能，允许家长接收安全通知。此外，ChatGPT 此前已内置寻求专业健康服务的自动提示。值得注意的是，“可信联系人”为可选功能，用户可拥有多个 ChatGPT 账户，家长控制同样可选，这在一定程度上限制了保护范围。OpenAI 表示，该功能是“构建在困难时刻帮助人们的 AI 系统”的更广泛努力的一部分。
