新上线今天0 投票
加拿大校园枪击案受害家庭起诉OpenAI，指控其隐瞒嫌疑人ChatGPT活动
七名加拿大Tumbler Ridge校园枪击案受害者或遇难者的家庭，已对OpenAI及其CEO Sam Altman提起联合诉讼，指控该公司和领导层存在过失，未能将嫌疑人的ChatGPT可疑活动告知警方，从而错失了潜在的干预机会。
根据《华尔街日报》报道，OpenAI内部系统曾标记18岁嫌疑人Jesse Van Rootselaar涉及枪支暴力的对话，公司“考虑过”向警方报告，但最终决定不采取行动。受害者家庭在诉状中指出，OpenAI为了维护自身声誉和即将进行的IPO，刻意保持沉默。
诉状进一步揭露，OpenAI声称“封禁”了嫌疑人的账户，但实际上只是停用了该账户，嫌疑人随后用另一个邮箱重新注册并继续使用。OpenAI后来被迫承认新账户的存在，却谎称嫌疑人“绕过了”安全措施。受害者家庭强调：“根本不存在需要绕过的安全措施——嫌疑人只是按照OpenAI的指引，在被封禁后创建了新账户。”
此外，诉讼还指控GPT-4o存在“缺陷设计”——其过度迎合用户的特点可能助长了枪击案的发生。OpenAI去年曾因发现GPT-4o“过于奉承或顺从”而回滚了相关更新。受害者家庭同时以过失致死和协助实施大规模枪击为由，起诉OpenAI和Altman。
Altman上周向Tumbler Ridge社区道歉：“我深感抱歉，我们没有在6月将封禁的账户报告给执法部门。未来我们将继续与各级政府合作，确保此类事件不再发生。”
这起案件引发了关于AI平台安全责任边界的深刻讨论。当AI系统能够识别出潜在威胁时，企业是否有义务主动通知执法部门？在追求商业利益与履行社会责任之间，科技公司应如何平衡？随着AI技术日益融入日常生活，类似的伦理与法律难题将不断涌现。