SheepNav
新上线今天0 投票

AI 骗子正在制造假黑人,在 TikTok 上销售 Shein 廉价商品

在 TikTok 上,一位名叫 Aliyah 的浅肤色黑人女性穿着西部风服装,含泪推销她“手工制作”的金属皮带扣,声称需要观众停留 13 秒来拯救她的小生意。但 Aliyah 并非真人,而是 AI 生成的虚拟形象——她的产品同样来自快时尚网站 Shein,价格仅是视频中售价的四分之一。

《The Verge》调查发现,TikTok、Facebook 和 Instagram 上存在大量类似账号,使用 AI 生成的人物、背景和文案,通过代发货模式销售皮带扣、牛仔靴形马克杯、钩编包等商品。这些视频中,AI 人物的声音机械呆板,与哭泣表情不匹配;拭泪动作后泪痕消失;多个账号共享相同背景和道具。部分视频虽标注为 AI 生成,但评论区自动回复仍试图模仿非裔美国人口语,以博取同情和购买。

专家指出,这种利用种族身份和情感操纵的 AI 诈骗正在快速增长。AI 工具降低了创建虚假网红和产品的门槛,使消费者难以辨别真伪。平台审核机制滞后,往往在欺诈内容传播后才采取行动。

这起事件揭示了 AI 技术被滥用于欺诈的新趋势:通过制造虚假的少数族裔形象,利用同理心和愧疚感诱导消费,同时掩盖产品真实来源和价格。消费者应警惕过度煽情的小商家视频,核实产品信息,避免为溢价买单。监管与平台需加强 AI 内容标识和源头追溯,防止此类欺诈蔓延。

延伸阅读

  1. Meta 被曝正在开发 AI 挂坠,挑战可穿戴硬件市场
  2. 谷歌24/7 AI助手Gemini Spark实测:确实挺有用,但为何要独立成产品?
  3. 工程师的诗意:赛博格实验室
查看原文