SheepNav
新上线今天0 投票

AI内容泛滥互联网,Pangram获900万美元融资用于检测

随着生成式AI的爆发式增长,互联网上充斥着由AI生成的文本、图像乃至视频内容,如何有效甄别这些内容已成为行业棘手难题。近日,AI检测初创公司 Pangram 宣布完成 900万美元 融资,并同步推出新一代AI文本检测模型 Pangram 4,同时以研究预览形式发布了AI图像检测模型,试图为内容可信度提供更精准的“守门人”。

融资背景与产品迭代

据官方披露,本轮融资由多家风投机构参与,资金将主要用于技术研发、模型迭代以及市场拓展。Pangram 4 作为其核心产品,采用了更先进的深度学习架构,在识别ChatGPT、Claude、Gemini等主流大语言模型生成的文本方面,据称准确率较上一代提升了显著。此外,新发布的图像检测模型目前处于研究预览阶段,旨在应对AI生成图像(如Midjourney、DALL·E 3等工具产出)的泛滥问题。

为何AI检测如此重要?

当前,AI生成内容已渗透至新闻、学术论文、社交媒体、评论等多个领域。虚假信息、学术不端、网络水军等问题日益严峻。例如,AI生成的虚假评论可能误导消费者,AI代写的论文威胁学术诚信,而深度伪造的新闻文章更可能引发社会恐慌。Pangram 的产品正是瞄准这一痛点——通过分析文本的统计特征、语义模式以及生成痕迹,判断内容是否由机器生成。

技术挑战与行业竞争

AI检测并非易事。随着生成模型不断升级,其输出越来越接近人类写作风格,传统的基于困惑度、突发性等特征的检测方法正逐渐失效。Pangram 声称其新模型采用了对抗训练和动态特征提取技术,能够适应不断演变的AI生成模式。不过,该领域竞争激烈,除Pangram外,还有Originality.ai、GPTZero等玩家,以及OpenAI自身推出的AI分类器(虽已下线)。此外,学术界也在持续探索水印、溯源等更底层的解决方案。

前景与隐忧

Pangram 的融资与产品发布,反映了市场对AI内容治理的迫切需求。但需要指出的是,任何检测工具都无法做到100%准确,误判和绕过攻击始终存在。Pangram 表示,其模型在标准测试集上表现优异,但实际部署效果仍有待观察。此外,隐私与数据安全也是关键——检测过程是否需要访问用户原始内容?如何防止检测结果被滥用?这些问题都需要行业共同探讨。

总体而言,Pangram 的进展为AI内容治理增添了一支新力量,但这场“猫鼠游戏”远未结束。随着生成式AI的持续进化,检测技术也必须不断迭代,才能守住信息真实性的底线。

延伸阅读

  1. Google SynthID 水印难以破解,但无法解决 AI 虚假信息问题
  2. 我们再也找不到忽视AI安全的理由了
  3. 更多拼写错误,更少破折号:作家们正掀起一场反AI的“文学反文化”运动
查看原文