进行分类#xff0c;DetectGPT

生成较小的扰动。

然后DetectGPT将原始样本x的对数概率与每个扰动样本~xi进行比较。

…DetectGPT的目的是确定一段文本是否由特定的llm生成例如GPT-3。

为了对段落

进行分类DetectGPT

生成较小的扰动。

然后DetectGPT将原始样本x的对数概率与每个扰动样本~xi进行比较。

如果平均对数比高则样本可能来自源模型。

ChatGPT是一个热门话题。

人们正在讨论是否可以检测到一篇文章是由大型语言模型(LLM)生成的。

DetectGPT定义了一种新的基于曲率的准则用于判断是否从给定的LLM生成。

DetectGPT不需要训练单独的分类器不需要收集真实或生成的段落的数据集也不需要显式地为生成的文本加水印。

它只使用由感兴趣的模型计算的对数概率和来自另一个通用预训练语言模型(例如T5)的文章随机扰动。

1、DetectGPT:随机排列和假设

(x)的负曲率区域的趋势其中附近的样本平均具有较低的模型对数概率。

相比之下人类书写的文本x~preal(.)(右)倾向于不占据具有明显负对数概率曲率的区域。

DetectGPT基于一个假设即来自源模型pθ的样本通常位于pθ对数概率函数的负曲率区域这是人类文本不同的。

如果我们对一段文本

x~pθ

如果q(.|x)是来自掩码填充模型(如T5)的样本而不是人类重写那么假设4.1可以以自动的、可扩展的方式进行经验检验。

2、DetectGPT自动测试

对一篇文章进行改写后模型生成的文章的对数概率(扰动差异)的平均下降始终高于人工书写的文章

对于真实数据使用了XSum数据集中的500篇新闻文章。

当提示XSum中每篇文章的前30个令牌时使用四个不同llm的输出。

使用T5-3B施加扰动遮蔽随机采样的2个单词跨度直到文章中15%的单词被掩盖。

上面公式(1)中的期望近似于T5中的100个样本。

上述实验结果表明人写文章和模型样本的摄动差异分布有显著差异;模型样本往往有较大的扰动差异。

根据这些结果就可以通过简单地阈值扰动差异来检测一段文本是否由模型p生成。

E~x

扰动差异可能是有用的它测量的是什么还无法明确解释所以作者在下一节中使用曲率进行解释。

3、将微扰差异解释为曲率

扰动差异近似于候选段落附近对数概率函数局部曲率的度量更具体地说它与对数概率函数的

Hessian

这一节内容比较多这里就不详细解释了有兴趣的可以看看原论文大概总结如下

语义空间中的采样确保所有样本都保持在数据流形附近因为如果随机添加扰动标记预计对数概率总是下降。

所以可以将目标解释为近似限制在数据流形上的曲率。

4、结果展示

每个实验使用150到500个例子进行评估。

机器生成的文本是通过提示真实文本的前30个标记来生成的。

使用AUROC)评估性能。

可以看到DetectGPT最大程度地提高了XSum故事的平均检测精度(AUROC提高0.1

对于15种数据集和模型组合中的14种DetectGPT提供了最准确的检测性能AUROC平均提高了0.06。

在真实文本和生成文本的大型数据集上训练的有监督的机器生成文本检测模型在分布内(顶部行)文本上的表现与DetectGPT一样好甚至更好。

零样本方法适用于新域(底部一行)如PubMed医学文本和WMT16中的德语新闻数据。

来自每个数据集的200个样本进行评估监督检测器对英语新闻等分布内数据的检测性能与DetectGPT相似但在英语科学写作的情况下其表现明显差于零样本方法而在德语写作中则完全失败。

DetectGPT检测GPT-3的平均AUROC与专门为机器生成文本检测训练的监督模型相当。

从PubMedQA、XSum和writingprompt数据集中抽取了150个示例。

将两种预训练的基于roberta的检测器模型与DetectGPT和概率阈值基线进行了比较。

DetectGPT

T5–3B

的文本被替换。

即使模型样本中近四分之一的文本已被替换DetectGPT

仍能将检测

https://avoid.overfit.cn/post/32ade57f49d14bbca4899fcc1a672146