出品 | 搜狐科技
作者 | 王一鸣
你写论文或作业的时候是否用过ChatGPT？
对于有些依赖AI的同学有个坏消息，其实OpenAI内部早在2022年ChatGPT上线的时候就开始讨论这样的反作弊工具了，但为什么迟迟没有上线？
2023年初，OpenAI 联合创始人John Schulman（对，就是前几天离职的那位）总结了这种反作弊工具的优势劣势之后，高管一致认为应该问问广大人民群众的意见。
结果显示69% 的受访者认为AI检测工具会滥杀无辜，有30% 的受访者直接表示如果ChatGPT上线这个功能，那就直接减（放）少（弃）使用。
OpenAI内部其实也担心AI检测工具可能会影响那些不使用英语的群体，虽然在技术上确实没有问题，但是他们还是决定先研究一下Plan B替代方案。高层担心的是这样的工具是否会对OpenAI之外的生态系统产生影响。
不仅如此，内部还担心添加“水印”的技术还会影响ChatGPT写作质量。
OpenAI CEO山姆·奥特曼表示鼓励这个项目，但并没有推动它的发布。嘴上说支持，但身体还是很诚实的。
山姆·奥特曼参与了有关检测器工具的讨论。David Paul Morris/彭博社新闻
工具能真正发挥作用吗？
ChatGPT在生成语句的时候会通过token预测句子接下来会出现什么单词和单词片段，而OpenAI内部在讨论这个检测工具的可以稍微改变tokens选择单词的方式，这就相当于在一段话中打上了“水印”。
这种“水印”人类是看不出来的，检测器会提供一个分数，可以表示ChatGPT生成的可能性。文本越多检测工具检测的准确性就越高，可高达99.9%，在此之前只有26%。
当然了，其实这种水印也能通过“小技巧”去掉，比如用软件翻译成其他语言，然后再翻译回来，或者把一些词改成它的同义词，跟规避“查重”是一个道理。
这里其实涉及到另外一个问题，如果只有少数人拥有，那这个工具等于没有发挥什么用处。但是所有人都可以用，那就会有很多人去破解工具，比如开发破解工具修改语句让检测工具失灵，正所谓道高一尺，魔高一丈。
而且ChatGPT用户是真的不喜欢这个工具。
在巴黎举办的OpenAI推广大会。Julien De Rosa/法新社/Getty Images
现实情况
生成式AI在几秒钟之内其实就能根据一个指示就可以生成论文，所以一些大学教授跟学生之间就产生了一种猜疑链，学生会认为教授应该看不出来，教授和老师也会怀疑学生使用了AI生成。教授和老师们一致认为学生滥用AI是个大问题，他们非常急需这种工具。
很有意思的是，美国很多的高中生写作业的时候会想，老师会不会有什么魔法看得出来自己是不是让AI写了作业，但是最后发现，他们的老师真的完全看不出来。
犹他大学一位政治学教授就很机制，他在一个写作作业的要求中添加了一段很难发现的小字，说要提及“蝙蝠侠”（然而这个作业跟蝙蝠侠并没有关联）。
学生只要把作业要求提交给AI，那生成的内容中肯定会有“蝙蝠侠”，就直接露馅儿...
所以说由于AI的加持，就造成交作业的时候学生都不知道交了什么。
以前教授跟学生只是在“剽窃抄袭”的问题上斗智斗勇，如今看来又增加了一项。
那么人们都用AI聊天机器人干什么？
根据 *** 的分析，样本数量是Wildchat数据集中近20万条英文对话，其中数据不仅仅只包含ChatGPT。可以看到排名之一的是创意写作（21%），其次为协助家庭作业（18%）。
所以说OpenAI如果上线这个功能的话，一定会流失很多用户。
发表评论