ChatGPT 制造商 OpenAI 即将推出新的搜索和语音功能，但它还有一个工具，据说可以很好地捕捉如今互联网上所有人工智能生成的假文章。该公司已对该工具进行了近两年的研究，现在要做的就是发布它。尽管如此，Sam Altman 领导的 OpenAI 公司仍在考虑是否要发布这款产品，因为这样做可能会激怒 OpenAI 的忠实粉丝。
这不是该公司2023年发布的 已失效的人工智能检测算法 ，而是更精确的算法。据《华尔街日报》8月4日的报道（该报道是根据公司内部的一些匿名消息来源撰写的），OpenAI 对发布这一人工智能检测工具犹豫不决。该程序实际上是一个人工智能水印系统，可将人工智能生成的文本印上其工具能检测到的特定图案。与其他人工智能检测器一样，OpenAI 的系统也会对文档进行评分，并根据其使用 ChatGPT 创建的可能性给出一个百分比。
OpenAI 发布的 5 月份博文的更新中证实了这一工具的存在。据《华尔街日报》报道，根据内部文件，该工具的有效率高达 99.9%。这将远远优于过去两年内其他人工智能检测软件所宣称的效果。该公司声称，虽然该工具的准确率很高，但是将文本翻译之后再用谷歌翻译之类的工具重新翻译，或者用另一种人工智能生成器更改措辞可以逃脱该工具的检查。OpenAI 还表示，那些希望规避该工具的人可以 “在每个单词之间插入一个特殊字符，然后删除该字符”。
该计划的内部支持者表示，它将在很大程度上帮助教师弄清学生何时交了人工智能生成的家庭作业。据报道，由于担心将近三分之一的用户群不喜欢这个工具，公司多年来一直搁置了该计划。OpenAI 发言人在一封电子邮件声明中说：
“我们正在开发的文本水印方法在技术上很有前途，但在研究替代方法的同时，我们也在权衡其中的重要风险，比如容易被坏人规避，可能对非英语使用者等群体造成过大影响等。我们认为，考虑到所涉及的复杂性及其对 OpenAI 之外的更广泛生态系统可能产生的影响，我们所采取的深思熟虑的方法是必要的。
OpenAI 面临的另一个问题是，如果它发布的工具有足够广阔的范围，有人可能会破译 OpenAI 的水印技术。还有一个问题是对英语非母语者有偏见、正如我们在其他人工智能检测器中看到的那样。
谷歌也开发了类似的SynthID， 这是有关人工智能生成的图像和文本的水印技术。虽然大多数消费者无法使用这一工具，但至少公司公开了它的存在。
尽管大型科技公司正在快速开发新方法，将人工智能生成的文本和图像愤怒地发布到互联网上，但检测假冒产品的工具还远远不够。教师和教授们尤其难以发现他们的学生是否提交了 ChatGPT 撰写的作业。当前来自Turnitin等公司的人工智能检测工具的失败率高达 15%。Turnitin公司表示，这样做是为了避免误报。
感受到人工智能文本生成痛苦的不仅仅是教师。Gizmodo 此前曾发布过一些专业写作人员被诬告使用人工智能完成工作，随后被解雇的报道。研究人员说，在这些情况下使用的第三方人工智能检测器往往远不如宣传的那么可靠。
（机器翻译，轻度译后编辑，仅供参考。）
编辑：李旭媛