人工智能更新换代快　检测难度大 全球播报

(资料图)

据大公报报导，据《华盛顿邮报》报导：不少科技公司推出声称可以检测AI文本的软件，但是教育专家称，准确检测其实非常困难，很容易错误指控学生“作弊”。

就检测原理而言，由于聊天机器人通常经过大量文本训练，通过分析来预测句子中的下一个单词，从而组成句子和段落以及文章，而这种做法通常会导致写作风格出奇地一致平均。因此AI生成文本检测工具主要用于寻找这种“过度”一致性。

聊天机器人ChatGPT母公司OpenAI于2月1日宣布推出AI生成内容识别器“AI　Text　Classifier”，用于区分人工编写的文本和AI生成的文本，然而似乎准确度堪忧。OpenAI在博客中指出，该检测工具分辨AI生成文本的成功率仅为26%。

众多高校使用的抄袭检测服务商Turnitin，4月推出了自家的AI检测工具，通过搜索文本并寻找“（风格）太过平均”的句子，来判定文本内容是否由AI生成。不过，《华盛顿邮报》做的一项测试显示，该软件可错误地将人类生成的文本标记为AI所写。

教育专家也表示，使用该检测工具可能会对那些非英语为母语的学生不公平，因为他们的写作风格，可能更接近AI生成工具所使用的风格。

有专家表示，AI检测将很难跟上大型语言模型（LLM）的发展步伐。例如，Turnitin的检测工具可以标记由ChatGPT前身GPT－3.5所撰写的AI文本，但不能标记其升级版模型GPT－4，检测面临的困难将越来越大。

标签：