准确率 99%,新模型可识别 ChatGPT 生成的文本内容

人工智能
AI Detector 研究人员表示该模型在区分人类写作和 ChatGPT 生成的文本方面表现出 99% 的准确率,并且明显优于 ChatGPT 制造商 OpenAI 提供的 AI 检测软件 GPT-2 Output Detector。

IT之家 11 月 8 日消息,根据 sciencedirect 收录的最新论文,科学家依赖 20 个特征和机器学习算法,可以准确区分内容是由人类论文作者创作,还是由 ChatGPT 生成的,且准确率可以高达 99%。

AI Detector 研究人员表示该模型在区分人类写作和 ChatGPT 生成的文本方面表现出 99% 的准确率,并且明显优于 ChatGPT 制造商 OpenAI 提供的 AI 检测软件 GPT-2 Output Detector。

研究人员也坦言,现阶段该赛模型算法测试的样本数据并不够大,只是测试了 13 家化学期刊和 3 家媒体上文章,通过 20 个文本特征和 XGBoost,可以有效区分人类协作,以及 GPT-3.5 / GPT-4 生成内容。

研究人员表示,这些测试表明他们的方法简单而有效。他们强调,取决于提示和模型,该工具在识别人工智能生成的文本时表现出 98%-100% 的准确率。

研究人员表示 OpenAI 目前检测器准确率目前在 10-56% 之间,该工具比 OpenAI 的更为先进。

研究人员进一步透露,这项研究和发明背后的目标是为科学界提供一种途径,让他们能够评估“ChatGPT 对化学期刊的渗透,确定其使用的后果,并在出现问题时迅速引入缓解策略”。

IT之家在此附上论文地址,感兴趣的用户可以深入阅读。

Heather Desaire, Aleesa E. Chua, Min-Gyu Kim, David Hua,Accurately detecting AI text when ChatGPT is told to write like a chemist,Cell Reports Physical Science,2023,101672,ISSN 2666-3864,https://doi.org/10.1016/j.xcrp.2023.101672.

责任编辑:姜华 来源: IT之家
相关推荐

2023-09-25 10:04:37

模型AI

2023-05-04 09:39:16

AI模型

2024-01-05 08:44:52

2018-06-12 07:15:18

阿里巴巴技术语音识别

2020-09-14 14:10:04

开发技能代码

2024-04-08 07:02:40

AI服务器人工智能

2020-10-18 12:27:35

人工智能人脸识别技术

2024-09-29 16:00:26

2021-12-20 16:17:35

数据模型技术

2020-04-23 13:17:53

脑机接口机器翻译人工智能

2022-08-05 14:38:16

机器学习AI

2023-10-26 08:40:15

模型隐私推理

2023-06-21 09:15:30

AI 技术神经网络

2024-09-12 13:50:00

模型训练

2023-07-26 15:13:33

人工智能OpenAI

2023-04-10 12:51:17

人工智能唇语

2023-04-10 16:06:25

人工智能唇语

2023-06-08 19:07:17

ChatGPTAI

2024-11-11 10:00:00

ChatGPT模型
点赞
收藏

51CTO技术栈公众号