日立制作所研发新突破：利用文章判断技术甄别生成式AI创作内容与虚假信息

随着人工智能技术的飞速发展，如何辨别由AI生成的内容成为了新的挑战。近日，一家日本知名企业——日立制作所宣布成功研发了一项新技术，能够有效判断一篇文章是否由生成式AI创作而成。这一创新不仅有助于遏制虚假信息的传播，还能为企业和政府部门在处理关键文档时提供版权保护。

该技术主要通过分析文章中的词汇使用模式来判断其是否出自AI之手。通过设定一系列“规则”，即使面对多个同义词选项，系统也会倾向于选择特定词汇。如果一篇文章中频繁出现这些基于规则选取的词汇，则有很大概率是由AI创作的。为了提高判断的准确性，日立还开发了整合多种词汇选择规则的技术方案。

当前，由生成式AI产生的不实信息（俗称“AI幻觉”）已成为亟待解决的问题之一。借助这项新技术，能够在一定程度上提前识别出AI生成的文章，进而减少虚假信息的扩散风险。

本文来源： IT之家【阅读原文】