标签:伊利亚·舒梅洛夫

反复使用 AI 生成的内容来训练 AI 可造成“模型崩溃”

9月5日,根据《福布斯》报道,牛津大学的研究人员伊利亚·舒梅洛夫博士及其团队发现了一个有趣的现象:当生成式AI软件仅依赖自身生成的进行训练时,回答的质量会逐渐下降。这项研究成果已在《自然》杂志上发表。 研究显示,在最初的几次查询后,AI的回答开始出现偏差,到第五次查询时,质量明显下降;而在第九次连续查询后,回答几乎变成了无意义的胡言乱语。研究人员将这一现象称为“模型崩溃”,即AI在不断污染自己的训练数据后,输出的逐渐偏离现实,最终变得毫无价值。 舒梅洛夫博士表示:“令人惊讶的是,‘模型崩溃’发生...