标签：自我毁灭

9月5日，根据《福布斯》报道，牛津大学的研究人员伊利亚·舒梅洛夫博士及其团队发现了一个有趣的现象：当生成式AI软件仅依赖自身生成的进行训练时，回答的质量会逐渐下降。这项研究成果已在《自然》杂志上发表。 研究显示，在最初的几次查询后，AI的回答开始出现偏差，到第五次查询时，质量明显下降；而在第九次连续查询后，回答几乎变成了无意义的胡言乱语。研究人员将这一现象称为“模型崩溃”，即AI在不断污染自己的训练数据后，输出的逐渐偏离现实，最终变得毫无价值。 舒梅洛夫博士表示：“令人惊讶的是，‘模型崩溃’发生...