利用人工智能和AI生成内容，我在知乎实验中让AI Agent假扮情感咨询大V，成功回答上百个问题未被识破

最近，哲学教授迈克尔·桑德尔与知名主持人许知远共同探讨了“人工智能的发展是否会挑战人类存在的意义”这一话题。例如，“如果你的亲人在死后以AI的形式继续和你交流，你会愿意吗？”这个问题并非空洞的哲学命题。如今，AI生成的已经广泛渗透到我们的社交平台。你在社交媒体上看到的美女照片可能是AI生成的；深夜浏览的心灵鸡汤文也可能出自AI之手；甚至你收到的网友回复，也可能是AI生成的。如果不加标注，你能分辨出这些是否来自AI吗？随着越来越多难以辨别的AI出现在信息流中，这将对互联网世界产生怎样的影响？

不久前，一位开发者进行了一项有趣的实验。他创建了一个AI账号，潜伏在知乎上，回答问题并与网友互动，观察是否有人能发现其AI身份。实验的发起者是一名刚毕业的物理系学生——向劲宇。他从物理学转向AI领域，参加了多个黑客马拉松，独立开发了AI小说Agent，并在阿里巴巴全球数学竞赛AI赛道中获得第二名。今年7月，向劲宇通过知乎的问答数据反向生成了AI训练数据，调整了语义分布，使AI生成的更像真人表述，并微调了开源模型Qwen2-7B。经过一个月的实验，该AI账号发布了109条，获得了3.3万浏览量，几乎没有人怀疑其AI身份。

向劲宇表示，实验过程中，AI账号“埃-Qw”主要回答了情感咨询类问题，如感情困惑、原生家庭和人际交往等。尽管AI生成的质量很高，但有时也会出现不当回答。因此，向劲宇在每次运行时都会进行安全性审核。最终，他在一个月后关闭了账号，因为他认为实验已经达到目的——证明AI可以在互联网上不被人类发现。

向劲宇还分享了一些有趣的案例，例如一位中年人询问读书的意义，AI的回复虽然语气不佳，但依然鼓励了提问者。此外，他还提到了自己用AI生成了一本天体物理方面的电子书，并成功售出。在AI Agent领域，向劲宇参与了多个黑客马拉松，探索大模型自主解决复杂问题的能力。他认为，AI并不是越复杂越好，而是需要找到一个平衡点，使系统性能达到最佳。

向劲宇的故事只是众多AI开发者的一个缩影。在AI时代，许多开发者都在寻找应用的最佳场景，不断推出新的热门应用，保持用户的关注度和活跃度。目前，向劲宇在一家AI公司担任算法研究员，同时也在个人项目中积极探索。他表示，未来计划开源一个APrompt项目，帮助用户自动完成最优Prompt生成，并创建一个基准测试，展示AI与人类在特定任务上的差异。

本文来源：