标签:ReAct框架

GPT-4 化身黑客搞破坏,成功率 87%!OpenAI 要求保密提示词,网友复现 ing

伊利诺伊大学香槟分校的研究团队揭示了一项惊人的发现,他们设计了一个黑客智能体框架,测试了10个模型,包括GPT-4和GPT-3.5,以评估其利用CVE漏洞的能力。结果显示,只有GPT-4能够在阅读漏洞描述后成功执行攻击,成功率高达87%,而其他模型则完全失败。这一研究引起了广泛关注,但OpenAI已要求不要公开相关提示词。实验中,研究人员使用了91行代码构建智能体,其通过LangChain的ReAct框架模拟攻击,如双花攻击,并考虑了并发攻击和响应策略。尽管GPT-4在某些特定场景下未能成功,如Iris XSS和Hertzbeat RCE,但总体表现突出...