亚马逊云AWS开源Multi-Agent Orchestrator项目:支持Python与TypeScript,实现5级通用AI Agent功能如自动查询航班、天气等,广受关注已超4000颗星

全球领先的云计算服务提供商亚马逊云AWS)近期开源了一款名为Multi-Agent Orchestrator的5级通用AI框架。这款框架通过多层次的AI代理(Agent)来解决复杂的任务处理需求,能够智能匹配用户请求与最合适的Agent,并确保整个交互过程中的上下文一致性与连贯性。其一大显著优势是对PythonTypeScript两种编程语言的支持,这不仅提升了Agent的部署灵活性,还满足了不同开发者的多样化需求。开源地址为:[https://github.com/awslabs/multi-agent-orchestrator](https://github.com/awslabs/multi-agent-orchestrator)。

Multi-Agent Orchestrator由五个核心层级组成:
1. Orchestrator:作为整体协调的核心模块,负责管理信息流动、处理用户输入、编排响应生成以及错误场景的处理。
2. Classifier:用于分析用户输入、Agent描述及对话历史,从而选择最适合的Agent来执行用户的请求。
3. Agent:包括预构建的Agent以应对常见任务,同时支持可定制化Agent扩展或覆盖默认行为,还可以创建针对特定任务的自定义Agent。
4. Retrievers:通过提供实时上下文及相关信息,提升基于大型语言模型(LLM)的Agent性能,避免仅依赖模型训练数据。
5. Conversation Storage:用于存储对话历史记录,支持多种灵活的存储方式,如内存内存储和DynamoDB,并允许快速开发自定义存储方案。

此外,Multi-Agent框架支持流式与非流式的Agent响应模式。流式响应适合需要实时处理大量数据的应用场景,例如视频流处理或实时数据分析,能够与Kafka、Amazon Kinesis等流处理服务无缝集成。而非流式响应则适用于无需实时处理的场景,如电子邮件处理或批量数据导入,可以与数据库和存储服务结合使用,确保数据的完整性和一致性。

为了方便开发者快速上手,Multi-Agent提供了多个预构建的Agent模板,涵盖旅行、天气、数学和健康等领域。例如,旅行Agent可以处理航班预订、酒店搜索和行程规划等任务,而天气Agent则能提供当前天气状况、天气预报及极端天气警报等功能。

以下是Multi-Agent自动化业务流程的一个简单示例:当用户向系统发送请求时,首先通过Classifier分析用户的输入、Agent描述以及当前对话历史,确定最适合的Agent进行处理。对于新查询(如“我想预订一张机票”或“20年期贷款的基础利率是多少”),Classifier会选择最佳匹配的Agent;而对于简短的后续回复(如“告诉我更多”或“再来一次”),系统会识别出最后响应的那个Agent并继续与其互动,从而确保多轮对话的连贯性。

选定Agent后,用户的输入将被发送至该Agent进行处理。每个Agent在处理请求时都会自动检索自身的对话历史记录,确保记住之前的对话,同时不影响其他Agent的工作。生成的响应可以是标准模式或流式传输模式,具体取决于Agent的能力和初始化设置。随后,Orchestrator会自动保存用户的输入和Agent的响应至对应的存储中,这对于实现多轮对话至关重要。

值得一提的是,Multi-Agent Orchestrator还支持文本和语音交互,通过集成Amazon Connect和Lex等工具,进一步增强了其在客户服务和呼叫中心等领域的应用能力。尽管该项目开源时间不长,但已迅速获得广泛关注,GitHub上的星标数已突破4000颗。

本文来源: AIGC开放社区公众号【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...