xLLM – 京东开源的智能推理框架

xLLM是什么 xLLM 是京东开源的高效智能推理框架,专为国产芯片优化,支持端云一体部署。框架用服务-引擎分离架构,服务层负责请求调度与容错,引擎层专注运算优化,具备多流并行、图融合、动态负载均衡等...
5天前
0460

NatAgent – AI数据情报监控与分析平台

NatAgent是什么 NatAgent 是基于自然语言的 AI 数据情报监控与分析平台,专注于通过智能化技术帮助用户高效提取、监控和分析各类网络数据,从中获取可操作的洞察。核心功能包括智能监控,实时...
1周前
0500