什么是技术栈?
在软件开发中,术语“栈”意味着分层结构,技术栈是一种将用于创建可工作软件系统的一系列技术分层、可视化的方法,其中每一层都建立在其他层之上或与其他层相互作用,形成一个内聚系统。这些技术包括编程语言、框架、库、服务器和工具,它们协同工作以开发和运行软件应用程序。技术栈的选择至关重要,因为它会影响应用程序的性能、可伸缩性、可维护性和开发效率,以及吸引和留住人才的能力。
编排
协调和管理多个组件的工作流程
模型基准测试
评估不同模型的性能以分配任务
模型路由
智能分配任务到最合适的模型
多智能体编排
协调多个智能体协同完成复杂任务
上下文
处理记忆和情境感知功能
向量数据库
存储和检索高维向量数据,支持相似性搜索
图数据库
存储和检索图数据,支持知识图谱和多跳推理
数据准备平台
清洗、标注和格式化数据以供模型训练和使用
记忆管理
管理智能体的长期和短期记忆,维持对话连续性
智能体开发框架与平台
提供构建和部署AI代理所需的基础设施和工具集
开发者框架与平台
为开发人员提供构建AI应用所需的SDK和API
低代码平台
允许通过图形界面和少量代码快速构建AI应用
支付基础设施
为智能体提供交易处理和支付功能支持
语音交互
实现语音识别和合成,支持语音对话界面
基础模型与基础设施
提供核心AI能力和模型运行所需的基础计算资源
大语言模型
开发和提供大语言模型和服务的厂商和平台
嵌入模型
将特定领域的文本、图像等数据转为高维向量的模型厂商
模型部署与服务
将训练好的模型部署到生产环境并提供API服务
工具集成
集成外部工具和服务
浏览器基础设施
提供浏览器自动化能力,使AI能够与网页交互
搜索API和爬虫
提供网络信息检索和数据采集能力
工具库和集成平台
提供预构建工具集合和统一的集成接口
监督与管理
提供监控、安全和管理功能
安全与风险管理
识别和防范AI系统安全威胁和风险
可观测性、评估与治理
监控AI应用性能、评估效果并确保合规性
认证平台
智能体身份验证和访问控制,保障权限控制