Articles

2026年4月24日Masahiro TaimaResearchTechnology

最新AI能做什么?从Gemini·Claude·Open AI·OpenClaw·Genspark等官方文档中整理的约600项功能

Product

免费开始(筹备中) 咨询企业版

Career

我们正在积极招聘与mign一起从事专业型AI代理服务开发的人才

本文由日语原文自动翻译而成


开篇

AI的发展突飞猛进,能够完成的任务也在不断增加。然而,在社交媒体或科技新闻中,多数是零散的应用案例介绍,很难找到关于AI整体功能的全面信息。本文精选了全球用户众多的主要AI工具约15款,以官方文档为中心,全面列举其功能。既包含面向普通用户的信息,也涵盖面向开发者的内容。希望本文能够帮助您了解当前AI能够实现的各种功能。

AI的功能分为理解、检索、推理、生成、行动和其他共6大类。这是因为最近的AI智能体(agent)融合了ReAct(推理+行动)框架、RAG(检索+生成)模型和检索-推理-行动循环等多个概念,我们将理解、检索、推理、生成、行动作为AI智能体的代表性构成要素来进行分类。


目标AI工具和参考文档


"理解"相关功能

结构化理解用户意图、含糊自然语言,以及图像和语音等多模态输入数据的功能。

文本理解·摘要·信息提取

  • 文本摘要 (Text summarization): 理解长文或多个文档的内容,提取主要要点和结论的基础功能 [OpenAI, Google/Gemini, Anthropic/Claude, Microsoft Copilot, Mistral, Meta/Llama, Kimi, DeepSeek]

  • 结构化数据提取 (Structured output / JSON schema): 按照既定的JSON模式,从非结构化文本中精确提取和解释实体或特定数值的功能 [OpenAI, Google/Gemini, Anthropic/Claude, Meta/Llama, xAI, DeepSeek]

  • 实体提取 (Entity extraction): 从长文中识别并提取人物名、企业名、日期、金额等专有名词和关键词的功能 [OpenAI, Google/Gemini, Anthropic/Claude, Microsoft Copilot]

  • 主题和用户意图解释 (Intent recognition / Topic triggering): 从用户言论或含糊问题中解释其目的(意图),并启动相应智能体流程的功能 [Microsoft Copilot, OpenClaw, Google/Gemini]

  • 多语言翻译和文脉理解 (Multilingual support): 自然理解多语言文本,并将其翻译或摘要为指定语言的功能 [OpenAI, Google/Gemini, Anthropic/Claude, Meta/Llama, xAI, DeepSeek]

  • 内容审核和安全性解释 (Moderation / Safety checks): 分析和理解文本中是否存在政策违反、有害内容或不恰当成分的功能 [OpenAI, Meta/Llama, Google/Gemini, xAI]

  • 对话文脉理解 (Context management / Threads): 记忆和理解过去的消息历史或会话流程,根据文脉进行相应回应的功能 [OpenAI, Anthropic/Claude, Google/Gemini, xAI, OpenClaw, Perplexity]

  • 情感分析和语气解释 (Sentiment analysis): 从文本的措辞和表达方式,理解和提取用户的情感状态或语气的功能 [Google/Gemini, OpenAI, Microsoft Copilot]

  • 大规模文脉全局理解 (Long-context understanding): 一次性读取100万至500万标记或256K等超长文本,进行全局理解的功能 [Google/Gemini, Anthropic/Claude, Meta/Llama, Kimi, DeepSeek]

  • 提示变量自动提取和解释 (Templatize a prompt): 从用户输入中自动识别和提取变量,理解为便于系统集成的模板结构的功能 [Anthropic/Claude]

  • 角色心理推理和关系提取 (Character mind map): 从书籍或故事中解释和整理登场人物的思考过程和人际关系的功能 [Meta/Llama]

  • 人设和行为规则解释 (Persona understanding): 自主理解和适应系统提示或配置文件(如AGENTS.md)中记载的角色、语气和规则的功能 [OpenClaw, Anthropic/Claude, Mistral, OpenAI]

  • 研究论文·学术数据深度分析 (Analyze research papers): 解读复杂格式的学术论文和研究数据,提取科学见解的功能 [Meta/Llama, Google/Gemini, Anthropic/Claude]

  • 多文档横向理解 (Multi-document analysis): 理解和整合上传的多个文件之间的关联性和矛盾之处的功能 [OpenAI, Anthropic/Claude, Google/Gemini, Mistral, Kimi]

  • 组织数据的业务文脉理解 (Data grounding): 读取和理解公司内部的SharePoint、电子邮件和聊天等内容,作为企业特有的业务文脉进行理解的功能 [Microsoft Copilot, Google/Gemini]

  • 提示缓存的文脉重用 (Prompt caching): 缓存长大的文脉内容,不需重新计算即可高效进行信息解释和提取的功能 [OpenAI, Anthropic/Claude, xAI, DeepSeek]

  • 聊天前缀的文脉连贯理解 (Chat Prefix Completion): 精确理解已部分完成的文本前缀,预测和提取后续文脉的功能 [DeepSeek, OpenAI]

  • 法律文件·合同条款解释 (Legal document analysis): 从长大的法律文件中精确理解和提取风险条款或义务内容的功能 [Anthropic/Claude, OpenAI, Google/Gemini, Kimi]

  • 简历的职历·技能提取 (Resume/Profile extraction): 从人事数据或简历中结构化提取和理解技能集和经历的功能 [OpenAI, Google/Gemini, Anthropic/Claude]

  • 医疗数据·医疗卫生记录文脉提取 (Healthcare data extraction): 从医疗记录或患者数据中解释和提取重要医疗见解或症状的功能 [Google/Gemini]

  • 会议记录中的行动项提取 (Action item extraction): 从会议或支持聊天记录中解释和提取决定事项或任务的功能 [OpenAI, Microsoft Copilot, Anthropic/Claude]

  • 个人信息·机密信息识别和提取 (Sensitive Data Protection / PII extraction): 理解输入数据中的个人信息,为保护和掩码而进行提取的功能 [Google/Gemini, OpenAI, Microsoft Copilot]

多模态·视觉信息理解(图像·视频·UI)

  • 图像中的物体和场景理解 (Image understanding / Vision): 将图像中出现的物体、情况、空间关系理解为视觉语境的功能 [OpenAI, Google/Gemini, Anthropic/Claude, xAI, Meta/Llama, DeepSeek, Kimi]

  • 光学字符识别和文本提取 (OCR / DeepSeek-OCR-2): 从图像化的文档或照片中提取字符信息,并作为结构化数据进行解释的功能 [OpenAI, Google/Gemini, DeepSeek, Anthropic/Claude]

  • UI原型的代码解释 (Image mock up to HTML): 理解图像中手写笔记或UI设计的意图,并将其作为代码结构进行解释的功能 [Google/Gemini, OpenAI, Anthropic/Claude]

  • 复杂图表和图形的视觉分析 (Chart & Graph analysis): 从图像化的数据图表中读取数值见解和逻辑趋势的功能 [Anthropic/Claude, Meta/Llama, OpenAI, Google/Gemini]

  • 视觉因果关系和逻辑结构的理解 (Visual Causal Flow): 从复杂的示意图或流程图中解释和提取信息流和逻辑因果关系的功能 [DeepSeek]

  • 视频帧和文脉理解 (Video understanding): 将视频文件作为输入,分析场景转换、内容、动作文脉以提取信息的功能 [Google/Gemini, xAI, Kimi]

  • PDF文本和视觉内容的集成分析 (PDF support / Document AI): 不仅解释和提取PDF中的文本,还同时解释和提取图表和布局结构的功能 [Anthropic/Claude, Google/Gemini, OpenAI, Kimi, Mistral]

  • 社交媒体帖子中的多模态解释 (Enable Image/Video Understanding): 专门提取和理解社交媒体帖子中包含的图像或视频文脉的功能 [xAI]

  • 计算机屏幕的UI结构解释 (Computer use vision): 从桌面屏幕的截图中视觉理解UI布局和可操作元素的功能 [Anthropic/Claude, OpenAI]

  • 图像编辑掩膜的透明区域解释 (Masking understanding): 理解指定的掩膜图像的Alpha通道,并解释应编辑或重新生成的区域的功能 [OpenAI]

  • 通过摄像头的物理世界视觉解释 (Device Camera Vision): 解释从移动应用等摄像头直接输入的真实世界视频,理解情况的功能 [OpenClaw, Google/Gemini]

  • 多轮图像生成的文脉把握 (Multi-turn image context): 在对话过程中继承前一次生成的图像(Previous response ID)的文脉进行解释的功能 [OpenAI]

  • 从面部照片推断年龄和生物识别信息 (Age Assurance / Persona Verification): 从自拍图像分析和解释生物识别信息,估计用户年龄段的功能 [C.AI, OpenAI]

  • 多模态混合专家理解 (Mixture-of-Experts Vision-Language): 通过分配最优专家模型来解释包含图像和文本的高级输入的功能 [DeepSeek]

  • 空间照明和3D结构的视觉解释 (ReLi3D / SViM3D): 从单个2D图像物理解释物体的3D形状和环境照明条件的功能 [Stability AI]

  • 视频中的音频和视频的同步解释 (Video audio analysis): 统合理解和提取视频内容中音轨和视频动作的功能 [Google/Gemini]

  • 地理空间数据的解释 (Geospatial Analytics / Earth Engine): 从卫星图像或地图数据中提取和理解地形变化和空间见解的功能 [Google/Gemini]

代码、系统、日志的理解

  • 项目整体代码结构和依赖关系的理解 (Codebase understanding): 理解项目中多个文件之间的逻辑和依赖关系,而不仅限于单个文件的功能 [Google/Gemini, Anthropic/Claude, OpenAI, Kimi]

  • 错误日志和堆栈跟踪的解释 (Error trace analysis): 从终端输出或崩溃日志中提取和理解系统错误根本原因的功能 [Anthropic/Claude, Google/Gemini, OpenAI]

  • Git提交和PR差异的意图解释 (Diff understanding): 分析更改代码的差异(Diff),并解释修复意图或评审要点的功能 [Anthropic/Claude, Google/Gemini, Microsoft Copilot]

  • 数据库架构和SQL的意图解释 (Database Assistance): 理解现有复杂SQL查询的逻辑或表元数据,并用语言解释的功能 [Google/Gemini, Microsoft Copilot]

  • 电子表格数据的见解提取 (Code Interpreter data analysis): 读取CSV或Excel数据,解释其数值意义并提取图表或趋势的功能 [Mistral, OpenAI, Microsoft Copilot]

  • 终端环境和目录结构的自主理解 (CLI Workspace understanding): CLI工具自主掌握和解释当前项目环境或目录结构的功能 [Anthropic/Claude, Mistral, Google/Gemini]

  • API规范和策略代码的解释 (Apigee / API policy understanding): 解读企业API规范文档或安全策略代码,理解配置意图的功能 [Google/Gemini]

  • MLOps中数据偏差和漂移的解释 (Model Monitoring): 分析和理解机械学习模型输入数据的偏斜或性能退化趋势的功能 [Google/Gemini]

  • 安全日志和威胁情报的解释 (Security Copilot / Threat Analysis): 从大量系统日志或通信数据中提取网络攻击迹象或威胁文脉的功能 [Microsoft Copilot, Google/Gemini]

  • 云基础设施配置和资源的解释 (Cloud Assist / Infrastructure understanding): 从源代码或编辑器文脉中解释最优云资源或部署配置的功能 [Google/Gemini]

  • 会话历史和代理状态的文脉理解 (Session history retrieval): 代理读取过往会话信息,向后理解任务进度和文脉的功能 [OpenClaw, OpenAI]

  • 外部数据源(Jira/Google Drive等)的结构理解 (MCP server resources): 理解和提取通过MCP连接的外部SaaS的工单信息或文档结构的功能 [Anthropic/Claude, OpenAI, Microsoft Copilot]

  • FIM补全中的前后文脉解释 (Fill-in-the-Middle Completion): 从代码的前后记述解释和理解中间应填充的缺失逻辑的功能 [DeepSeek, OpenAI]

  • 代码现代化的需求理解 (Code modernization analysis): 将遗留代码迁移到最新框架时,解释和理解原始业务逻辑的功能 [Google/Gemini, Anthropic/Claude]

  • 故障排除步骤的提取 (Troubleshooting extraction): 从用户的错误描述中从手册等提取和理解必要的解决步骤的功能 [Google/Gemini, Anthropic/Claude]

  • Webhook有效负载的结构解释 (Webhook event parsing): 理解从外部系统发送的Webhook的JSON数据,提取必要的事件信息的功能 [OpenAI, OpenClaw]

  • 移动设备的状态和传感器信息的解释 (Mobile node context): 代理理解从移动节点发送的电池电量或系统状态等文脉信息的功能 [OpenClaw]

  • Git工作树的独立文脉理解 (Worktrees context): 在多个工作环境中并行进行不同任务时,理解当前目录特定文脉的功能 [Anthropic/Claude]

  • 开发者向跟踪日志的意义提取 (Trace / Debug log understanding): 从模型内部处理或网络请求日志中解释瓶颈或错误位置的功能 [OpenAI, OpenClaw]

  • 云成本与FinOps数据的趋势解读 (成本管理/账单分析):读取API使用费用和基础设施成本数据,提取异常消费趋势和优化要点的功能 [Google/Gemini、OpenAI]

  • 项目指令文件(CLAUDE.md等)的自主解释:代理自动读取目录中的指令文件,理解项目需求的功能 [Anthropic/Claude、OpenClaw]

  • 第三方模型的提示词兼容性解释 (OpenAI兼容性):将通过OpenAI API格式发送的请求解释并转换为其他模型能理解的格式的功能 [Meta/Llama、Perplexity、DeepSeek]

语音与音频理解

  • 语音识别与转写 (语音转文本/Whisper):以语音数据为输入,准确解释并提取发话内容为文本的功能 [OpenAI、Google/Gemini、xAI]

  • 实时语音的情感与语调解释 (实时API/语音API):从极低延迟的语音输入中,不仅理解言语含义,还能实时理解说话者情感与语调的功能 [OpenAI、xAI、Microsoft Copilot]

  • 说话人分离与会话结构理解 (说话人识别):从语音数据中识别"谁、何时说话",理解多人会话流程和结构的功能 [OpenAI]

  • IVR中用户意图的语音解释 (交互语音应答):在客户支持等语音应答中,解释客户需求,判断是否需转接给操作员的功能 [Microsoft Copilot]

  • 语音同意记录的文脉理解 (语音同意解释):在使用语音合成API等时,从文本或语音中提取并理解用户同意信息的功能 [OpenAI]

搜索结果、外部知识与工具理解

  • Web搜索结果的集成总结 (Web基础总结):整合来自多个网页的信息,理解相关性和矛盾,进行总结的功能 [Perplexity、OpenAI、Google/Gemini、Anthropic/Claude、Mistral、Kimi]

  • 复杂话题的深层理解 (深度研究/Sonar):对复杂主题进行多阶段Web信息解读,深入理解并总结的功能 [OpenAI、Google/Gemini、Perplexity]

  • 信息源可信度与相关性解释 (搜索API过滤):不进行LLM生成,从搜索结果的标题和摘要中提取信息的语义相关性的功能 [Perplexity]

  • 搜索结果的特定领域文脉解释 (域控制):从限定于特定领域(医疗、金融等)的搜索结果中理解专业背景信息的功能 [Perplexity]

  • RAG中保持文脉的信息提取 (文脉检索):在分割信息(分块化)时,解释并提取方式确保不丢失整个文档的文脉的功能 [Anthropic/Claude、Perplexity]

  • 文本的语义向量化与解释 (嵌入):将文本的含义和细微差别解释为多维向量,发现相似性的功能 [OpenAI、Anthropic/Claude、Perplexity、Google/Gemini]

  • X的实时趋势与话题链流理解 (话题获取&趋势分析):将社交媒体话题链全体对话流程和最新话题作为文脉来解释的功能 [xAI]

  • 事实核查中的根据解释 (基础验证):对比模型回答与Web搜索结果,理解事实是否相符的功能 [Google/Gemini、Microsoft Copilot]

  • 引用来源的准确文脉提取 (引用提取):从搜索结果中准确提取作为答案根据的文本,并将其作为引用关联的功能 [Perplexity、OpenAI、Google/Gemini]

  • 用户自有集合的语义理解 (集合/知识库):提取用户上传的独有文档群的元数据,理解整体文脉的功能 [xAI、Mistral]

  • 工具选择意图与参数理解 (工具选择/函数调用解释):从用户需求自主解释"应使用哪个工具、用什么参数"的功能 [OpenAI、Anthropic/Claude、Google/Gemini、Meta/Llama、xAI、DeepSeek、Mistral]

  • 电子取证的法律证据提取 (法律保留检索):从组织数据中语义搜索、提取、理解与诉讼或审计相关的对话记录或文件的功能 [Microsoft Copilot]

  • 用户历史提示词趋势学习与解释 (个性化/记忆):记忆用户过往指示和偏好,更准确解释当前提示词意图的功能 [Google/Gemini、OpenAI、OpenClaw]

  • 通信网络数据的流量解释 (电信数据架构/用户洞察):分析通信运营商的流量数据和用户信息,理解和提取行为模式的功能 [Google/Gemini]

  • 零售业商品搜索意图解释 (Vertex AI电商搜索):在电商网站中,从用户模糊的搜索查询理解所求商品特征的功能 [Google/Gemini]

  • 新闻和股价实时数据提取 (实时数据提取):从搜索结果中结构化提取和理解最新新闻标题或金融市场数值的功能 [Perplexity]

  • 多样文档格式的结构理解 (标记解释):保持Markdown、HTML、DOCX等标题和表格等标记结构,解释其含义的功能 [OpenAI、Anthropic/Claude、Google/Gemini、Mistral、Kimi]

推理模型与分析方法的深层理解

  • 推理模型的复杂问题深层解释 (推理模型):不仅依靠直觉模式匹配,而是采用阶段性逻辑思考过程理解问题核心的功能 [OpenAI、DeepSeek、xAI、Google/Gemini、Kimi]

  • 扩展思维的多阶段文脉解释 (扩展思考):花时间深入解读问题背景和约束,解释逻辑文脉的功能 [Anthropic/Claude]

  • 自适应思维的任务难度解释 (自适应思维):自主理解输入任务的复杂度,调整应分配的推理水平的功能 [Anthropic/Claude]

  • 推理投入(思考水平)的需求解释 (推理投入):理解用户指定的思考深度,按相应粒度提取信息的功能 [OpenAI、OpenClaw]

  • 数学与科学难题的逻辑解释 (深度思考/数学推理):从包含数学公式或物理法则的文本中解释严密逻辑推导或定理文脉的功能 [DeepSeek、xAI、Google/Gemini]

  • 数据洞察自动提取 (数据洞察):从数据库表或日志数据中自主理解和提取关联性或业务含义的功能 [Google/Gemini、Microsoft Copilot]

  • 市场推广成果的文脉提取 (推广总结):从推广投放结果数据中理解成功或失败要因,进行总结的功能 [Google/Gemini]

  • 代理健全性与性能指标解释 (代理分析):从机器人对话日志中理解用户挫折感或解决率,提取改进要点的功能 [Microsoft Copilot]

  • 提示词自我评估与优化意图理解 (提示词优化分析):模型分析自身回答结果,重新解释提示词以满足用户原本意图的功能 [OpenAI]

  • 自动测试集(Evals)中正答的解释 (评估评分):LLM自身读取测试答案,按标准解释正确或错误的文脉的功能 [OpenAI、Anthropic/Claude、Google/Gemini]

  • 直播实时聊天解释 (Twitch聊天分析):从直播聊天评论中实时提取和理解观众共识或提问的功能 [OpenClaw]

  • 聊天应用中的@提及与收件人理解 (提及/路由解释):在Slack或Discord等平台中,理解消息的收件人是谁,判断机器人是否应响应的功能 [OpenClaw、Anthropic/Claude、Microsoft Copilot]

  • 非交互模式下的自动任务目标解释 (Non-interactive mode analysis): 在没有人类反馈的情况下,从初始提示完全理解最终目标并执行任务的功能 [Anthropic/Claude]

  • API请求速率限制·元数据解释 (Rate limit / Meta info extraction): 从API响应头系统性地解释剩余令牌配额或请求ID的功能 [OpenAI, Perplexity]

  • 代理间切换上下文的共享与理解 (Handoff context understanding): 在从机器人向操作员或其他代理移交任务时,解释之前对话上下文的功能 [OpenAI, Microsoft Copilot]

  • 视频广告插入点的上下文解释 (Video Stitcher API): 理解视频内容的上下文,在服务器端动态插入广告的适当时机的功能 [Google/Gemini]

  • 从用户活动信号推断年龄·理解 (Age assurance signals): 综合分析和理解登录信息、平台活动历史等信号,判断年龄段的功能 [C.AI]


"搜索"相关功能

AI未学习到的最新信息或公司机密数据,从外部数据库或网络获取的功能。

网页搜索·深度研究

  • 自主网页搜索 (Web search tool): 模型自主搜索互联网上的最新信息和事实,并将其融入回答 [OpenAI, Anthropic/Claude, xAI/Grok, Kimi]

  • 深度研究 (Deep research): 对于复杂主题,模型自主在网络上多阶段追踪多个信息源进行深入调查 [OpenAI, Google/Gemini]

  • 网页接地 (Web Grounding): 利用搜索引擎的实时结果为回答提供依据,获取最新信息 [Google/Gemini, Microsoft Copilot, Perplexity]

  • 获取原始网页搜索结果 (Search API): 不经过LLM推理,获取排序后的原始网页搜索结果(标题、URL、摘要) [Perplexity]

  • 网页获取工具 (Web fetch tool): 直接访问指定URL的网页,加载内容并获取信息 [Anthropic/Claude]

  • Le Chat网页搜索 (Le Chat Web search): 在聊天界面执行网页搜索,获取最新信息用于Canvas中的研究 [Mistral]

  • M365网页接地 (Microsoft 365 Copilot Chat): 利用网络搜索结果进行最新信息研究或安全的事实核查 [Microsoft Copilot]

  • 带引文的AI回答 (Sonar API): 实时研究网络知识,生成并获取"带引文的AI回答" [Perplexity]

  • 事实核查·双重检查 (Double-check): 对生成的回答搜索网络信息源进行内容事实确认 [Google/Gemini]

  • 显示相关来源 (View related sources): 搜索并显示回答所基于的网络来源,使用户可直接确认 [Google/Gemini]

  • 域名控制·筛选搜索 (Search Filters / Domain Controls): 将网页搜索结果限制在特定域名或网站范围内 [Perplexity]

  • 多查询并行搜索 (Multi-query support): 在一次请求中并行执行多个搜索查询,获取综合的网页搜索结果 [Perplexity]

  • 实时数据抽取 (Real-time data extraction): 从搜索结果中抽取实时数据(如新闻或股价) [Perplexity]

  • 代理API搜索 (Agent API): 利用多个第三方模型,通过集成的网页搜索工具和预设进行研究 [Perplexity]

  • 搜索爬虫索引获取 (Perplexity Crawlers): 基于官方爬虫收集的网络索引数据获取信息 [Perplexity]

RAG·向量搜索·嵌入

  • 文件搜索 (File search): 从上传的PDF等文件中搜索和抽取与用户问题相关的内容 [OpenAI, Anthropic/Claude]

  • 检索增强生成 (Retrieval / RAG): 从独有的文档集中语义搜索信息,用作回答的依据 [OpenAI, Mistral, Meta/Llama, Anthropic/Claude]

  • 向量存储管理 (Vector Stores): 为快速高精度搜索而保存、管理和搜索文档的向量数据 [OpenAI]

  • 文本嵌入 (Embeddings API): 将文本意义向量化,提升语义搜索和独有RAG的搜索精度 [OpenAI, Perplexity, Anthropic/Claude]

  • 保留上下文的搜索 (Contextual retrieval): 在分割文档时保持全局上下文,大幅提升RAG搜索精度 [Anthropic/Claude]

  • 上下文化嵌入 (Contextualized Embeddings): 生成并获取考虑上下文的向量数据,提升RAG系统的搜索精度 [Perplexity]

  • 集合搜索 (Collections Search): 在用户创建的独有集合(文档组)内进行语义搜索,获取所需信息 [xAI/Grok]

  • 集合元数据获取 (Collection Metadata): 获取所创建RAG集合的元数据或属性信息 [xAI/Grok]

  • 文件API连接搜索 (Files API Retrieval): 通过API读取上传的文本文件或文档,搜索信息 [OpenAI, Anthropic/Claude, xAI/Grok]

  • PDF集成搜索 (PDF support): 搜索并获取PDF中的文本以及图表、图形等视觉信息 [Anthropic/Claude]

  • 超长文本上下文直接搜索 (Ultra-long Context Retrieval): 利用256K等长大上下文,不使用RAG直接从全文档中搜索信息 [Kimi]

  • 自定义代理知识库搜索 (Custom agent knowledge base): 从绑定到自定义代理的独有知识库中搜索获取业务特定信息 [Mistral]

  • 企业文档搜索 (Vertex AI Search): 从企业内大规模非结构化数据中快速搜索信息 [Google/Gemini]

  • 向量搜索基础设施 (Vector Search): 根据数据规模和需求提供可扩展的语义搜索功能 [Google/Gemini]

  • Llama RAG集成 (Llama RAG Integration): 通过Cookbook等将模型与向量DB连接,搜索外部知识 [Meta/Llama]

公司内部数据·SaaS连接搜索

  • M365业务数据接地 (Microsoft 365 Data Grounding): 横向搜索组织内文档、邮件、Teams对话等业务数据,作为回答的依据 [Microsoft Copilot]

  • Google Workspace数据搜索 (Connected Apps): 从Gmail、Google Drive、文档等中搜索和获取个人业务数据或文件 [Google/Gemini]

  • MCP服务器资源搜索 (MCP and Connectors): 利用模型上下文协议从远程服务器上的外部数据库或SaaS获取数据 [OpenAI, Anthropic/Claude, Microsoft Copilot]

  • Jira/Slack数据获取 (MCP SaaS Retrieval): 通过MCP直接搜索和抽取Jira工单信息或Slack消息历史 [Anthropic/Claude, OpenClaw]

  • Google Drive文档获取 (Google Drive Retrieval): 通过MCP搜索并读取保存在Google Drive上的规格说明书或设计文档 [Anthropic/Claude]

  • 外部API数据直接获取 (Data retrieval): 与ChatGPT Actions等连接,直接搜索和获取特定端点(如公司内部数据库)的数据 [OpenAI]

  • 连接器扩展搜索 (Connectors): 连接外部SaaS系统或专有数据库,扩展代理的研究范围和数据获取能力 [Microsoft Copilot]。

  • 将公开网站作为知识源 (Knowledge sources - Public website): 为代理指定特定的公开网站,让其从中进行信息搜索 [Microsoft Copilot]。

  • SharePoint知识搜索 (Knowledge sources - SharePoint): 连接组织内的SharePoint作为知识源,在安全环境中搜索公司文档 [Microsoft Copilot]。

  • 非结构化数据提取 (Document AI): 搜索和处理表单等非结构化文档,自动提取和获取所需数据 [Google/Gemini]。

  • 统一数据目录搜索 (Dataplex Universal Catalog): 跨云端所有数据进行横向搜索、管理和获取 [Google/Gemini]。

  • 电子取证/法律保留搜索 (eDiscovery / Legal hold): 为诉讼或审计做准备,搜索和获取已保存的Copilot会话历史和系统日志 [Microsoft Copilot]。

  • Power Platform连接器获取 (Power Platform Connector Retrieval): 在Power Automate等流程中,从关联的连接器搜索数据并传递给Copilot [Microsoft Copilot]。

代码、数据库、开发研究

  • GitHub仓库搜索 (GitHub Repository Search): 导入和连接GitHub仓库,直接搜索代码库或历史记录 [Google/Gemini, Microsoft Copilot]。

  • 私有代码库跨越搜索 (Custom Codebase Search): 连接自有的GitHub/GitLab等,从私有的大型代码库中搜索代码 [Google/Gemini]。

  • 代码审查上下文获取 (Code Review Context Retrieval): 在GitHub等进行代码审查时,搜索和获取相关的PR和代码上下文 [Google/Gemini, Anthropic/Claude]。

  • 本地代码库搜索 (Claude Code File Search): 在CLI环境中自主读取本地代码库的全部内容,搜索所需的文件和依赖关系 [Anthropic/Claude]。

  • 错误追踪搜索 (Error Trace Retrieval): 根据终端中的错误日志或症状,追踪和搜索代码库内bug的根本原因 [Anthropic/Claude]。

  • BigQuery元数据获取 (BigQuery Data Insights): 搜索数据库中的表元数据,获取作为洞察的有用查询和信息 [Google/Gemini]。

  • 数据库查询搜索 (Database Search): 用自然语言指示搜索SQL数据库和获取信息 [Google/Gemini, Microsoft Copilot]。

  • 代码解释器数据获取 (Code Interpreter Data Retrieval): 读入电子表格等数据,执行代码并搜索和提取所需的信息和洞察 [Mistral, OpenAI, Microsoft Copilot]。

  • API规格智能搜索 (Smart Search in API hub): 开发人员可以高效搜索和获取公司内API规格的Vertex AI搭载功能 [Google/Gemini]。

  • 云日志/追踪获取 (Cloud Logging / Trace Retrieval): 搜索和获取系统日志和错误追踪,可视化性能 [Google/Gemini]。

  • 工具自主搜索 (Tool search): 从众多可用工具中搜索并找到适合执行任务的工具本身 [OpenAI]。

  • 沙箱内文件获取 (Docker Sandbox File Retrieval): 从安全的容器(沙箱)环境中存储的执行结果或文件中安全地搜索和获取 [OpenClaw]。

  • Llama Stack搜索 (Llama Stack Retrieval): 通过Llama Stack的API层,从自有主机模型搜索和获取专有数据 [Meta/Llama]。

平台、社交媒体、专项搜索

  • X帖子搜索 (X Search): 通过关键词或用户指定搜索X(前Twitter)的实时帖子,获取趋势和事实信息 [xAI/Grok]。

  • X特定账户搜索 (allowed_x_handles): 限定于特定X账户(最多10个)进行帖子搜索和获取 [xAI/Grok]。

  • X排除账户搜索 (excluded_x_handles): 从搜索结果中排除特定X账户来获取信息 [xAI/Grok]。

  • X特定时间段搜索 (Date Range): 指定日期范围(ISO8601)搜索特定时期的X帖子 [xAI/Grok]。

  • X线程获取 (Thread fetch): 获取X上特定线程或帖子的整个会话流,作为上下文使用 [xAI/Grok]。

  • X图像/视频内容搜索 (Media Understanding): 在X搜索中不仅搜索文本,还搜索和解释图像与视频内容 [xAI/Grok]。

  • 安全威胁情报搜索 (Security Copilot Threat Retrieval): 从庞大的安全数据和日志中搜索和获取网络攻击迹象和威胁信息 [Microsoft Copilot, Google/Gemini]。

  • 财务数据搜索 (Copilot for Finance): 从ERP系统或财务数据中搜索和获取业务所需的财务洞察和相关数据 [Microsoft Copilot]。

  • CRM销售数据搜索 (Copilot for Sales): 从Dynamics 365等CRM系统中搜索和获取客户信息和商机历史 [Microsoft Copilot]。

  • 支持知识库搜索 (Copilot for Service): 在客户支持时搜索和获取相关知识库和过去的案例历史 [Microsoft Copilot]。

  • 数据分析平台统一搜索 (Copilot in Microsoft Fabric): 从多个无关的数据源中搜索和获取所需数据,集成到分析平台 [Microsoft Copilot]。

  • Azure云资源搜索 (Copilot in Azure): 搜索和获取Azure上的云资源状态、操作历史和故障排除指南 [Microsoft Copilot]。

  • 电商商品搜索 (Vertex AI Search for commerce): 为零售业从企业数据中进行高级商品搜索和获取推荐信息 [Google/Gemini]。

  • 通信用户数据获取 (Telecom Subscriber Insights): 为通信行业搜索和获取用户数据的提取 [Google/Gemini]。

  • 地理空间数据获取 (Geospatial Data Retrieval): 从Google Earth Engine等搜索和获取地球观测数据和卫星影像 [Google/Gemini]。

会话历史、上下文、记忆搜索

  • 提示缓存搜索 (Prompt caching): 从缓存的长上下文中快速搜索和引出过去的输入文件或文脉,无需重新处理 [OpenAI, Anthropic/Claude, xAI/Grok]。

  • 聊天线程历史获取 (Conversation History / Threads): 从过去的聊天线程历史中搜索和获取上下文或过去的消息信息的API功能 [OpenAI]。

  • 本地会话历史搜索 (sessions_history): 代理追溯过去的交互或其他会话历史,自主搜索和获取所需的上下文 [OpenClaw]。

  • 本地会话列表获取 (sessions_list): 代理搜索和获取其工作空间内存在的所有活跃会话列表 [OpenClaw]。

  • 自定义指令、记忆搜索 (Personalization retrieval): 从过去的聊天历史或自定义指令中搜索和提取用户偏好或上下文,反映在响应中 [Google/Gemini]。

  • 桌面屏幕信息的视觉获取 (Computer Use Desktop Retrieval): 视觉上查看桌面环境,自主搜索和获取屏幕上应用或浏览器的信息 [Anthropic/Claude]。

  • 审核数据获取 (Moderation Retrieval): 使用安全模型判定文本是否违反政策,获取判定结果或标记数据 [OpenAI, Meta/Llama]。

文件、本地系统搜索

  • 本地文件直接读取 (read tool): 代理程序直接读取保存在本地设备上的文件和文档,获取信息 [OpenClaw, Anthropic/Claude]。

  • 进程・系统状态获取 (Process / Bash Retrieval): 执行shell命令,搜索并获取本地系统的状态和进程信息 [OpenClaw, Anthropic/Claude]。

  • 移动节点状态获取 (Mobile Node Retrieval): 从配对的iOS/Android节点中搜索和获取设备的传感器信息和系统状态 [OpenClaw]。

  • 文件列表获取 (List files): 搜索并获取API或工作区中上传的所有文件的列表 [OpenAI, xAI/Grok, Anthropic/Claude]。

  • 文件内容获取 (Retrieve file content): 下载并获取保存的特定文件的内容 [OpenAI, xAI/Grok]。

  • 上传状态获取 (Files Upload Status): 搜索并获取大容量上传过程中文件的状态信息 [OpenAI, xAI/Grok]。

  • 向量存储文件获取 (Retrieve vector store file): 搜索并获取向量存储中保存的特定文件或状态 [OpenAI]。

  • 文件批量获取 (Retrieve a file batch): 搜索并获取批量添加到向量存储中的文件组的批处理状态 [OpenAI]。

元数据・管理日志・评估数据获取

  • 执行日志搜索 (Retrieve runs): 搜索并获取通过助手API等执行的线程执行日志(Runs) [OpenAI]。

  • 批处理结果获取 (Retrieve a batch): 搜索并获取异步批处理的结果和状态信息 [OpenAI, xAI/Grok]。

  • 消息批处理结果获取 (Message Batches Retrieval): 搜索并获取批量处理消息的状态和结果 [Anthropic/Claude]。

  • 工作区审计日志获取 (Audit Logs Retrieval): 管理员搜索并获取API密钥使用历史和用户操作等审计日志 [OpenAI, xAI/Grok]。

  • 管理员数据获取 (Admin API Data Retrieval): 管理员搜索并获取工作区的权限设置和API密钥使用数据 [Anthropic/Claude, OpenAI]。

  • 代理程序性能分析数据获取 (Agent Analytics Retrieval): 搜索并获取代理程序的健康状况、会话日志和性能数据,用于分析 [Microsoft Copilot]。

  • 账单・使用情况获取 (Billing & Usage Retrieval): 搜索并获取按工作区的API使用量、成本和账单信息 [Mistral, xAI/Grok, OpenAI]。

  • API使用额度・速率限制获取 (Rate Limits Retrieval): 获取用户当前的API使用额度和速率限制状态 [Perplexity, OpenAI]。

  • 系统状态获取 (System Status Retrieval): 通过API获取API系统整体的运行状况 [Perplexity, Anthropic/Claude]。

  • Webhook事件信息获取 (Webhook event retrieval): 获取并解析从外部系统通过Webhook发送的事件信息和有效负载 [OpenAI, OpenClaw]。

  • 生成图像引用元元数据获取 (Citations Retrieval): 获取网络搜索结果中作为回答依据的图像引用源(Citations)的元数据 [Perplexity, xAI/Grok]。

  • 模型评估报告获取 (Vertex AI Model Evaluation Retrieval): 搜索并获取生成型AI模型的客观评估指标(BLEU、ROUGE等)的分析结果 [Google/Gemini]。

  • 评估数据搜索 (Retrieve an eval): 搜索并获取对模型进行客观评估的过去测试集和评估数据(Evals) [OpenAI]。

  • 云配额获取 (Cloud Quotas Retrieval): 搜索并获取云上所有服务的配额分配信息 [Google/Gemini]。

  • 模型列表获取 (List models): 通过API搜索并获取可用AI模型的列表和详细信息 [OpenAI, xAI/Grok, DeepSeek]。


"推理"相关功能

将复杂任务分解为小步骤,执行A因此B的逻辑思维和规划的功能。

推理模型・思考过程

  • 推理专用模型 (Reasoning models): 不采用直觉式应答,而是利用阶段性逻辑思考过程(Chain of Thought)解决复杂任务 [OpenAI, DeepSeek, xAI/Grok, Kimi]。

  • 推理工作量控制 (Reasoning effort): 在API请求时指定思考深度(如"low"、"medium"、"high"等),控制推理所用的计算资源 [OpenAI, OpenClaw]。

  • 扩展思维・推理 (Extended thinking): 通过耗时的阶段性思考过程,对复杂问题执行深层的逻辑推理 [Anthropic/Claude]。

  • 自适应思维 (Adaptive thinking): 模型自主解释任务的复杂度和难度,动态调整推理(思考)的深度 [Anthropic/Claude]。

  • 推理工作量与任务预算管理 (Task budgets / Effort): 设定推理的工作量和计算预算,控制分析过程的深度和成本 [Anthropic/Claude]。

  • 思考模式 (Thinking Mode / deepseek-reasoner): 对复杂提示词展开明确的思考过程,执行更深入的逻辑分析 [DeepSeek]。

  • 高速推理模型 (Fast-reasoning models): 优化工具调用的准确性和推理速度的平衡,以低延迟执行分析和逻辑展开 [xAI/Grok]。

  • 思考过程的明确生成 (Reasoning Trace generation): 在给出最终回答前,输出"大脑如何进行逻辑展开"的思考轨迹作为文本 [OpenAI, DeepSeek]。

  • 多阶段推理模型 (Thinking Models): 针对复杂的业务课题和数据分析任务,多阶段进行逻辑性解决步骤的推理 [Kimi]。

  • 思考深度的动态命令控制 (/think command): 利用聊天命令等,从本地环境动态调整代理程序的推理深度 [OpenClaw]。

数据分析・计算推理

  • 代码解释器 (Code interpreter): AI自主生成并执行Python代码等,逻辑地实施数学计算、数据集分析和图形创建 [OpenAI, Microsoft Copilot, Mistral]。

  • 本地代码执行推理 (Code execution tool): AI自身在本地或沙箱环境中执行代码,进行数值汇总和统计分析推理 [Anthropic/Claude, xAI/Grok]。

  • 数据库自动洞察推理 (BigQuery Data Insights): 解释数据库元数据,自动推理并生成对数据分析有用的洞察或SQL查询 [Google/Gemini]。

  • SQL查询的意图・性能分析 (Database Development Assistance): 推理复杂SQL的逻辑并将其语言化,分析性能优化建议 [Google/Gemini]。

  • 电子表格数据分析与推理 (Le Chat Code Interpreter): 读入表格数据,执行代码进行数据趋势分析、图表生成和洞察推理 [Mistral]。

  • 多数据源集成洞察推理 (Copilot in Microsoft Fabric): 发现无关联的多个数据源之间的连接,自动推理并生成有益的业务洞察 [Microsoft Copilot]。

  • 最优数据可视化推理 (Power BI Copilot): 基于分析的数据结果,推理用户易于理解的最优仪表板构成和图表表现 [Microsoft Copilot]。

  • 客户数据洞察推理 (Dynamics 365 Copilot): 分析CRM中的客户数据和交易历史,推理最优的销售行动和客户潜在需求 [Microsoft Copilot]。

  • 数据科学笔记本推理 (Colab Enterprise): 在数据分析和机器学习模型学习的工作负载中,无缝支持Python代码的推理和执行 [Google/Gemini]。

  • 大规模数据集批量推理 (Batch processing reasoning):以非同步方式批量处理大量数据分析和推理任务,在降低成本的同时提取洞察 [OpenAI, Anthropic/Claude, xAI/Grok]

代码编写、开发和调试中的推理

  • 整个代码库潜在bug推理 (Codebase understanding):不仅分析单个文件,还从整个项目的上下文出发推断潜在的bug和漏洞 [Google/Gemini, Anthropic/Claude]

  • 缺失逻辑推理 (FIM Completion):理解前后代码的上下文(Fill-in-the-Middle),推断并生成中间缺失的逻辑代码块 [DeepSeek, OpenAI]

  • 前缀后续逻辑推理 (Chat Prefix Completion):基于提供的代码前缀(Prefix),解释已有的上下文并推断后续逻辑展开 [DeepSeek]

  • 跨项目依赖关系推理 (Cross-file reasoning):在CLI环境中读取代码库,推断多个文件间的逻辑依赖关系和系统结构 [Anthropic/Claude, Kimi]

  • 架构推理与设计 (Architecture reasoning):从用户的需求定义出发推断最优的系统架构,为复杂程序代码奠定基础 [OpenAI, Google/Gemini]

  • 错误追踪根本原因推理 (Error trace reasoning):从终端错误日志和堆栈跟踪出发,逻辑地追踪并推断代码中bug的根本原因 [Anthropic/Claude, Google/Gemini, OpenAI]

  • 提交和PR差异意图推理 (PR diff reasoning):分析代码的修改差异,推断修改背后的逻辑意图并将其转化为提交信息 [Anthropic/Claude, Google/Gemini]

  • 应用崩溃原因分析 (App crash analysis):汇总并分析Firebase等来源的崩溃日志,逻辑地推断bug的根本原因和故障排除步骤 [Google/Gemini]

  • 项目概览结构推理 (Scaffolding reasoning):仅需通过终端以自然语言传达概览信息,即可逻辑地推断项目所需的目录结构和初始文件 [Mistral]

  • 编程过程中的下一步推理 (Code completion reasoning):在开发者编写代码的过程中,读取项目内的上下文并自动推断下一步所需的代码逻辑 [Microsoft Copilot, Google/Gemini]

研究和复杂问题解决中的推理

  • 深度研究信息整合推理 (Deep research reasoning):多阶段重复执行网络搜索,逻辑地整合多个信息源推断并分析深层洞察或结论 [OpenAI, Google/Gemini]

  • 基于搜索结果整合的事实推理 (Web-grounded reasoning):收集网络上的最新知识,推断多个信息源的相关性和矛盾之处以得出准确答案 [Perplexity, OpenAI]

  • 信息源可信度和相关性分析推理 (Search API filtering):不进行大语言模型文本生成,而是对原始搜索结果的语义相关性和可信度进行评分与推断 [Perplexity]

  • 科学和数学难题的深层逻辑推理 (Scientific/Math reasoning):包含高阶数学计算(如DeepSeek-Math)和物理法则的文本中,推断严密的逻辑展开和定理证明过程 [DeepSeek, xAI/Grok, Google/Gemini]

  • 研究论文和学术数据的深层分析推理 (Analyze research papers):理解格式复杂的研究论文和学术数据,逻辑地提取并分析科学洞察 [Meta/Llama, Anthropic/Claude]

  • 超长上下文俯瞰分析推理 (Long-context analysis):分析数百万tokens的整个上下文,从宏观视角进行推断并实施综合总结 [Meta/Llama, Google/Gemini, Kimi]

  • 代理工作流计划推理 (Agent API workflow planning):推断并计划组合外部模型和网络搜索工具的复杂研究工作流的最优执行步骤 [Perplexity, OpenAI, Anthropic/Claude]

  • 多文档整合分析与报告构建推理 (Canvas analysis):跨越搜索结果和上传的多个文档进行分析,推断报告或企划书的逻辑构成 [Mistral, OpenAI]

  • 人物心理推理与关系分析 (Character mind map reasoning):从小说或长文本的上下文出发,推断人物的思维过程和人际关系,并将其整理为思维导图 [Meta/Llama]

  • 预测分析与生成AI融合推理 (Predictive AI integration):结合传统机器学习的数值预测结果和生成AI的逻辑推理能力,执行高阶商业推理 [Google/Gemini]

视觉和多模态推理

  • 图像中物体关系的逻辑推理 (Visual reasoning):推断并解释图像中物体之间的关系性和情境背景 [OpenAI, Anthropic/Claude, Google/Gemini, xAI/Grok, Kimi]

  • 图表和图形中的洞察推理 (Chart/Graph analysis):从图像化的图表数据中视觉地推断数值洞察、逻辑趋势和相关关系 [Anthropic/Claude, Meta/Llama, OpenAI]

  • 多模态混合专家推理 (Mixture-of-Experts Vision-Language):对于混合图像和文本的输入,推断并选择模型内部最优的专家以执行高阶理解 [DeepSeek]

  • 视觉因果关系与逻辑结构推理 (Visual Causal Flow):从复杂的图解、流程图和光学文字识别(OCR)结果中推断信息流和逻辑因果关系 [DeepSeek]

  • 3D空间结构与照明的物理推理 (ReLi3D / 3D reasoning):从单一的2D图像推断对象的3D形状、环境照明条件和材料反射特性,进行物理重构 [Stability AI]

  • 图像中动作和空间的视觉推理 (SViM3D / Video generation reasoning):以单一静止图像为输入,视觉地推断其中应有的自然动作和3D材质结构,生成动画 [Stability AI]

  • 社交媒体帖子中的多模态推理 (Social media multimodal reasoning):在X搜索中,不仅分析发文文本,还整合包含的图像和视频的视觉背景进行逻辑推断 [xAI/Grok]

  • 桌面屏幕UI结构的视觉推理 (Computer use vision):视觉理解PC屏幕,推断为实现目标应操作哪些UI元素以及操作步骤 [Anthropic/Claude, OpenAI]

  • UI模型图到代码结构推理 (UI to HTML reasoning):视觉解释手绘或UI模型图像,推断相应的前端逻辑代码结构 [Google/Gemini, OpenAI]

  • 视频上下文与时间因果关系推理 (Video analysis reasoning):解析上传的视频的帧过渡和音频,推断时间因果关系和动作意图 [Google/Gemini, xAI/Grok]

  • 图像编辑遮罩区域的逻辑推理 (Masking understanding):在图像编辑中,对比指定的遮罩图像区域与用户的提示意图,推断最优的编辑内容 [OpenAI]

  • 自拍图像中的生物特征和年龄推理 (Age assurance vision):从自拍图像中分析面部生物特征,视觉推断用户年龄(如18岁及以上)并进行判定 [C.AI, OpenAI]

  • 多模态信息的整合推理 (Integrated multimodal reasoning):无缝地组合文本、图像、视频和音频等不同模态的输入进行整合逻辑推断 [Google/Gemini, Kimi, OpenAI]

系统、安全和运维推理

  • 机器速度下的安全威胁推理 (Security threat reasoning):高速分析海量安全日志,逻辑地推断网络攻击等威胁的迹象和攻击模式 [Microsoft Copilot]

  • 云运维状态诊断推理 (Cloud infrastructure diagnostics):分析云基础设施的日志和指标,推断系统运维状态的诊断结果和消除瓶颈的步骤 [Microsoft Copilot, Google/Gemini]

  • 内容审核有害性推理 (Content moderation reasoning):分析文本和图像内容,逻辑地推断并评分是否违反政策或存在潜在有害性 [OpenAI, Meta/Llama]

  • 数据偏差与模型衰退监控推理 (MLOps monitoring): 分析输入至机器学习模型的数据倾斜(偏差)或漂移,客观评估和推理模型的衰退状况 [Google/Gemini]

  • 跨组织数据业务文脉推理 (Enterprise context reasoning): 跨越企业内部的 SharePoint、电子邮件、聊天等多个系统进行分析,逻辑整理信息并推理当前业务状况或回答 [Microsoft Copilot]

  • API 政策代码解释推理 (API policy reasoning): 解释企业环境中的 API 规范文档和安全政策代码,推理其配置意图 [Google/Gemini]

  • 基于源编辑器上下文的架构推理 (Editor context reasoning): 从云基础设施源编辑器中的代码记录推理最优的部署配置和资源 [Google/Gemini]

  • 用户活动信号综合年龄推理 (Age assurance signals): 综合分析登录信息和平台活动历史等信号,推理用户年龄段 [C.AI]

  • 遵守护栏的安全行为推理 (Guardrails reasoning): 代理在调用工具时,自主将预先定义的安全和伦理政策进行对照,推理安全行为 [OpenAI, Microsoft Copilot, Anthropic/Claude]

  • 调试推理的可视化 (Developer mode trace / Trace logs): 输出代理内部的网络请求或思维日志,使开发者能够推理和分析系统瓶颈 [OpenAI, OpenClaw]

工具选择·代理行为推理

  • 工具选择与参数的自主推理 (Tool choice reasoning): 分析用户指令,从提供的多个外部工具中自主推理"应该调用哪个工具,以及使用什么参数(JSON)" [OpenAI, Anthropic/Claude, Google/Gemini, xAI/Grok, Meta/Llama, Mistral, DeepSeek]

  • 代理流程的逻辑设计推理 (Agent flow reasoning): 从自然语言指令推理代理应执行的复杂处理步骤或条件分支的工作流,进行逻辑设计 [Microsoft Copilot]

  • 向子代理的任务委托推理 (Orchestration reasoning): 主代理将复杂任务分解为细节步骤,计划和推理应将其委托给哪个专业子代理 [OpenAI, Anthropic/Claude]

  • 代理的动态路由推理 (Multi-agent routing): 根据接收频道或用户,推理应适用哪个工作区或代理的上下文,从而分配流量 [OpenClaw]

  • 角色与行为计划的自主推理 (Persona/Workspace reasoning): 读取工作区内的配置文件(AGENTS.md等),分析项目需求和用户偏好,推理行为计划 [OpenClaw, Anthropic/Claude]

  • 结构化数据输出的模式推理 (Structured output reasoning): 将从非结构化数据推理的结果映射到严格的 JSON 模式结构,确保输出,并将其传递给数据分析基础设施 [OpenAI, Anthropic/Claude, Google/Gemini, Meta/Llama, DeepSeek]

  • 对话上下文和历史的意图推理 (Context management reasoning): 逻辑考虑过往交互或之前生成的输出内容的文脉,推理后续的回答或行动 [OpenAI, Anthropic/Claude, Google/Gemini]

  • 数据获取结果的解释与最终回答推理 (Action retrieval reasoning): 解释从外部 API 获取的原始数据库信息,对用户的问题推理最终答案 [OpenAI, Microsoft Copilot]

  • 用户发言的话题触发推理 (Topic trigger reasoning): 从用户含糊的发言推理真实意图(话题),启动适当的代理工作流 [Microsoft Copilot, Google/Gemini]

  • 会话历史的溯及推理 (Session history reasoning): 代理自主地追溯和阅读过往的交互或其他会话历史,推理和抽取当前任务所需信息 [OpenClaw]

  • 用户特定指令与偏好的学习推理 (Personalization reasoning): 从过去的聊天记录或自定义指令推理用户的偏好和业务文脉,生成个性化回应 [Google/Gemini, OpenClaw]

  • 实时音频的情感·文脉推理 (Voice/Emotion reasoning): 从极低延迟的音频输入,不仅推理语言的含义,还要实时推理用户的情感、语调和对话文脉,进而做出响应 [OpenAI, xAI/Grok, Microsoft Copilot]

推理的优化·评估·自我改进

  • 开源模型的微调 (Fine-tuning recipes): 针对特定使用场景对 Llama 等模型进行微调 [Meta/Llama]

  • 提示缓存 (Prompt caching): 缓存冗长的提示,以减少 API 延迟和成本 [OpenAI, Anthropic, grok]

  • 提示的自我推理·自动优化 (Prompt optimizer reasoning): 模型客观分析自身的推理过程,自主推理和重构在任务解决中性能表现最佳的提示结构 [OpenAI, Anthropic/Claude]

  • 提示变量的自动推理 (Prompt templating): 从用户输入文本自动识别和抽取变量,推理并转换为便于系统集成的提示模板结构 [Anthropic/Claude]

  • 模型推理的客观评估 (Model evaluation / Evals): 使用定义的测试集,数据驱动地分析和评分 AI 模型自身推理的准确性和逻辑性 [OpenAI, Google/Gemini, Anthropic/Claude]

  • 代理性能的分析推理 (Agent analytics reasoning): 分析自主型代理的对话日志和健全性,推理改进建议以降低错误率和提高用户满意度 [Microsoft Copilot]

  • 参数调整导致的推理变化对比分析 (Playground analysis): 在游乐场上调整提示或推理参数,比较和分析模型输出的逻辑变化 [Mistral, OpenAI]

  • 推理模式的学习与适应 (Reasoning fine-tuning / SFT): 通过监督学习(微调),让模型学习特定业务数据专用的独特推理模式 [OpenAI, Google/Gemini]

  • 文本的语义距离推理 (Embeddings reasoning): 将文本的语义多维向量化,数学上推理和分析信息间的语义相似性和距离,并用于 RAG [OpenAI, Anthropic/Claude, Perplexity, Google/Gemini]

  • 长文脉搜索中语义连接的推理 (Contextual retrieval reasoning): 在将文档分块进行搜索时,保持文档整体的文脉和信息连接,推理并抽取 [Anthropic/Claude, Perplexity]

  • 上下文缓存消除重复推理 (Context Caching): 系统侧缓存大规模输入上下文,避免不必要的逻辑计算,高效展开后续推理 [DeepSeek]

  • 预测输出的高速推理 (Predicted Outputs reasoning): 利用缓存或已知输出内容,通过模型预测来优化推理延迟并导出结果 [OpenAI]

  • 测试结果的正确标准推理 (Evaluations grading): LLM 自身自动阅读测试答案,按照人类设定的标准逻辑解释和推理正确与否的文脉 [OpenAI, Anthropic/Claude]

基础设施·硬件推理优化

  • 推理的量化与内存优化推理 (Quantization reasoning): 即便在内存受限的设备上,也可通过量化使用优化后的模型进行高级推理和卸载 [Stability AI/Diffusers]

  • PyTorch 编译的推理速度提升 (torch.compile reasoning): 对模型推理图进行编译优化,在软件层级上大幅提升执行速度 [Stability AI/Diffusers]

  • NVIDIA TensorRT 优化推理 (TensorRT optimized reasoning): 针对 NVIDIA GPU 架构,将图像生成和语言模型的推理速度优化到极致并执行计算 [Stability AI/Diffusers]

  • AMD GPU 最优化推理 (AMD Optimized reasoning): 在 AMD 环境下应用推理处理专用的模型调优,以最大化硬件性能 [Stability AI/Diffusers]

  • 代理推理的存储带宽瓶颈消除 (DualPath inference): 消除 Agentic LLM 推理时存储带宽的瓶颈,采用先进的推理计算方法 [DeepSeek]

  • FP8 及潜在注意力的内核最优化推理 (DeepGEMM / FlashMLA): 采用 FP8 精度 GEMM 内核和高效的多头潜在注意力机制加速模型推理 [DeepSeek]

特定领域、搜索、信息的推理

  • 实时社交数据趋势推理 (Social trend reasoning): 从 X(Twitter)等社交媒体上的最新帖子实时推理和提取热点趋势及社会洞察 [xAI/Grok]

  • 营销成效要因推理 (Campaign summarization reasoning): 分析消息营销等活动的成果数据,推理成功和失败的原因,并推理出具体改进行动 [Google/Gemini]

  • 来自自有集合的语义推理 (RAG data reasoning): 从用户上传的自有文档集合中提取元数据,推理语义洞察 [xAI/Grok, Mistral]

  • 特定领域数据的专业推理 (Domain controls reasoning): 从医疗或金融等特定领域的搜索结果中,推理高度专业化的上下文信息并提取数据 [Perplexity]

  • 引用来源的可信度推理 (Citation reliability reasoning): 在使用搜索结果生成回答时,推理哪些信息源最可信最合适,并作为引用进行关联 [Perplexity, xAI/Grok, OpenAI]

  • 整个线程的对话流推理 (Thread fetch reasoning): 追溯 SNS 上特定的线程或帖子,综合推理整体对话流的上下文 [xAI/Grok]

  • 企业文档的语义推理 (Enterprise Search reasoning): 从公司内部庞大的非结构化数据中推理上下文和语义关联,实现瞬间搜索和总结 [Google/Gemini, Microsoft Copilot]

  • 通信网络流量推理 (Telecom Data Fabric reasoning): 分析通信运营商的流量数据和用户信息,推理行为模式和网络优化要点 [Google/Gemini]

  • 地理空间数据的空间推理 (Geospatial Analytics reasoning): 从 Google Earth Engine 等卫星影像和地图数据推理地形变化和空间洞察 [Google/Gemini]


"生成"相关功能

基于搜索和推理的结果,最终为用户输出有价值的文本、图像、代码等内容的功能。

文本、文档、内容生成

  • 自然语言文本生成 (Text Generation): 基于提示语生成论文、文章、报告等文本内容 [OpenAI, Google/Gemini, Anthropic/Claude, Meta/Llama, xAI/Grok, Mistral, DeepSeek, Kimi, Perplexity]

  • 带引用的研究报告生成 (Citation-backed Generation): 以最新网络搜索结果为依据,生成包含准确事实引用(Citations)的报告 [Perplexity, OpenAI, Google/Gemini]

  • 多文件摘要生成 (Summary Generation): 跨越大量文档和已上传文件,提取要点并生成摘要文本 [OpenAI, Anthropic/Claude, Google/Gemini, Mistral, Kimi]

  • 多轮对话生成 (Multi-round Conversation): 记忆历史记录,维持上下文一致性,生成自然流畅的对话 [OpenAI, Anthropic/Claude, Google/Gemini, xAI/Grok, DeepSeek, Kimi]

  • 测验和学习材料生成 (Quiz/Flashcards Generation): 从文档或笔记内容自动生成学习测验和记忆卡片 [Google/Gemini]

  • 带插图的绘本生成 (Illustrated Storybook): 结合故事文本和匹配内容的插图生成绘本内容 [Google/Gemini]

  • 营销文案生成 (Campaign generation): 基于活动数据和产品信息生成吸引人且高效的广告文案 [Google/Gemini, Microsoft Copilot]

  • 洞察和建议生成 (Actionable Recommendations): 分析崩溃日志或活动成效,生成具体改进建议和故障排除步骤 [Google/Gemini]

  • 代码解释文本生成 (Code Explanation): 理解复杂难懂的程序代码逻辑和意图,生成自然语言解释 [Google/Gemini, Anthropic/Claude, OpenAI, Microsoft Copilot]

  • 多语言翻译文本生成 (Translation Generation): 理解输入文本,准确翻译为多种指定语言并生成 [OpenAI, Google/Gemini, Anthropic/Claude, Meta/Llama, DeepSeek]

  • 符合人设和语气的文本生成 (Persona generation): 模拟指定的语气或人格(如海盗、专家等)生成文章 [OpenAI, Anthropic/Claude, OpenClaw]

  • 会议记录和行动项生成 (Meeting summaries): 从音频或文本记录中整理决议和待办事项列表并生成 [Microsoft Copilot, OpenAI, Anthropic/Claude]

  • 客户支持回复文生成 (Customer support reply): 基于问题内容和知识库生成最优的支持回复邮件 [Microsoft Copilot, Anthropic/Claude]

  • 思考过程(推理跟踪)的显式生成 (Reasoning Trace generation): 在给出最终答案前,将"头脑中的逻辑推导过程"本身作为文本生成 [OpenAI, DeepSeek]

  • 简历和求职信生成 (Resume/Cover letter generation): 基于用户职历数据和应聘企业信息生成定制化的简历和求职信 [OpenAI, Anthropic/Claude]

  • 创意和头脑风暴生成 (Ideation): 从用户的抽象需求出发,生成项目企划或问题解决的多元创意列表 [OpenAI, Google/Gemini, Anthropic/Claude, Meta/Llama]

  • 特定领域专业回答生成 (Domain-controlled Generation): 仅基于医疗或金融等特定领域的搜索结果,生成专业性强的回答 [Perplexity]

图像生成、设计、编辑

  • 文本转图像生成 (Text-to-Image): 从自然语言提示语零开始生成高品质图像 [OpenAI, Google/Gemini, xAI/Grok, Stability AI, Midjourney]

  • 图像转图像生成 (Image-to-Image): 结合原图和文本指令,生成改变画风或内容的新图像 [Stability AI/Diffusers, OpenAI]

  • 图像局部编辑、内绘 (Inpainting / Masking): 指定遮罩图像,仅对图像特定部分按新提示重新生成和编辑 [OpenAI, Stability AI/Diffusers]

  • 图像变体生成 (Create Variation): 保留原图构图和风格,生成多个不同模式的图像 [OpenAI, Stability AI]

  • 图像外绘、扩展 (Outpainting / Extend): 推测现有图像边界外的背景和风景,自然扩展并生成 [OpenAI, Stability AI]

  • 超分辨率、放大 (Super Resolution): 推测粗糙或生成图像的细节,放大至高分辨率 [Stability AI/Diffusers]

  • 潜在空间放大 (Latent Upscale): 在潜在空间上提升图像分辨率的生成处理 [Stability AI/Diffusers]

  • 照明重计算和生成 (ReLi3D): 重新计算 3D 模型或图像的照明,以不同光线效果重新生成图像 [Stability AI]

  • 色彩补正和色彩指导生成 (ReSWD): 使用分布匹配技术重新生成图像的色彩补正和色调 [Stability AI]

  • 轮廓和骨架控制图像生成 (ControlNet): 使用轮廓线和人物姿态等控制图像来生成具有固定构图的图像 [Stability AI/Diffusers]

  • 无条件图像生成 (Unconditional Image Generation): 在不使用文本提示等条件的情况下生成随机图像 [Stability AI/Diffusers]

  • 角色一致性保持生成 (Character Reference): 使用特定角色的参考图像,在保持相同特征的同时生成不同场景的图像 [Midjourney, OpenAI]

  • 风格参考生成 (Style Reference): 模仿参考图像的视觉风格来生成新图像 [Midjourney]

  • 全能参考生成 (Omni Reference): 在多个图像间一致地生成相同的角色或对象 [Midjourney]

  • 图像多轮对话生成 (Multi-turn image generation): 继承过往图像生成历史(Previous response ID)的上下文,交互式地修正和生成图像 [OpenAI]

  • 应用图像格式和压缩率的生成 (Image formatting): 生成应用了PNG、JPEG、WebP等格式指定或压缩率的图像文件 [OpenAI]

视频、3D 和多模态生成

  • 文本转视频生成 (Text-to-Video): 从文本提示生成高质量的动态视频 [OpenAI, Google/Gemini, xAI/Grok]

  • 图像转视频生成 (Image-to-Video): 输入单张静止图像,为其添加自然动作生成视频 [Stability AI, OpenAI]

  • 音频同步视频生成 (Video with Synced Audio): 从文本生成具有与视频画面同步的音频的视频 [OpenAI]

  • 视频混音和编辑 (Remix / Edit Video): 更改现有视频内容的风格或元素,重新混音生成新视频 [OpenAI]

  • 3D 影像生成 (Stable Virtual Camera): 从单个输入图像生成具有摄像机运动的 3D 影像表现 [Stability AI]

  • 3D 材质生成 (SViM3D): 从单个图像使用扩散模型生成 3D 对象的材质和自然动作 [Stability AI]

  • 视频中的角色插入生成 (Create Character / Video): 根据指定的角色信息在视频中生成角色 [OpenAI]

  • 多模态混合输出生成 (Mixture of Modalities / Janus): 在单个模型中生成图像和文本无缝混合的输出 [DeepSeek]

语音和音频生成

  • 文本转语音和语音合成 (Text-to-Speech / TTS): 将文本转换为自然且富有表现力的人类语音 [OpenAI, Google/Gemini, xAI/Grok]

  • 实时语音会话生成 (Realtime Audio Generation): 以极低延迟接收文本和语音输入,实时生成自然语音响应 [OpenAI, xAI/Grok, Microsoft Copilot]

  • 播客风格语音生成 (Audio Overviews): 从文档等资料生成多个主持人对话的播客格式语音 [Google/Gemini]

  • 与视频匹配的音效生成 (Foley Control): 分析视频中的动作和场景,同步生成精准匹配的自然音效 [Stability AI]

  • 语音翻译输出生成 (Speech Translation): 将输入的语音翻译成其他语言,并合成生成语音结果 [OpenAI]

  • 音乐和音频生成 (Audio generation): 从文本生成音乐、旋律和环境音等 [Google/Gemini, Stability AI/Diffusers]

  • 说话人分离时间戳生成 (Diarize Output): 从对话语音数据生成"谁、何时说话"的时间戳记录 [OpenAI]

  • 交互式语音代理响应生成 (IVR Generation): 在电话等语音渠道中生成代理与客户对话的话语 [Microsoft Copilot]

  • 语音同意记录生成 (Voice Consents): 创建和生成使用特定语音合成 API 时所需的用户同意记录数据 [OpenAI]

编程和代码生成

  • 自然语言转代码生成 (Code Generation): 根据开发人员的提示生成函数、类等程序代码 [OpenAI, Google/Gemini, Anthropic/Claude, Mistral, Microsoft Copilot]

  • 跨项目文件编辑和生成 (Multi-file Code Generation): 读取整个代码库,生成跨越多个文件的新功能实现代码 [Anthropic/Claude, Google/Gemini]

  • 实时代码补全 (Code Completion): 开发人员在编辑器中编写代码时,读取上下文自动补全和生成下一步 [Microsoft Copilot, Google/Gemini]

  • FIM 补全 (Fill-in-the-Middle Completion): 理解前后代码的上下文,推理并生成缺失的中间逻辑 [DeepSeek, OpenAI]

  • 聊天前缀补全 (Chat Prefix Completion): 继承用户已输入的代码或文本前缀,生成后续代码 [DeepSeek, OpenAI]

  • 项目脚手架生成 (Project Scaffolding): 仅通过自然语言描述概要,即可一次性生成目录结构和初始文件集 [Mistral]

  • SQL 查询生成 (SQL Generation): 根据自然语言指令生成复杂的 SQL 查询,理解数据库架构 [Google/Gemini, Microsoft Copilot]

  • GraphQL 架构和变更生成 (Firebase Data Connect): 生成应用程序的数据架构或 GraphQL 查询 [Google/Gemini]

  • 提交消息自动生成 (Commit message generation): 理解代码变更差异,生成适当的 Git 提交消息 [Anthropic/Claude, Google/Gemini]

  • 拉取请求 (PR) 说明文生成 (PR description generation): 总结实现的功能或修复内容,自主生成 PR 标题和说明文 [Anthropic/Claude, Google/Gemini]

  • 代码分析 Python 脚本生成 (Code Interpreter generation): AI 自身生成并执行 Python 代码,执行数据分析和计算处理 [OpenAI, Microsoft Copilot, Mistral]

  • 补丁 (差异) 生成 (Apply Patch): 代理针对代码库特定部分生成修复补丁并自主应用 [OpenAI, Google/Gemini]

  • Shell 命令生成 (Shell Command Generation): 根据用户目的生成应在终端执行的适当 bash 或 shell 命令 [Anthropic/Claude, OpenClaw, OpenAI]

  • 单元测试生成 (Unit Test Generation): 为未经测试的源代码生成包含 mock 和断言的适当测试代码 [Anthropic/Claude, Google/Gemini]

  • API 规范书 (OpenAPI/Swagger) 生成 (API specification generation): 从现有后端代码生成 API 规范书 [Google/Gemini]

  • 本地文件直接生成 (File Write / Create): 代理自主使用 write 或 edit 工具,在用户设备上直接生成脚本或文档 [OpenClaw, Anthropic/Claude]

结构化数据、向量和元数据生成

  • JSON 结构化输出生成 (Structured Output): 遵循定义的严格 JSON 架构,从非结构化文本生成精确的数据格式 [OpenAI, Anthropic/Claude, Google/Gemini, Meta/Llama, DeepSeek, xAI/Grok]

  • 文本嵌入生成 (Embeddings Generation): 将文本的含义生成为多维数值向量,作为 RAG 和语义搜索的基础 [OpenAI, Anthropic/Claude, Perplexity, Google/Gemini]

  • 考虑上下文的嵌入生成(Contextualized Embeddings):在保留文档全文上下文的情况下,对数据块进行矢量化,生成高精度的嵌入 [Perplexity, Anthropic/Claude]

  • 批量处理生成大量数据(Batch Generation):利用异步批量API,一次性生成大规模文本或结构化数据的提取 [OpenAI, Anthropic/Claude, xAI/Grok]

  • 工具调用参数生成(Tool / Function Calling Generation):逻辑解读用户指令,生成执行外部API或工具所需的参数(如JSON数据等) [OpenAI, Anthropic/Claude, Google/Gemini, Meta/Llama, xAI/Grok, DeepSeek, Mistral]

  • 矢量存储·索引生成(Vector Store Indexing):从上传的文件群中自动生成数据块和矢量,构建用于检索的索引 [OpenAI]

  • 预测输出实现高速生成(Predicted Outputs):让模型预测已知输出内容(如源代码的大部分),大幅降低延迟,快速生成应答 [OpenAI]

  • 安全性标记与审核结果生成(Moderation Output):评估输入或模型输出内容,生成显示政策违规或有害性的评分或标记数据 [OpenAI, Meta/Llama, Google/Gemini]

  • 令牌消耗与成本汇总数据生成(Usage/Tokens Output):在API请求中生成提示词和生成所消耗的输入输出令牌数、缓存命中率等使用量数据 [OpenAI, Anthropic/Claude, DeepSeek, xAI/Grok]

  • 边界框坐标生成(Bounding box generation):检测图像中特定对象或人物的位置,生成其坐标数据(文本或JSON格式) [OpenAI, Google/Gemini]

UI·设计·工作区生成

  • 从模型图转换为HTML(Image Mock up to HTML):从手绘草图或UI设计图像生成对应的HTML/CSS等代码 [Google/Gemini, OpenAI, Anthropic/Claude]

  • 聊天内UI组件生成(Artifacts / Claude Cowork):在聊天界面内生成React组件、SVG、HTML等,并作为动态预览进行渲染 [Anthropic/Claude, OpenAI]

  • 动态UI实时渲染(Live Canvas / A2UI):代理基于用户指令,在屏幕上自主生成和配置可操作的UI [OpenClaw]

  • 文档·原型生成(Canvas):在专用的协作工作区(Canvas)上生成企划书或应用模板 [Mistral, OpenAI]

  • 交互式数据可视化·图表生成(Visualizations):从分析的数据自动生成用户易于理解的图形或图表 [Microsoft Copilot, Mistral]

  • 业务仪表板生成(Power BI dashboards):整合企业数据仓库信息,生成仪表板的设计和构成 [Microsoft Copilot]

  • 人物思维导图生成(Character Mind Map):从冗长的叙事中解读人物的思想和关系,生成视觉化的思维导图结构 [Meta/Llama]

代理·自动化·提示词生成

  • 开源模型微调(Fine-tuning recipes):针对特定用例对Llama等模型进行微调 [Meta/Llama]

  • 提示词缓存(Prompt caching):缓存冗长的提示词,降低API延迟和成本 [OpenAI, Anthropic, grok]

  • 最优提示词自生成(Prompt Generator):从用户的简短需求出发,AI模型生成能使其实现最佳性能的"结构化提示词"本身 [OpenAI, Anthropic/Claude]

  • 提示词模板生成(Templatize a Prompt):自动从文本中识别和提取变量,生成易于集成到系统中的提示词模板 [Anthropic/Claude]

  • 自主型代理生成(Create / Build an Agent):从自然语言指令出发,从零开始生成和构建机器人的行为或知识设置 [Microsoft Copilot, OpenAI, Google/Gemini, Mistral]

  • 代理流生成(Build an Agent Flow):从自然语言指令自动生成包含复杂业务流程或条件分支的代理动作流 [Microsoft Copilot]

  • 自动化工作流生成(Automation Flow Generation):AI在可视化编辑器上生成和文档化多系统间的API连接或自动化处理流 [Google/Gemini]

  • 子代理动态生成(Subagent Spawning):主代理分割复杂任务,动态调用和生成处理特定工作的子代理 [OpenAI, Anthropic/Claude, OpenClaw]

  • 自定义代理知识库生成(Custom agent knowledge base):从特定文档群生成代理可使用的专用知识库或索引 [Mistral]

基础设施·系统配置·测试生成

  • 评估测试集生成(Evaluation Test Sets):自动生成用于客观评估模型性能的多样化测试用例或基准真值 [Microsoft Copilot, OpenAI]

  • CI/CD管道自动化配置生成(CI/CD integration generation):生成GitHub Actions等进行代码审查和自动测试的CI/CD配置文件 [Anthropic/Claude, GitHub]

  • 工作区定义文件生成(Workspace config generation):生成定义代理性格或工具权限的AGENTS.md或SOUL.md等配置文件 [OpenClaw]

  • shell执行日志生成(Shell execution logs):在沙箱环境中执行代码或shell脚本,生成其标准输出或错误日志的文本结果 [OpenAI, OpenClaw]

  • Webhook负载动态生成(Webhook payload generation):对外部系统或服务器端控制动态生成用于事件通知的JSON负载 [OpenAI, OpenClaw]

  • 计划·Cron任务生成(Cron Configuration):生成代理定期执行的Cron计划配置 [Google/Gemini, Anthropic/Claude, OpenClaw]

流式传输·其他生成

  • 流式事件生成(Streaming Events):通过SSE实时流式传输生成中的文本令牌或图像部分数据 [OpenAI, Anthropic/Claude, Perplexity]

  • 回退应答自动生成(Fallback response generation):主API出错时,调用备选模型或本地功能安全地生成回退应答 [OpenClaw]


"行为"相关功能

调用外部工具(API、浏览器、计算器、企业内部系统等),实际干预现实世界或系统的功能。

代理构建·编排基础设施

  • 自主型代理构建(Create / Build agents):从自然语言指令自主构建代理的行为或结构的功能 [OpenAI, Google/Gemini, Microsoft Copilot, Mistral]

  • 代理SDK代码库构建(Agents SDK / Agent API):在代码层面构建代理编排、切换交接或工具执行的功能 [OpenAI, Anthropic/Claude, Perplexity]

  • 完全托管的代理环境(Managed Agents):在基础设施上管理和部署具有状态保持会话或永久事件历史的代理的功能 [Anthropic/Claude, Google/Gemini]

  • 子代理·多代理协作(Subagents / Child agents):主代理分割任务,调用处理特定工作的子代理进行并行作业的功能 [OpenAI, Anthropic/Claude, Microsoft Copilot, OpenClaw]

  • 自定义工作流自主执行(Custom workflows / Gems):为自动化特定任务,将独特的微应用或流代理化执行的功能 [Google/Gemini, Mistral]

  • 代理人后台运行 (Background mode / Routines): 即使用户离开,代理人的任务也能在云端或后台自主持续执行的功能 [OpenAI, Anthropic/Claude]

  • 计划和Cron作业自动执行 (Schedule actions / Cron): 在指定时间或定期计划(如早晨PR审查)下,让代理人自动执行操作的功能 [Google/Gemini, Anthropic/Claude, OpenClaw]

工具调用·API连接 

  • 函数·工具调用基础设施 (Function / Tool calling): 基于用户指示,AI自主生成和请求执行外部工具的执行命令(如JSON格式)的通用基础功能 [OpenAI, Google/Gemini, Anthropic/Claude, xAI, Meta/Llama, Mistral, DeepSeek] 

  • 模型上下文协议连接 (MCP and Connectors): 利用标准化协议(MCP)与本地或远程外部数据源·工具进行连接和操作的功能 [OpenAI, Anthropic/Claude, Microsoft Copilot, GitHub] 

  • 自定义操作执行 (Custom Actions): 从AI聊天界面直接调用外部API(数据库或SaaS),自主执行向系统发送或更新数据的功能 [OpenAI, Microsoft Copilot, Google/Gemini] 

  • 通过钩子自动触发命令 (Hooks): 在文件编辑后或提交前等时刻,自动触发并执行格式化工具或Lint等任意shell命令的功能 [Anthropic/Claude] 

  • 平台扩展功能 (Extensions / Plugins): 为现有平台环境赋予对外部工具的操作执行能力的功能 [Google/Gemini, Microsoft Copilot]

桌面·本地系统操作 

  • 计算机屏幕的视觉自主操作 (Computer use tool): AI在视觉上理解桌面屏幕,自主执行鼠标移动、点击和键盘输入等实践性操作的功能 [Anthropic/Claude, OpenAI] 

  • 本地shell环境中的命令执行 (Local shell / Bash tool): 代理人在系统终端·shell环境中自主执行命令的功能 [OpenAI, Anthropic/Claude, OpenClaw] 

  • 文本文件直接编辑工具 (Text editor / Edit tools): 代理人能直接打开本地文本文件并编辑·覆盖内容的功能 [Anthropic/Claude, OpenClaw] 

  • 文件系统的自主读写 (read / write tools): 代理人能探索用户设备上的文件,直接进行读写操作的功能 [OpenClaw, Anthropic/Claude] 

  • 流程管理的自主执行 (Process tool): 代理人能管理(启动、停止等)本地系统上运行的流程的功能 [OpenClaw] 

  • 本地工作树的自主管理 (Worktrees): 创建独立的本地环境,让代理人在不影响主工作环境的情况下执行其他任务的功能 [Anthropic/Claude] 

  • 终端中的自主故障排除 (CLI Agents): 在CLI环境中读取错误或系统状态,自主推理和执行·修复解决方案的功能 [Google/Gemini, Anthropic/Claude, OpenClaw]

编码·开发自动化

  • 代码解释器的执行 (Code interpreter): 在安全的沙箱环境中,代理人自身编写·执行Python等代码,完成数据处理等任务的功能 [OpenAI, Microsoft Copilot, Mistral] 

  • 跨多个文件的代码自主编辑 (Agent Mode): 在IDE或CLI中,自主跨多个文件实现新功能或修复错误的功能 [Google/Gemini, Anthropic/Claude] 

  • 补丁(差异)的自动生成与应用 (Apply Patch): 代理人为代码库的特定部分生成修复补丁并自主应用的工具功能 [OpenAI] 

  • 项目脚手架的自动生成 (Scaffolding): 从自然语言概述出发,批量自主生成项目所需的目录结构和初始文件的功能 [Mistral] 

  • Git仓库操作的自动化 (Git automation): 与git直接连接,自主执行变更暂存、创建提交信息、创建分支到打开PR等操作的功能 [Anthropic/Claude] 

  • 拉取请求的自主代码审查 (PR Review): AI自动审查GitHub等提交的PR,提出并执行代码修复建议的功能 [Google/Gemini, Anthropic/Claude, Microsoft Copilot] 

  • CI/CD管道中的AI自动执行 (CI/CD integration): 在GitHub Actions或GitLab等管道中触发AI,自动化问题分诊和审查的功能 [Anthropic/Claude, GitHub] 

  • GitHub问题管理工作流自动化 (GitHub Actions): AI自主执行仓库问题的分类和处理工作流的功能 [Microsoft Copilot, GitHub] 

  • 数据库架构和查询的自动生成·更新 (Firebase Data Connect): 从自然语言指示生成GraphQL等架构或变更,自动化数据库操作的功能 [Google/Gemini] 

  • API规范创建的自主支持 (Apigee / API Management): 利用企业上下文支持和生成API规范创建或策略配置操作的功能 [Google/Gemini]

外部应用·服务连接

  • Google Workspace应用的操作 (Connected Apps): AI访问用户的Gmail或Google Drive,代理撰写邮件或创建文件的功能 [Google/Gemini] 

  • Google日历事件的自主创建 (Calendar control): 从用户指示解读日程,直接创建·调整日历事件的功能 [Google/Gemini] 

  • 智能家居设备的语音控制 (Smart home control): 通过AI应用直接控制连接的智能家居设备的电源或设置的功能 [Google/Gemini] 

  • CRM系统的自主记录更新 (Dynamics 365 actions): 从销售或支持的对话内容,AI自主更新CRM系统(Salesforce等)数据的功能 [Microsoft Copilot] 

  • Power Platform连接驱动的自动化 (Power Platform AI actions): 将AI融入自动化工作流(Power Automate等),让系统间的操作由AI驱动的功能 [Microsoft Copilot] 

  • SaaS间连接工作流的视觉生成 (Application Integration): 在AI支持下视觉化构建·生成连接多个第三方应用或API的自动化流程的功能 [Google/Gemini] 

  • Jira / Slack等任务连接·更新 (MCP SaaS tools): 通过MCP等自主执行Jira工单更新或Slack通知的功能 [Anthropic/Claude, OpenClaw] 

  • 来自WhatsApp的通话·消息自动发送 (WhatsApp actions): 从移动AI应用通过WhatsApp等代理发起通话或发送消息的操作功能 [Google/Gemini, OpenClaw]

安全·沙箱·治理

  • 通过护栏限制行为 (Guardrails): 安全限制代理人的行为范围和权限,防止违反策略的操作的功能 [OpenAI, Microsoft Copilot] 

  • 沙箱内的安全工具执行 (Sandbox execution): 为防止代理人操作对系统的破坏,在Docker等隔离环境中执行工具的功能 [OpenAI, OpenClaw] 

  • 通过SSH/OpenShell的远程操作 (Remote Sandbox): 通过SSH等安全访问远程或其他环境的系统,让代理人执行操作的功能 [OpenClaw] 

  • 操作访问权限控制 (Data policies / Allowlist): 管理员控制和限制代理可执行的操作及可访问的数据的功能 [Microsoft Copilot, OpenClaw] 

  • 安全事件自动防御操作 (Security Copilot Plugins): 在检测到网络威胁时,AI自动执行防御操作或遏制的功能 [Microsoft Copilot] 

  • 云基础设施自主诊断与优化 (Cloud Assist): 分析云环境运营状态,自主提议并执行基础设施优化操作和成本削减的功能 [Google/Gemini] 

  • MLOps管道自动编排 (MLOps automation): 自动执行和管理AI模型监控、评估、再学习等管道处理的功能 [Google/Gemini] 

  • 未知消息的访问授权控制 (DM pairing): 为保护安全,对来自未知用户的消息要求配对代码并限制操作的功能 [OpenClaw]

消息与聊天平台集成

  • 多渠道收件箱自主应答 (Multi-channel gateway): 同时连接至WhatsApp、Slack、Discord、Telegram等多个平台,由代理自主应答的功能 [OpenClaw] 

  • 按消息动态代理路由 (Multi-agent routing): 根据接收渠道或用户自动分配至不同代理(工作空间)进行处理的路由功能 [OpenClaw] 

  • Discord / Slack专有操作执行 (Platform native actions): 针对Discord和Slack API执行频道创建、权限管理等系统操作的功能 [OpenClaw] 

  • 来自Slack的任务直接触发 (AI for Slack): 从Slack中的提及触发,代理直接执行任务(如创建bug修复PR)并返回结果的集成功能 [Anthropic/Claude, OpenClaw] 

  • 从Webhook事件启动自主操作 (Webhooks): 接收来自外部系统的Webhook并作为触发器启动代理自主操作的功能 [OpenAI, OpenClaw] 

  • 以电子邮件接收为触发的操作 (Gmail Pub/Sub): 以Gmail中特定电子邮件接收为钩子,让代理执行自主操作的功能 [OpenClaw] 

  • 自定义聊天小部件的操作集成 (ChatKit / UI Actions): 在聊天UI内嵌入自定义小部件,通过按钮操作执行系统操作的功能 [OpenAI] 

  • 新会话的自主启动 (sessions_spawn): 代理根据需要自主启动新会话,并行处理子任务的功能 [OpenClaw] 

  • 向其他会话发送消息 (sessions_send): 代理自主向其他运行中的会话发送消息并进行协作的功能 [OpenClaw] 

  • 操作员命令的动态状态控制 (Operator commands): 在聊天中输入命令(如/reset、/think等),即时改变代理的思考级别或行为模式的功能 [OpenClaw]

语音、实时、UI、设备操作

  • 实时语音代理自主应答 (Voice agents / Realtime API): 实时处理语音输入,以自然语音进行对话,同时执行系统操作的功能 [OpenAI, xAI, Microsoft Copilot] 

  • IVR(自动语音应答)的转接控制 (Interactive voice response): 在电话等语音渠道上自主应答,并在需要时将上下文完整地转接给人工操作员的功能 [Microsoft Copilot] 

  • 唤醒词触发代理启动 (Voice Wake): 在设备上等待唤醒词,从语音指令立即触发代理操作的功能 [OpenClaw] 

  • 动态UI的实时渲染与操作 (Live Canvas / A2UI): 代理根据用户指令,在移动应用等屏幕上自主生成和放置可操作UI组件的功能 [OpenClaw] 

  • 移动设备的自主远程操作 (Mobile nodes): 与移动应用配对,代理远程执行智能手机相机、屏幕截图和设备命令的功能 [OpenClaw]

搜索与信息收集的自主操作

  • X (Twitter) 实时数据自主搜索 (X Search tool): 根据指定关键词,代理自主搜索X上的帖子并进行数据收集的功能 [xAI] 

  • 账户指定搜索操作 (X Search - handles): 允许或排除特定X账户(最多10个),执行无噪音搜索操作的功能 [xAI] 

  • 多提供商搜索工作流自动化 (Agent API): 结合多个第三方模型和网络搜索工具,执行自主研究工作流的功能 [Perplexity] 

  • 官方网络浏览工具的自主操作 (Web Search / Browser tool): 代理自主操作网络浏览器,访问必要页面获取信息的功能 [OpenAI, Anthropic/Claude, DeepSeek, Kimi, OpenClaw]

网络、部署及其他运营类操作 

  • 代理一键集成部署 (Teams / M365 deployment): 将构建的代理直接部署至Teams或Microsoft 365业务环境,供整个组织使用的操作 [Microsoft Copilot] 

  • 通过Tailscale集成的安全远程操作控制 (Tailnet integration): 利用VPN(Tailnet)在安全的远程环境下控制代理操作或网关的功能 [OpenClaw] 67. CLI入职的自主设置 (CLI Onboarding): 在终端上自动执行并引导代理初始配置、渠道集成、守护程序安装的功能 [OpenClaw] 

  • 代理云基础设施的自动编排 (Enterprise Agent Platform): 针对企业,自动执行AI代理的部署、扩展、管理的一体化功能 [Google/Gemini, Microsoft Copilot] 

  • 应用内浏览器的自主渲染 (In-app browser): 代理在CLI或IDE内直接渲染网页并显示调查结果的功能 [Anthropic/Claude] 

  • 为自有基础设施构建AI模型自托管API (Llama Stack): 利用Llama模型,在自有基础设施上端到端自动构建API或代理集成系统的功能 [Meta/Llama]

任务优化与错误处理

  • 通过实时流式传输进行事件分发 (Streaming events): 将代理调用工具或执行操作的流程作为实时事件向外部分发的功能 [OpenAI] 

  • 对话与执行状态的持久化管理 (Conversation state): 保存代理的对话历史和运行状态,继续执行长期的复杂操作的功能 [OpenAI] 

  • 代理工作流的自动测试与评估 (Evaluate workflows): 自动测试和评估构建的代理操作流是否正确运行的功能 [OpenAI] 

  • 从技能库扩展能力 (Skills / ClawHub): 将自定义的行为流程或能力汇总为"技能",动态添加到工作空间,扩展代理操作范围的功能 [Anthropic/Claude, OpenClaw] 

  • 端点状态的自诊断与修复 (Self-diagnostics / Doctor): 自动检测配置错误或环境问题并执行故障排除操作的功能 [OpenClaw] 

  • 服务器端通话控制 (Server-side controls): 在Realtime API等运行时,从服务器端介入控制代理的语音发话或操作的功能 [OpenAI] 

  • 应用崩溃的自主故障排除 (Firebase error analysis): 从应用崩溃日志识别根本原因,自主提议代码修复操作(如补丁)的功能 [Google/Gemini] 

  • 应用程序代码的自主现代化 (Code modernization): 读取旧语言或框架的代码库,自主地重写为最新架构的操作 [Anthropic/Claude] 

  • CI/CD 环境中的自动代码格式化 (Auto-formatting in CI): 利用钩子,在代理编辑代码后自主执行格式化工具(Prettier 等)的功能 [Anthropic/Claude] 

  • 自动 Lint 检查执行 (Auto-linting): 在提交前或创建 PR 前,代理自主执行 Lint 工具并修复错误的功能 [Anthropic/Claude]

系统集成与自动化

  • 使用包管理工具自动更新依赖项 (Dependency update): 代理自主操作 npm、pip 等包管理器,更新库的功能 [Anthropic/Claude] 

  • 编译·构建流程的自动执行 (Build automation): 代理自主执行系统构建命令(make、build 等),解决错误的功能 [Anthropic/Claude] 

  • 附加到运行中容器的自主操作 (Container manipulation): 代理附加到运行中的 Docker 容器,在内部执行命令的操作 [OpenClaw] 

  • 从自定义提示词自动生成工具 (Prompt as a tool): 将用户编写的自定义提示词本身作为工具包装,使其可从其他代理调用的功能 [Microsoft Copilot] 

  • 语音代理对话模拟测试 (Test voice-enabled agents): 在模拟器上自动测试构建的语音通话代理的操作和响应的功能 [Microsoft Copilot] 

  • 单点登录 (SSO) 连接的操作自动化 (SSO Integration): 在 Teams 等中使用代理时,自主处理使用 Entra ID 等的认证操作的功能 [Microsoft Copilot] 

  • 使用文件上传的自主数据处理 (File inputs processing): 代理接收用户上传的文件,自主执行分析·转换处理的功能 [OpenAI] 

  • 从文本的文字转语音操作 (TTS execution): 代理将生成的文本发送到 API,输出并播放语音数据的功能 [OpenAI, xAI, OpenClaw] 

  • 从语音的文字转录操作 (STT execution): 代理接收语音数据,调用外部转录工具并文字化的功能 [OpenAI, xAI] 

  • RAG 流程的自主编排 (RAG integrations): 代理接收用户问题,自主搜索向量数据库,整合信息生成答案的一系列操作 [Anthropic/Claude, Mistral] 

  • 与直播平台的聊天连接 (Twitch integration): 代理连接到 Twitch 等直播平台的聊天,与观众自主对话的功能 [OpenClaw] 

  • 非交互模式下的自动任务执行 (Non-interactive Mode): 在 CI/CD 流程等中,无需人工干预,完全自动执行 CLI 代理并完成任务的模式 [Anthropic/Claude] 

  • 云基础设施代码化自动应用 (Terraform/IaC execution): 代理生成基础设施管理工具(Terraform 等)的代码,自主应用(apply)构建环境的操作 [Google/Gemini] 

  • 系统错误发生时的回退操作 (Fallback routing): 主代理或 API 宕机时,自动路由到子系统或轻量级模型继续任务的功能 [OpenClaw] 

  • 主·非主会话权限自动切换 (Permission switching): 用户自身操作与外部访问时,自主切换工具执行权限或沙箱必要性的功能 [OpenClaw] 

  • 独有开发环境内的内联操作 (IDE integrations): 在 VS Code、JetBrains 等编辑器内,代理直接执行代码插入或重构操作的功能 [Anthropic/Claude, Google/Gemini] 

  • 浏览器内的自主网络调查与数据提取 (Web fetch / scraping): 指定 URL 的代理自主获取网页,解析 DOM 并提取所需数据的操作 [Anthropic/Claude] 

  • 多查询的并行自主执行 (Multi-query support): 代理将复杂任务分割为多个搜索查询,同时执行 API 收集信息的功能 [Perplexity] 

  • X 线程的自主全体获取 (Thread fetch): 代理回溯 X 上特定线程,自主获取对话文脉全体的操作 [xAI] 

  • 与第三方平台的端到端集成 (WhatsApp/Cloud Provider integration): 利用 Llama 模型等,从 WhatsApp 等应用自主连接到云基础设施的一系列操作的功能 [Meta/Llama]


其他功能

上述理解、搜索、推理、生成、行为以外的功能。与学习·优化、评估·监视、管理·运维、安全·治理、基础设施·部署、开发者工具等相关的功能。

学习·自定义·性能优化


  • 微调 (Supervised fine-tuning): 使用独有数据集调整模型,提高特定任务的精度 [OpenAI]

  • 视觉功能微调 (Vision fine-tuning): 包含图像数据的多模态微调 [OpenAI]

  • 直接偏好优化 (Direct preference optimization / DPO): 根据人类偏好优化模型输出 [OpenAI]

  • 强化学习微调 (Reinforcement fine-tuning): 基于特定奖励优化模型行为 [OpenAI]

  • 自定义模型的独有学习 (Custom training): 在自有环境中独有训练开源模型等 [Google/Vertex AI]

  • 开源模型的微调 (Fine-tuning recipes): 针对特定用例微调 Llama 模型等 [Meta/Llama]

  • 提示词缓存 (Prompt caching): 缓存长提示词,降低 API 延迟和成本 [OpenAI, Anthropic, xAI]

  • 上下文缓存 (Context Caching): 系统端缓存大规模输入上下文 [DeepSeek]

  • 批处理 API (Batch API): 异步批量处理大量 API 请求,成本降低一半 [OpenAI, Anthropic, xAI]

  • 延迟优化 / 预测输出 (Predicted Outputs): 通过预测已知输出大幅提高生成速度 [OpenAI]

  • 优先级·灵活处理 (Priority / Flex processing): 降低 API 请求处理优先级以优化成本 [OpenAI]

  • 预配置吞吐量 (Provisioned Throughput): 预留专用计算资源,确保稳定吞吐量 [xAI]

  • 推理量化与内存卸载 (Quantization & Offloading): 在资源受限的设备上运行大规模模型的优化 [Diffusers]

  • TensorRT 优化模型 (NVIDIA TensorRT optimized): 为 NVIDIA GPU 优化推理速度至极限 [Stability AI]

  • AMD GPU 优化模型 (AMD Optimized): 针对 AMD 环境的图像生成专业模型调优 [Stability AI]

  • PyTorch 编译优化 (torch.compile): 编译代码提升推理速度 [Diffusers]

  • 提示词自我优化 (Prompt optimizer): 模型分析自身提示词,自动修正为最有效结构 [OpenAI]

  • Microsoft 365 Copilot 调优 (预览): 根据组织特有数据和术语调优 Copilot [Microsoft]

评估·监视·可观测性

  • 模型自动评估工具 (Evals / Graders): 数据驱动地评估和评分模型性能与准确性 [OpenAI]

  • 评估测试集的创建 (Create test sets): 创建用于评估代理的自定义测试数据 [Copilot Studio]

  • 评估工具UI (Evaluation Tool): 在控制台上并排展示提示的输出,进行可视化评估 [Anthropic]

  • 代理工作流的自动评估 (Evaluate workflows): 测试复杂代理的行为流是否正确运行 [OpenAI]

  • 模型游乐场 (Studio playground): 在调整参数的同时,实时对比和测试模型输出 [Mistral AI]

  • 生成AI模型评估服务 (Gen AI Evaluation): 企业级客观的模型评估基础 [Google/Vertex AI]

  • MLOps平台 (MLOps): 自动化模型监视、评估和管道编排 [Google Cloud]

  • 模型输入偏差和漂移监控 (Model Monitoring): 监控运营中的数据趋势变化和模型性能下降 [Google/Vertex AI]

  • 代理性能分析 (Analytics): 分析对话成功率和用户满意度等指标 [Copilot Studio]

  • 自主代理的健康状况分析 (Agent health): 监控自主运行的代理的错误率和运行状态 [Copilot Studio]

  • 云系统可观测性 (Cloud Logging / Monitoring): 统一监控基础设施和API的日志、指标 [Google Cloud]

  • 应用程序追踪 (Error Reporting / Trace): 追踪和定位API调用延迟或错误的来源 [Google Cloud]

  • API系统状态API (System Status API): 从程序监控服务的运行状况 [Perplexity]

  • 详细的令牌使用跟踪 (Counting tokens / Usage): 精确监控提示或缓存中消耗的令牌数 [OpenAI, Anthropic]

管理、运营和计费

  • 组织和工作区管理 (Manage workspaces): 为团队创建和管理独立的工作区或环境 [Mistral AI, Anthropic]

  • 项目管理 (Projects): 按应用程序拆分API密钥和配置的项目功能 [OpenAI]

  • 用户邀请和管理 (User Management / Invites): 邀请成员加入组织和管理账户的生命周期 [OpenAI, Mistral AI]

  • 角色分配 (Roles / Permissions): 为用户授予查看、编辑、管理员等权限 [OpenAI, Mistral AI]

  • API密钥的创建和轮换 (API Key Management): 按工作区发放和撤销API密钥 [全般]

  • 管理员API (Admin API): 从程序自动化工作区和密钥的管理 [OpenAI, Anthropic]

  • 管理员追踪用API密钥 (Admin API Keys): 用于追踪整个组织使用情况的特殊API密钥 [OpenAI]

  • 计费和FinOps仪表板 (Billing Management): 可视化和管理按团队的API使用费用和成本 [Mistral AI, xAI]

  • 使用配额和速率限制管理 (Rate limits & Tiers): 确认和管理当前的API速率限制(RPM/TPM)和服务等级的上限 [OpenAI, Perplexity]

  • 云成本管理工具 (Cost Management): 优化整个基础设施的成本并设置预算告警 [Google Cloud]

  • 审计日志功能 (Audit Logs): 记录谁在何时对系统进行了更改的历史,用于安全审计 [OpenAI, xAI, Microsoft]

  • 许可证分配 (Assign licenses): 为用户分配Copilot或代理的使用许可证 [Copilot Studio]

  • 模型注册表 (Model Registry): 统一管理已训练模型的版本和元数据 [Google/Vertex AI]

  • 特征存储 (Feature Store): 共享和管理ML模型中重复使用的特征(Feature) [Google/Vertex AI]

  • 订阅自动续订管理 (Managing Subscription): 管理付费计划的升级、降级和自动续订 [Midjourney]

  • 组织税务状态设置 (Tax / VAT): 配置企业版的增值税豁免和税务信息 [Midjourney]

  • 信用消费管理 (Credits management): 追踪图像生成等中的信用(货币)消耗 [Stability AI]

安全、治理和访问控制

  • 单点登录集成 (SSO / SAML): 使用企业IdP(如Okta)进行安全登录集成 [Mistral AI, xAI]

  • Microsoft Entra ID单点登录集成: 在Teams等中使用代理时的无缝身份验证 [Microsoft]

  • 基于角色的访问控制 (RBAC): 通过细粒度权限设置控制对API和资源的访问 [xAI]

  • 代理数据策略配置 (Data policies): 限制代理可访问的企业内部数据和可执行的操作 [Copilot Studio]

  • 安全过滤和审核 (Moderation): 阻止和评估有害提示或输出的API [OpenAI, Meta]

  • 网络安全检验 (Cybersecurity checks): 检查应用程序是否满足安全标准 [OpenAI]

  • 年龄验证和未成年人保护 (Under 18 API / Age Assurance): 从生物信息或使用信号判断用户是否18岁以上 [OpenAI, C.AI]

  • 合规管理 (Compliance): 符合SOC 2、GDPR、CCPA等严格监管标准的功能 [xAI]

  • 数据地域性控制 (Data residency): 严格指定数据存储和处理的地理区域(国家) [xAI]

  • 数据加密和隔离 (Encryption / Separation): 分离存储不用于学习的数据,并对传输和存储时进行加密 [Meta]

  • mTLS身份验证 (mTLS Authentication): 使用双向证书进行客户端和服务器之间的严格API身份验证 [xAI]

  • 安全指挥中心 (Security Command Center): 统一监视云上的威胁和漏洞 [Google Cloud]

  • 机密数据保护 (Sensitive Data Protection): 自动发现和保护PII(个人信息)等机密数据,实现掩蔽处理 [Google Cloud]

  • VPC服务控制 (VPC-SC): 防止企业网络中的数据外流到外部 [Google Cloud]

  • 电子数据发现和数据保留 (eDiscovery / Legal hold): 为诉讼或审计做准备,保留和搜索Copilot的对话历史 [Microsoft 365]

  • API指纹管理 (Fingerprint): 追踪后端模型更改的标识符管理 [xAI]

  • DM配对和访问控制 (DM pairing / Allowlist): 阻止来自未知用户的DM,实施审批制 [OpenClaw]

  • 安全沙箱环境 (Docker/SSH Sandbox): 在让代理执行系统操作时,限制在隔离的容器环境中运行 [OpenClaw]

基础设施、部署和扩展

  • Llama Stack (API层自主托管): 在自有基础设施上将Llama模型作为API进行托管的基础 [Meta]

  • Llama Everywhere (边缘部署): 在桌面或基于Linux的本地环境中直接部署模型 [Meta]

  • AI边缘部署 (Google AI Edge): 在移动和嵌入式设备上部署轻量级AI模型 [Google]

  • 云模型部署 (Prediction / Serving): 将已训练的模型作为批量推理或在线预测API发布 [Google/Vertex AI]

  • 无服务器容器部署 (Cloud Run / Cloud Functions): 在无基础设施管理的情况下自动扩展AI应用后端 [Google Cloud]

  • Kubernetes集群集成 (Google Kubernetes Engine): 编排容器化的大规模AI工作负载 [Google Cloud]

  • 企业代理平台部署 (Enterprise Agent Platform): 将构建的代理可扩展地部署到生产环境 [Google Cloud]

  • 部署到第三方云: 在Amazon Bedrock或Vertex AI的基础设施上运行Claude模型 [Anthropic]

  • 在Microsoft Foundry中部署: 在面向企业的PaaS环境中部署AI模型和代理 [Microsoft]

  • 与API网关集成 (Apigee / Application Integration): 安全地公开自有API并与AI联动的路由基础设施 [Google Cloud]

  • Tailscale网络集成: 利用Tailnet从远程环境安全访问本地AI助手 [OpenClaw]

  • 气隙·本地部署 (Google Distributed Cloud): 在与互联网隔离的闭域网环境中部署AI基础设施 [Google Cloud]

  • CI/CD管道 (Cloud Build / Cloud Deploy): 自动化AI应用的构建和部署 [Google Cloud]

  • 基础设施即代码 (Infrastructure Manager): 使用Terraform等工具以代码形式管理和构建AI云基础设施 [Google Cloud]

  • 批处理·任务调度 (Cloud Scheduler / Batch): 按计划执行异步的重型数据处理和推理任务 [Google Cloud]

  • 专用推理端点 (Inference Endpoints): 在Hugging Face上将自定义模型部署为专用API基础设施 [Hugging Face]

开发者体验·界面·生态系统

  • Web Control UI仪表板: 从浏览器管理本地代理的聊天、配置和会话 [OpenClaw]

  • CLI入门 (openclaw onboard): 在终端中以交互方式自动执行代理安装和配置 [OpenClaw]

  • macOS系统管理应用 (OpenClaw.app): 从菜单栏管理网关启动和状态 [OpenClaw]

  • 系统自诊断功能 (openclaw doctor): 自动检测配置错误和环境故障以进行故障排除 [OpenClaw]

  • 开发频道切换 (Update channels): 通过命令切换Stable、Beta、Dev等发布频道 [OpenClaw]

  • IDE集成扩展 (VS Code / JetBrains extension): 将AI助手直接集成到开发环境编辑器中 [Anthropic, Google]

  • 本地工作树环境 (Worktrees): 在不污染主工作环境的情况下为代理创建独立的工作分支 [Anthropic]

  • 项目特定指令文件 (CLAUDE.md / AGENTS.md): 放置在仓库根目录,使代理能自动读取项目规则的功能 [Anthropic, OpenClaw]

  • 非交互自动化模式 (Non-interactive Mode): 在CI/CD等场景中无需人工干预自动执行CLI代理的模式 [Anthropic]

  • 开发者模式 / 追踪 (/trace): 详细输出代理内部处理和网络请求的日志 [OpenAI, OpenClaw]

  • OpenAI兼容API端点 (OpenAI Compatibility): 使用现有的OpenAI SDK直接调用其他公司的模型(Llama、DeepSeek等)的功能 [Meta, Perplexity, DeepSeek]

  • 模型上下文协议 (Model Context Protocol, MCP) 生态系统: 在不同AI模型和工具之间标准化和联动上下文的协议基础设施 [Anthropic, OpenAI, Microsoft]

  • 自定义小部件嵌入 (ChatKit Widgets): 在ChatGPT UI内嵌入第三方自定义小部件的开发功能 [OpenAI]

  • 提示词比较和管理 (GitHub Models): 并列比较和管理多个提示词输出的开发者工具 [GitHub]

  • GitHub Actions自动化集成: 以仓库事件为触发器在CI/CD工作流中执行AI模型 [GitHub]

  • 笔记本环境集成 (Colab Enterprise): 在类似Jupyter Notebook的环境中集成AI模型开发和数据科学 [Google Cloud]

  • 应用内浏览器集成 (In-app browser): 代理在CLI或IDE中直接渲染网页并显示调查结果 [Anthropic]


总结

AI能做的事在不断增加,今后也会随时更新。个人而言,我正在开发房地产建筑行业专用的AI代理,希望能专注于通用AI短期内难以应对的领域,并继续推进研究开发。


分享此文章