GenAI 的云基础设施 — 自动化与 RPA

本文由葡萄牙语原文自动翻译。阅读原文

关于 GenAI 潜在应用的讨论仍在继续，但首先要考虑的，是为部署这类产品准备好云基础设施。

巴西相当一部分企业已经运行在云上：大公司大多与 AWS、Azure、GCP 合作，拥有昂贵的专属空间；中小企业则采购各种平台，而这些平台很大程度上也运行在这三家供应商之一上。过去十年加速的迁移进程，给企业的应用生态带来了更多复杂性：数据转换与处理散布在多个实例中（很多时候仍是 on-premises，即在本地服务器上运行的应用），让一家企业依靠成百上千个自动化、分布式的例行任务运转。下面这份 2021 年的研究展示了企业云支出与迁移上云应用的趋势。

大多数新应用生来就是 serverless，或者说是「容器化」的，抑或被改造成这样。GenAI 正是来叠加在这条迁移曲线之上的。

RPA 技术也是这团乱麻的一部分。尽管 RPA 智能体本身运行在模拟操作系统 UI 的虚拟机上，但它们经常查询并请求运行在云端应用中的数据转换，形成一条云端与本地交织的抽取、转换、汇总数据例程链。这些流程已经无法割裂 — 它们是混合的实例与例程，共同构成企业的宏观流程旅程。

生成式 AI 将以一种自然的方式嵌入这一切：所有新框架都是 100% 面向云的，顺应早已在进行中的趋势，减少部署瓶颈、带来生产力。

先分析部署层面：我们可以把一个 GenAI 产品简化为三层 — 一个向量数据库（可由传统数据库供给）、一个基于 LLM 训练、并经微调以执行特定任务的智能体，以及一个 API 层，既允许向模型发起请求，也让模型能对外部世界执行动作。要强调的是，大部分 LLM 开源项目已准备好在 Docker/Kubernetes 中运行，极大地方便了在任何云上的部署。一张简图帮助说明：

整个应用封装在容器内，所含的库可依应用与预算而变化。在这个示意中：LangChain 负责运行智能体、LLM 与链式调用，Chroma 作为向量数据库，LlamaIndex 负责索引非结构化的私有数据 — 它们组成一个可由 FlowiseAI 生成的 Docker 镜像。在这篇文章里你可以更好地理解如何「组装」这个应用。

**这个 Docker 镜像可以轻松部署到任何兼容 Docker/Kubernetes 的云上。**在同一示意中，模型既把 OpenAI 用作语言模型的基座，也用它做自有数据的再训练（索引），但也完全可以换成谷歌或 Anthropic 的通用模型。再次强调，这是为 LLM 提出的一个通用架构 — 在本例中是一个能执行动作的智能体，因为我们在 I/O 层加入了让智能体基于文本分析执行动作的可能性，例如由用户通过提示词发起请求。

这样的 GenAI 应用可以轻松嵌入有 RPA 智能体参与的宏观流程 — 尤其当这些智能体与非结构化数据缠斗时。设想一条流水线：工程项目要由协调员通过 SAP 评审。GenAI 既能从非标准化的提案中抽取元数据，也能基于结构化的历史数据，对已录入 SAP 的项目进行结构性和/或商业性风险评估：

关键的一步在于：GenAI 极大地简化了针对特定场景的再训练 — 尤其是与以往的 ML 方法相比。另一大优势是，现有框架大多用 Python 编写，因此很容易「插」进同样基于这门语言的 RPA 应用。在此前的实验中，我已经验证了再训练与部署的这种便利性，欢迎查看博客里的相关文章。在我看来，采用的主要障碍仍是企业不愿为概念验证投入时间和资源 — 但经过适当打磨后，采用这项技术的风险，远小于流程自动化落地的潜在收益。而且初步分析看，这类项目的 ROI 非常可观。为什么不开始呢？正如 RPA 技术在市场上第一批成功案例传开后迎来爆发，GenAI 也不会例外。不同的是这一次的颠覆程度。👨‍💻 拭目以待。