思考「AI 驱动」的产品团队 — 链式调用、伦理及其他

本文由葡萄牙语原文自动翻译。阅读原文

工作团队必须转型才能思考对话式产品。聊天机器人团队可作灵感，但需要组建面向生成式 AI 的新阵型。

关于生成式 AI 的影响，猜测很多：哪些行业受冲击最大、概念验证从哪开始、企业使用有哪些风险等等。这个博客的目的之一，正是做这种未来学练习、尝试预判趋势 — 我们唯一确定的是，这些变化在速度和工作流程的转型上将是指数级的。然而，很少有人谈论：当团队开始离开交易型产品的 UX 屏幕模式，转向背后由基础模型驱动、按「能力」编排流程、管理企业自有数据库的对话式产品时，团队将如何转型。这将大幅改变产品团队的组织方式。第一个范式转变是：依托多模态模型的产品，要求以越来越不「交易化」的方式思考用户体验 — 屏幕越来越少、专门「功能」越来越少。因为多模态模型组合不同交互形式的效率远超现有聊天机器人。用户会更愿意用语音、触屏和文字混合交互。由于这些模型比从前自然得多，我押注用户会日益偏好自然语言交互 — 语音多于文字和触屏。OpenAI 发布 iOS 应用时就用上了它最新的语音转文字 API「Whisper」；谷歌也在其产品组合中大力押注新的语音识别 API。仅这一转变，就会为 UX 世界重新打开一扇门：研究将围绕用户交互的形式，而非功能本身。至于功能，基础模型在其他角色 — 如负责并入自有数据库的架构师、担任策展人的产品设计师 — 的帮助下，将以对话形式交付用户所需。

问题将变成：我们的用户偏好怎样交互？在此语境下我们用什么语言？我们组合哪些多模态？

第二个范式转变，是思考**一个准备好接入 LLM 的数据读写架构。**可以确定的是，云架构需要重新思考：那个连接 LLM/链（Chains）的中间层放在哪里。「链」不多不少，就是这样一种链条：基于用户动作，LLM 模型对其数据库发起子调用，以得出给用户的回答或写入数据。下图展示了「链式调用」与当今大多数聊天机器人的「沙盒」式（即孤立查询）工作方式的对比。想了解更多？完整论文在此 :)

图 1：一个逐步示例，展示非链式（A）与链式（B）的差异 — 任务是把一份同行评审改写得更有建设性。在（A）的单次模型调用中，即使提示词（斜体）清楚描述了任务，生成的段落仍然大体缺乏人情味，也没有针对 Alex 演示的全部 3 个问题给出具体建议。而在（B）中，我们使用一条三步的 LLM 链，每步对应一个子任务：(b1) 拆分要点：从原始反馈中提取每个演示问题；(b2) 构思：针对每个问题头脑风暴建议；(b3) 组合要点：把所有问题与建议合成为最终友好的段落。结果显著改善。 链式调用正是架构师需要思考的，好让 LLM 更「像公司自己」、尽可能自然：在专有数据中检索，避免这个对话产品的回答像 ChatGPT 一样泛泛 — 而是把 GPT-4 这样的 LLM 与内部数据库以链式查询结合起来。架构师不仅要为产品的每项「能力」设计所需的链，还要思考这些数据如何流向遗留系统 — 与我们日常事件驱动系统间数据传输的挑战类似。另一个将大幅转型的角色是数据负责人：在基于事件和界面（如 Mixpanel）的架构中，这个角色将不断失去空间，转向关注回答的有效性、用户满意度及其宏观目标的达成。因为多模态模型本身就会被调校去「提升转化」— 这内在于提示词 — 所以需要结构良好标签的著名 A/B 测试，可能让位于「微调」：不过是跟踪宏观目标是否达成；若没有，就通过提示词引导或注入更多专有数据，让模型自己逐步改善产品指标。这要求数据分析师放下对标签和面板的微观管理视角，学会实施宏观指标、懂得各角色如何协同完成这场调校。

还有一个会大幅转型的角色是产品负责人/经理本人：他将以更宏观的视角看待公司愿景，因为 LLM 的构建考虑的维度比普通应用抽象得多 — 这些战略会直接传递给提示词工程师，让语言模型适配公司目标。PM 还将编排另一件要事：从传统应用向对话模式的过渡。如果是公司内部产品，discovery 阶段必须妥善引导、剥离既有流程偏见，因为基于 LLM 的对话产品可以从零构建 — 一种完全语言学的、「目标导向」的方式。要有相当的身段柔软度去创建一个控制点很少的新流程：不同于现今每个事件都被监控的应用，而是纯 OKR 导向、越来越多无代码/低代码实验的方式。

最后，伦理维度获得可观的份量：一次「微调」可能产生不希望的副作用，让对话流被带偏或损坏；数据分层本身也可能包含损害客户或企业的偏见。为此我们应遵循良好实践 — 分享联合国教科文组织的指南，可以帮助这个 approach。

挑战巨大，预判这些转型也很难。但我相信：架构、设计与产品负责人/经理的角色将不得不靠得更近；数据团队的工作将更加整体；而由于不再有屏幕和端点上的来回测试，工程团队将获得更多空间直接与架构师协作 — 给开发团队更多自主权、更少的修正、验收与细调循环（那是功能导向架构的特产），不同于我们从现在起要面对的、以「能力」为导向的生成式 AI。必须实验新的团队方式 — 可以肯定，LLM 与链式调用带来了思考产品的新方式。我们一起想。 😎