Back to all posts

為什麼我們的智能體運行在雲端

為什麼我們的智能體運行在雲端

Marc Andreessen 在2011年寫道,軟體正在吞噬世界。十五年後,軟體已經主導銷售、招聘、財務、支援、溝通以及幾乎所有其他類型的工作。

所有這些軟體都需要有人來操作。

每個應用程式都伴隨著帳號、權限、整合、更新和支援。資訊被困在一個工具中,然後又被複製到另一個工具。當某些東西出錯時,必須有人發現、診斷並修復它。現代辦公室工作很大一部分就是在不同系統間搬移資訊並維持流程運作。

這樣的成本相當可觀。2025美國政府問責辦公室的報告發現,79%的聯邦IT預算都用於運作和維護現有系統。這是公共部門的例子,但這種情況普遍存在。軟體用得越多,維持其可用性所花的時間也越多。

我們的目標是減輕這些操作負擔。

向智能體要求每週的銷售管道報告時,它應該能讀取CRM、檢查最近的電子郵件、找出重要變化並準備報告。用戶應該直接收到完成的成果,而不是一組製作報告的指示。

這個目標影響了智能體的運行位置。

本地智能體通常從週末專案開始。你安裝執行環境、設定模型並連接幾個工具。接著你會找一台備用電腦,讓它保持開機,管理API金鑰、安裝更新,當它停止回應時還要檢查日誌。

很快,擁有者就在家裡維護一台小型伺服器。本地智能體適合想要完全控制並樂於自行搭建環境的人。大多數人並不想再多維護一台電腦。

遠端存取顯示了工作量的快速增加。家用智能體運行在路由器和防火牆之後。從外部連線可能需要埠轉發、通道、驗證以及網路設定變更。如果ISP使用了CGNAT,改家裡路由器也未必能解決問題。

一個人可能得花一個下午,讓智能體能被連線,這還是在它完成第一個有用任務之前。

我們選擇讓智能體運行在雲端,這樣我們就能負責這些工作。我們管理執行環境、網路、更新、安全性和復原。當我們修復問題時,每位用戶都能受益。排程工作在用戶關閉筆電後仍可繼續。智能體隨時可用,不需要桌上再放一台備用電腦。

雲端運行也讓我們能統一管理權限和安全性。智能體可以使用隔離環境、在執行敏感操作前請求批准,並留下操作紀錄。用戶可以撤銷存取權,而不必在另一台機器上翻找設定檔。

介面應該保持熟悉。人們應該能透過基本的網頁聊天,或是他們已經在用的服務(如Slack、iMessage和Telegram)與智能體互動。他們描述需求,必要時回答問題,並檢閱結果。

要完成有用的工作,也必須能存取資訊所在的應用程式。我們花了大量時間,讓智能體能連接超過3,000個SaaS應用程式。

這讓智能體能讀取收件匣、更新CRM、準備文件並發佈結果,而無需用戶在系統間搬移資料。請求可以從聊天開始,最後在正確的應用程式中以完成的工作結束。

人們已經有太多軟體需要維護。用戶應該決定需要發生什麼,智能體則負責點擊、轉移、追蹤和例行工作,讓事情順利完成。

Stay in the loop

// Get the latest insights on AI teammates and collaboration.