AI 代理

AI 代理是先進的 AI 系統，可依照目標自主推理、規劃及執行複雜任務。

AI 代理是全新的數位勞動力，為我們工作並與我們攜手合作。 它們代表了人工智慧的下一波演進，從簡單的自動化轉變為能夠管理複雜工作流程的自主系統。 這些代理不僅能自動化重複且耗時的任務，還能作為智慧個人助理，幫助個人和組織提升運作效率。

與遵循基本的「請求-回應」框架的傳統 生成式 AI 不同，AI 代理不僅能協調資源、與其他代理協作，並利用 大型語言模型 (LLM)、檢索增強生成 (RAG)、向量資料庫、API、框架以及 Python 等高級程式語言等工具。

這些系統通常被稱為「代理型 AI」或「大型語言模型 (LLM) 代理程式」，因其透過反覆規劃與決策來實現目標的能力而脱穎而出。 例如，一個負責建置網站的 AI 代理可自主管理佈局設計、編寫 HTML 與 CSS 程式碼、連接後端流程、生成內容以及調試等任務，只需最低限度的人力介入。

為了瞭解 AI 代理的運作方式，必須檢視其核心元件。這些元件協同運作，讓代理能夠有效地推理、規劃及執行任務：

• LLM：AI 代理的「大腦」，大型語言模型 (LLM) 負責協調決策。它透過任務推理、規劃行動、選擇適當的工具，並管理必要資料的存取，以實現目標。代理核心是定義並統籌代理整體目標與宗旨的地方。
• 記憶模組：AI 代理程式依賴記憶來維持情境，並適應正在進行中或歷史任務：
  • 短期記憶：追蹤代理的「思維路線」與最近動作，確保情境在整個工作流程中得以保留。
  • 長期記憶：保留互動的歷史與相關資訊，隨著時間的推移，可更深入理解情境並改善決策制定。
• 規劃模組：規劃模組可讓 AI 代理將複雜任務分解為可採取行動的步驟：
  • 無意見回饋：運用「思維鏈」或「思維樹」等結構化技術，將任務分解為可管理的步驟。
  • 透過意見回饋：結合 ReAct、Reflexion 或人機迴圈意見回饋等迭代改善方法，以改善策略與成果。
• 工具：AI 代理可作為工具，但亦可透過與外部系統整合來擴展功能，例如：
  • APIs：以程式設計方式存取即時資料或執行動作。
  • 資料庫與 RAG 工作流程: 取相關資訊，確保知識庫準確。
  • 其他 AI 模型：與其他模型協作處理專門任務。

AI 代理可無縫結合其核心元件，以處理複雜任務。 以下是說明這些元件如何協同運作，以回應特定使用者請求的範例。

範例提示：分析我們最新的季度銷售資料並提供圖表。

步驟 1. 使用者或機器請求 

使用者，甚至是另一個代理或系統，透過請求分析銷售資料與視覺表示來啟動代理程式的工作流程。 代理程式會處理這項輸入，並分解成可採取行動的步驟。

步驟 2. LLM：瞭解任務

LLM 是 AI 代理的大腦。 它可解讀使用者指令，以瞭解任務需求，例如：

• 從資料庫擷取資料。
• 執行資料分析。
• 建立視覺圖形。

LLM 決定：

• 它已具備哪些資訊。
• 它需要哪些額外資料或工具。
• 完成任務的逐步計畫。

步驟 3. 規劃模組：任務細分

規劃模組將任務劃分為特定動作：

• 擷取：從公司資料庫擷取最新銷售資料。
• 分析：應用適當的演算法，識別趨勢與見解。
• 視覺化：生成圖表以展示結果。

步驟 4. 記憶模組：提供上下文信息

記憶模組可確保保留情境，以便高效執行任務：

• 短期記憶：追蹤當前工作流程的情境，例如上季請求的類似任務，以簡化流程。
• 長期記憶：保留歷史知識，如資料庫位置或偏好的分析方法，可加深理解上下文。

步驟 5. 工具整合：執行任務

代理核心協調外部工具，以完成每一步： 

• API：擷取原始銷售資料。
• 機器學習演算法：分析資料以尋找趨勢與模式。
• 程式碼解譯器：根據分析結果生成圖表。

步驟 6. 推理與反思：改善結果

在整個過程中，代理程式會應用推理，改善工作流程並提升準確度。 這包括：

• 評估每項行動的效果。
• 確保工具與資源的有效使用。
• 向使用者意見回饋學習，改善未來任務。

例如，如果生成圖形需要改進，代理程式會調整方法，在後續工作流程中提供更佳結果。

推理層是代理型 AI 的定義功能，讓代理能夠思考如何達成目標。 透過將 LLM 功能與 API、協調軟體和情境記憶等工具結合，推理可讓代理程式以精確且有效的方式處理複雜環境。 這種適應能力使 AI 代理對於自動化及最佳化複雜工作流程方面極具價值。

AI 代理可直接以 Python 編寫，尤其適用於簡單的工作流程與實驗。 當轉向更複雜的工作流程或生產環境時，遙測、記錄與評估變得重要，而代理框架將發揮作用。 AI 代理框架是專門的開發平台或函式庫，旨在簡化建置、部署及管理 AI 代理的流程。 這些框架抽象了建立代理系統的大部分潛在複雜性，讓開發人員能夠專注於特定的應用程式與代理程式行為，而非實作技術的細節。

在選擇 AI 代理架構時，務必考慮以下因素：

• 多代理協作：專案是否需要多個代理程式共同工作？
• 專案複雜性：此框架是否適合簡單任務或複雜的工作流程？
• 資料處理：該框架是否支援必要的資料整合與檢索？
• 客製化需求：量身打造代理程式的行為需要多大的彈性？
• LLM 重點：該框架是否優先處理大型語言模型？

根據這些需求，存在一系列框架，以適應不同的使用案例與複雜性。

有很多方法可以實現 AI 代理，例如，自備 Python、LangChain 與 Llama Stack。

AI 代理可根據其複雜性、決策流程以及對環境的適應性進行分類。 以下是 AI 代理的主要類型，涵蓋從簡單系統到高度智慧且具適應性的架構：

AI 代理與 AI 助理在能力、自主性以及可處理的任務複雜性方面皆有顯著差異。

AI 助理是傳統 AI 聊天機器人的進化。 它們運用自然語言處理 (NLP)，以文字或語音的形式理解使用者的詢問，並根據人類的直接指令執行任務。 這些系統如 Apple 的 Siri、Amazon 的 Alexa 或 Google Assistant 都擅長處理預先定義的任務或回應特定指令。 

AI 代理代表一種更先進的 AI 形式，超越了助理的能力。 它們利用規劃、推理與情境記憶，自主處理複雜且開放式的任務。 AI 代理可執行反覆的工作流程、利用廣泛的工具，並根據意見回饋與先前的互動進行調整。

AI 代理的潛在使用案例基本上可無限多。 部署 AI 代理將取決於想像力與專業知識，從生成及分發內容等簡單使用案例，到協調企業軟體與資料庫功能等複雜使用案例，都可以涵蓋其中。

任務執行代理程式，也可稱為「API 代理」或「執行代理」，可利用一組預先定義的執行函數，執行使用者請求的任務。

範例：: 「幫我撰寫一則社群媒體貼文，用來推廣我們最新的產品，並務必提到該產品正在特價中，且現在有綠色款式可選。」

適用於特定應用的 AI 代理程式，可以幫助提升人類使用該工具的效率。例如，AI 副駕駛可協助使用者瞭解應用程式的所有功能，並自動化這些功能的使用方式，或建議如何最好地使用該工具。

範例：利用大量代理與 OODA 迴圈策略，最佳化資料中心效能。

資料分析可由多代理系統執行，旨在擷取資料並加以理解。 將其視為一種「擷取並執行」的策略，其中一組代理從短期或長期記憶 (甚至 PDF) 中收集資料，然後另一組執行代理程式會使用 API 來觸發資料分析工具。

範例：「公司今年有幾個季度有現金流為正數？」

AI 代理可提供 24 小時支援，同時理解文字和語音形式的自然語言查詢，代表客戶採取行動並解決複雜問題。

例如：客服中心主任或聊天機器人可將工作流程任務自動化，例如連接至 CRM 等內部系統、檢查客戶申請是否符合退款資格，或輸入開始退貨所需的資料。

AI 代理可擔任軟體開發人員的程式碼助理，協助提供程式碼建議、指出錯誤並提供一鍵修復措施、提供請求摘要，並生成程式碼。 

範例：當今最受歡迎的 AI 代理之一是 GitHub Copilot，它可作為開發人員的 助理，生成並建議程式碼、管理文件並修復錯誤。

多重代理系統或「群體」代理程式可即時分析資料、根據需求監控並調整庫存水準，協助最佳化供應鏈，甚至透過關注市場波動來協助原材料來源。

範例： 階層代理系統可包含多層代理，負責處理供應鏈的各個環節，並報告給協調代理，由該代理根據資料做出決策。

NVIDIA 提供工具與軟體，簡化代理型 AI 的大規模開發與部署。

1. NVIDIA Blueprints 為開發人員打造使用一個或多個 AI 代理的 AI 應用程式提供了起點。 這些應用程式包括利用 NVIDIA AI 與 NVIDIA Omniverse™ 函式庫、SDK 與微服務打造的範例應用程式，並為客製化 AI 解決方案奠定基礎。 每個 Blueprint 皆包括建置工作流程、工具與部署與客製化所需的參考程式碼，以及概述 API 定義與微服務互通性的參考架構。
2. 開發人員可透過 NVIDIA API 目錄取得最新的 AI 模型，建置及部署專屬代理型 AI 應用程式。