AI已經開始「上班」 KPMG專家提醒小心你的「龍蝦員工」好心辦壞事

繼近年爆紅的生成式AI後，科技圈開始流行代理式AI（Agentic AI），不只回答問題，還能自行拆解任務、搜尋資料、操作系統，甚至完成整個工作流程。輝達執行長黃仁勳形容，這類技術可能是「下一個 ChatGPT」。但安侯企管公司董事總經理謝昀澤提醒，要留心代理式AI「好心辦壞事」的風險。

NVIDIA推出企業級AI 代理平台 NemoClaw，業界戲稱為「西裝龍蝦」，正是為了解決當紅開源軟體 OpenClaw（野生龍蝦）目前「難安裝」與「不安全」的痛點。

謝昀澤表示，代理式 AI最吸引企業之處，在於它結合2種能力：機器人流程自動化（RPA）的自動化執行力 + 大型語言模型（LLM）的理解能力。因此 AI 不只是回答問題，而是可以自己完成整個任務流程。

謝昀澤舉例，近期有台灣信用卡服務業者，由代理式AI自動完成客戶機場接送服務的預訂與支付。消費者透過對話介面向代理式AI提出機場接送需求，並提供出發地點、目的地、搭乘時間及乘車人數等資訊後，代理式AI隨即媒合機場接送服務供應商提供推薦方案，待消費者選定方案後，代理式AI以消費者綁定的信用卡卡完成預訂與支付。

代理式AI也可應用於供應鏈的發票與訂單核對流程。可以自動讀取郵件附件、提取資料，再登入 ERP 系統比對。如果發現金額異常，它甚至能整理原因並生成報告交由財務確認。

謝昀澤表示，「龍蝦員工」幾乎可以 24 小時不間斷工作。舉凡具備「全天候、跨系統、高頻率、大數據」特性的企業任務，特別是客服互動、內部行政流程、資料整理與等低風險工作，都可能成為 AI 龍蝦優先上工的領域。

但謝昀澤也提醒，龍蝦越聰明，闖禍的本事也越大。近期美團APP被發現，因應用程式授權過大，導致偷刪用戶手機照片；也發生過AI幫主人買滑鼠，結果擅自刷卡升級整套電競設備；當 AI 開始能操作系統與付款工具，這些「好心辦傻事」的案例就不再只是笑話，而可能變成企業營運風險。

謝昀澤形容，目前代理式AI的技術仍像「聰明但經驗不足的實習生」：懂任務卻不一定穩定完成。未來若各商業網站開放標準 API、工具更成熟，AI 才可能真正成為可靠的數位員工。

謝昀澤也說，並非所有企業都適合立刻導入代理式 AI；養殖真龍蝦最重要的是水質與溶氧量，企業導入 AI代理也需要三個良好的基礎環境條件，包括具備生成式 AI成熟使用經驗；數據品質與資安治理良好；企業流程具備清楚的 SOP。

他提醒，若企業內部規定朝令夕改，猶如「混濁的水」，或是數據庫裡充滿錯誤資訊、木馬程式與病毒流竄，也猶如水中毒素，AI 龍蝦不僅無法順利運作，還會高效率地把錯誤放大。若企業缺乏標準化流程且資訊環境脆弱，強行養蝦恐將演變成一場大型災難。

為免「龍蝦員工」變成企業資安破口，謝昀澤企業必須建立基本治理原則。

第一，建立隔離環境：如同養殖者必須準備堅固的水族箱與「防逃網」以防止龍蝦越獄破壞環境，企業必須利用沙盒（Sandbox）技術與虛擬機，將 AI 代理隔離在特定的工作區域內。

第二，設定行為護欄：「要限權，不碰錢；人要在，防作怪。」AI 可以提出建議，但關鍵決策必須由人類確認。

第三，建立緊急斷線機制：企業必須持續監控 AI 行為，一旦出現異常能立即啟動緊急煞車機制停止系統。

謝昀澤表示，根據多家科技研究機構預測，未來五年內企業內部將出現大量代理式AI的數位員工，數量甚至可能超過人類員工。因此未來企業的問題不再是「要不要養龍蝦？」，而是「能否安全有效的駕馭AI數位大軍」。