介紹
近年來，人工智慧（AI）的應用已成為決定企業競爭力的重要因素。其中，「基於企業內部資料學習的本地部署AI」尤其受到關注。儘管雲端AI正逐漸成為主流，但出於安全和資料治理的考慮，越來越多的企業開始有意識地在自身環境中部署AI。
總之，本地部署的人工智慧是優化業務運作並安全利用高度機密資料的強大工具。這是因為它允許建立滿足您特定需求的客製化人工智慧模型，同時最大限度地降低資料外洩的風險。
本文對本地部署人工智慧進行了清晰易懂的解釋，從基礎知識到優勢、挑戰和關鍵成功因素，即使是初學者也能輕鬆理解。
什麼是本地部署人工智慧？
本地環境的基礎知識及其與雲端環境的差異。
本地部署人工智慧是指人工智慧系統在公司自己的伺服器環境中建置和運行，也稱為「本地部署」。本地部署是指公司擁有並管理自己的IT基礎架構（伺服器、網路、儲存等）的配置方式。
另一方面，雲端AI是指在AWS和Google雲端等外部服務上使用AI的方法。雲端的優勢在於初始成本低、部署速度快，但主要差異在於資料需要傳送到外部。
關鍵在於「資料儲存位置」。採用本地部署的人工智慧，公司內部資料不會離開公司場所，大幅降低資訊外洩的風險。對於處理機密資訊的行業，例如金融、醫療保健和製造業，這種差異尤其重要，因為它往往成為企業決定是否採用該技術的關鍵因素。
簡而言之，本地部署的 AI 以「安全優先」為特點，而雲端 AI 則以「速度優先」為特點。
人工智慧從公司內部數據學習的機制
人工智慧「學習」指的是它能夠從數據中發現模式，並做出預測和判斷。用於此目的的代表性技術是“機器學習”。
機器學習是一種無需人工編寫規則即可自動從資料中發現模式的技術。例如，透過使用歷史銷售資料訓練系統，就可以預測未來的需求。
採用本地部署的人工智慧時，所有用於訓練的資料都局限於公司內部。例如，會使用下列類型的資料：
- 客戶資訊（CRM 數據）
- 銷售歷史
- 來自生產線的感測器數據
- 內部文件和知識
這使得人工智慧能夠做出針對「貴公司特定業務流程」的最佳化決策。它能夠實現高度精確的現場分析，而這是通用人工智慧難以實現的。
為什麼本地部署的人工智慧現在如此引人注目？
目前，本地部署人工智慧之所以重新受到關注，主要有三個原因。
首先是「加強資料治理」。資料治理是指公司妥善管理和控制資料的機制。隨著《個人資訊保護法》和《一般資料保護規範》（GDPR）等法規日益嚴格，不將資料傳輸到外部的本地環境的重要性也日益凸顯。
第二個趨勢是「生成式人工智慧的普及」。隨著 ChatGPT 等生成式人工智慧的出現，企業開始考慮部署利用自身資料的人工智慧。然而，由於擔心雲端使用有資訊外洩風險，本地部署的人工智慧正逐漸成為一種選擇。
第三點是「硬體效能的提升」。 GPU（圖形處理器）技術的進步使得高效能人工智慧處理即使在企業內部也成為可能。先前只有大型企業才能使用的人工智慧技術，現在中型企業也能應用了。
因此，隨著技術、法規和需求的融合，本地部署的人工智慧再次引起人們的關注。
利用內部人工智慧技術開發公司內部數據的優勢
增強安全性和隱私性
總之，本地部署人工智慧的最大優勢在於其「極高的安全性」。
在雲端環境中，資料透過網際網路傳送到外部伺服器。因此，由於通訊路徑錯誤或雲端配置錯誤，存在資訊外洩的風險。
另一方面，採用本地部署的人工智慧，資料保留在公司內部網路中，顯著降低了遭受外部攻擊的風險。這對於處理以下類型資訊的公司尤其重要：
- 個人資訊
- 研發數據
- 保密合約資訊
另一個關鍵特性是它與「零信任安全」理念的兼容性。 「零信任」是一種近年來備受關注的安全方法，其基本原則是「不信任任何存取權」。因此，對於將安全放在首位的公司而言，本地部署的人工智慧是理想之選。
可自訂性和業務優化
在本地部署人工智慧的一大優點在於它能夠根據公司的具體需求進行精細客製化。
雲端人工智慧通常使用通用模型，並提供一定程度的靈活性，但其針對特定業務流程的客製化能力有限。另一方面，本地部署的人工智慧可以對資料和模型進行內部管理，從而實現最佳化以匹配業務流程。
例如，在製造業中，用於檢測缺陷產品的AI可以根據公司產品的具體特性進行客製化。在銷售領域，它可以學習每個客戶的購買趨勢，並建議最佳的推銷時機。
這裡最關鍵的是「領域知識」。領域知識指的是關於特定行業或業務的專業知識。本地部署的人工智慧透過將這些領域知識與數據結合，支援更準確的決策。
因此，它不僅可以提高營運效率，而且可以直接帶來銷售額的成長和成本的降低。
對成本和營運方面進行務實的評估
本地部署的人工智慧一直被認為“成本高昂”，但實際上，從長遠來看，它可能不是劣勢。
當然，初始投資包括購買伺服器和GPU，以及環境建置成本。然而，雲端AI採用按需付費的定價模式，這意味著使用量越大，成本越高。
例如，持續處理大量資料的公司每年可能需要支付數千萬日圓的雲端費用。另一方面，本地部署的人工智慧主要基於固定成本，因此使用越多，其成本效益往往越高。
此外，其低延遲（處理延遲）也值得關注。由於它不需要在本地環境中進行通信，因此在即時處理方面表現出色。
因此，本地部署人工智慧是一個現實的選擇，雖然初始投資較高，但從長遠來看是合理的。
實施本地人工智慧的挑戰與成功因素
實施過程中遇到的技術難題
實施本地人工智慧的最大障礙是其「技術難度」。
首先，你需要人工智慧工程師和資料科學家等專業人員。資料科學家是運用統計學和機器學習技術分析資料的專業人士。
此外，基礎設施建設也至關重要。這需要廣泛的知識，包括GPU伺服器設計、儲存管理和網路配置。另外，「資料預處理」階段也十分重要。這涉及到將資料準備成易於人工智慧學習的格式，實際上它佔了整體工作負載的很大一部分。
換句話說，本地部署人工智慧不僅僅是引入一個工具；它需要「整個組織的數位轉型（DX）」。
營運結構和人力資源的重要性
本地部署的人工智慧並非一次實施；持續運作是其成功的關鍵。
人工智慧模型的準確率會隨著時間推移而下降。這種現象稱為“模型漂移”，指的是由於數據變化導致預測準確率降低。因此，定期進行重新訓練和評估是必要的。
此外，培養公司內部了解人工智慧的人才至關重要。如果業務部門和IT部門之間缺乏協作，人工智慧將淪為形式主義。成功的公司會徹底落實以下幾點：
- 從小處著手
- 設定清晰的關鍵績效指標。
- 持續改進
這意味著人工智慧現在正與實際的商業價值連結起來。
成功企業的共同特徵
成功實施本地部署人工智慧的公司有幾個共同點。
首先，目標必須明確。如果引進人工智慧本身就成為目標，那麼很難取得成效。諸如「提高營運效率」之類的具體目標至關重要。
其次，數據組織的重要性不容忽視。人工智慧高度依賴數據的品質。無論人工智慧多麼先進，如果資料分散或不準確，它都無法產生結果。
最後，還有「管理層的理解」。在地部署人工智慧需要投資決策，因此高階管理者的承諾對成功至關重要。
考慮到這些要點，可以說本地部署的人工智慧不僅僅是一種 IT 實現，而是「業務策略的一部分」。
摘要
本地部署的人工智慧是一個強大的工具，它能夠在安全地利用公司內部資料的同時，實現高階業務優化。
雖然它在安全性、可自訂性和成本效益方面具有顯著優勢，但其實施需要技術專長和建立健全的組織結構。然而，如果管理得當，它有可能大大提升公司的競爭力。
未來，結合雲端和本地部署解決方案的「混合人工智慧」很可能成為主流。找到最適合貴公司的解決方案是成功的第一步。