擴展 GenAI:英特爾 IT 如何建立企業就緒的生成式 AI 框架

Buy owner data from various industry. Like home owner, car owner, business owner etc type owner contact details
Post Reply
aminakhatun26
Posts: 20
Joined: Wed Dec 04, 2024 4:45 am

擴展 GenAI:英特爾 IT 如何建立企業就緒的生成式 AI 框架

Post by aminakhatun26 »

英特爾IT 開發了一個新平台,旨在透過授權各級技術技能的員工使用這些工具來提高日常生產力並在我們的業務流程中釋放新的效率,從而實現英特爾對生成式人工智慧(GenAI) 的使用民主化,如 IT@Intel 白皮書中所述, 使整個英特爾生成式 AI 的使用和開發民主化。

為了使 GenAI 在企業層級發揮作用,我們確定需要三個關鍵要素:RAG(檢索增強生成)功能、託管或使用大型語言或嵌入模型的能力以及在數據之間進行編排的能力在RAG 成分和雲 希臘手機號碼列表 端供應商提供或集中託管的模型中。如果沒有這些要素(RAG、模型和編排),我們就無法開發出良好的 GenAI 平台。

許多企業開始他們的GenAI 之旅時,嘗試使用OpenAI 模型或Anthropic 等其他基礎模型來開發可能特定於特定資料領域的解決方案,例如用於產品品質保證(QA) 的編碼環境或用於支援的客戶數據。這些初始解決方案通常包含少量客戶或產品資料、編排引擎(可能使用語義核心、LangChain、Haystack 等)和大型語言模型(託管在本地或透過大型雲端提供者)。

但 GenAI 能做的不僅僅是將數據與模型結合起來產生答案。為了將這些特定於領域的解決方案擴展為可在企業級別使用的解決方案,我們意識到我們需要擴展數據、模型和編排組件,以使用戶能夠配置自己的體驗並超越許多企業開始的聊天體驗通過建設。

Image

在英特爾,我們正在建立一個 GenAI 框架,該框架使用(或將來將使用)託管在我們自己的英特爾® 至強® 處理器和英特爾® Gaudi® 硬體解決方案上的模型,以及基於雲端的模型。我們正在這些模型之上創建一個由推理層或 API 層組成的抽象層,以便可以以標準化的方式使用它們。了解如何與 API 和不同對話介面整合的高階團隊實際上並不需要抽象層。然而,希望將 GenAI 納入現有應用程式的不太先進的團隊需要這些抽象介面來輕鬆使用模型並在模型之間切換。
Post Reply