在本篇文章中，我們將帶您首先通過(guò)解讀 LLM 的全景圖，深入探討了 LLM 的六個(gè)關(guān)鍵領(lǐng)域，隨后提出五種主要方案以解決企業(yè)在這一技術(shù)領(lǐng)域面臨的挑戰(zhàn)。從商業(yè)模型到開(kāi)源模型、微調(diào)、自定義構(gòu)建，再到與 AI 提供商的合作，本文將引領(lǐng)您深入了解 LLM 的技術(shù)脈絡(luò)，為探索和應(yīng)用這一技術(shù)提供一些思考與指導(dǎo)。

大型語(yǔ)言模型圖

?
上圖顯示了由 LLMs 延伸出來(lái)的內(nèi)容，分為六個(gè)區(qū)域。隨著這些區(qū)域的擴(kuò)展，產(chǎn)品和服務(wù)有不同的需求和機(jī)會(huì)。其中一些機(jī)會(huì)已經(jīng)被發(fā)現(xiàn)，但還有一些尚未被發(fā)現(xiàn)。在區(qū)域5為差異化、實(shí)質(zhì)性的內(nèi)置知識(shí)產(chǎn)權(quán)和卓越的用戶(hù)體驗(yàn)提供了更大的機(jī)會(huì)，使企業(yè)能夠利用 LLMs 的力量。

區(qū)域1 - 可用的大型語(yǔ)言模型

就 LLM 而言，從本質(zhì)上講 LLM 是與語(yǔ)言綁定的，不過(guò)多模態(tài)模型已經(jīng)在圖像、音頻等方面引入。這種轉(zhuǎn)變產(chǎn)生了一個(gè)更通用的術(shù)語(yǔ)，即基礎(chǔ)模型。除了增加的模態(tài)性外，還提供了多個(gè)更專(zhuān)注于特定任務(wù)的模型，以及大量開(kāi)源模型可供使用。

新的提示工程（Prompt Engineering）技術(shù)[1]說(shuō)明了如何增強(qiáng)模型性能，以及市場(chǎng)如何朝著利用數(shù)據(jù)發(fā)現(xiàn)、數(shù)據(jù)設(shè)計(jì)、數(shù)據(jù)開(kāi)發(fā)和數(shù)據(jù)交付來(lái)實(shí)現(xiàn)這種程度的模型自治的方向發(fā)展。

除了增加模式外，大型商業(yè)供應(yīng)商還提供了多種模式，這些模式更加針對(duì)具體任務(wù)。此外，還出現(xiàn)了大量開(kāi)源模型，新的提示技術(shù)說(shuō)明了如何提高模型性能，以及市場(chǎng)如何朝著利用數(shù)據(jù)發(fā)現(xiàn)、數(shù)據(jù)設(shè)計(jì)、數(shù)據(jù)開(kāi)發(fā)和數(shù)據(jù)交付來(lái)實(shí)現(xiàn)模型自治的方向發(fā)展。

區(qū)域2 - 通用用例

隨著大型語(yǔ)言模型的出現(xiàn)，功能更加細(xì)分，模型被訓(xùn)練用于特定任務(wù)。例如 Meta 下的 Sphere 專(zhuān)注于知識(shí)問(wèn)答，稱(chēng)之為知識(shí)密集型自然語(yǔ)言處理（KI-NLP）。像 DialoGPT、GODEL 和其他模型則專(zhuān)注于對(duì)話(huà)管理等方面。

最近 LLM 的發(fā)展采用了一種方法，即模型結(jié)合了這些特點(diǎn)，并且可以通過(guò)不同的提示技術(shù)提取出令人驚嘆的性能。

LLM 的主要實(shí)現(xiàn)和應(yīng)用如下：

• 文本分析變得越來(lái)越重要，嵌入對(duì)于這類(lèi)實(shí)現(xiàn)至關(guān)重要。

• 語(yǔ)音識(shí)別，也稱(chēng)為 ASR，是將音頻語(yǔ)音轉(zhuǎn)換為文本的過(guò)程。通過(guò)一種稱(chēng)為詞錯(cuò)誤率（WER）的方法可以輕松地衡量任何ASR過(guò)程的準(zhǔn)確性。ASR 為 LLM 的訓(xùn)練和使用提供了大量的錄音語(yǔ)言數(shù)據(jù)。

這個(gè)領(lǐng)域有兩個(gè)值得注意的變化：

• 知識(shí)問(wèn)答和知識(shí)密集型 NLP（KI-NLP）方法被 RAG 提示工程在推理中取代。
• 對(duì)話(huà)生成由 GODEL 和 DialoGPT 等發(fā)展推動(dòng)。這些已被 ChatGPT、HuggingChat 和 Cohere Coral 等特定實(shí)現(xiàn)所取代。還有通過(guò)提示工程，在提示中呈現(xiàn)對(duì)話(huà)上下文的小樣本訓(xùn)練（Few-shot training）。

區(qū)域3-具體實(shí)現(xiàn)

該區(qū)域列出了一些特定用途的模型。目前已逐漸分為兩部分，一個(gè)是通用的 LLM，另一個(gè)則是基于 LLM 的數(shù)字/個(gè)人助手。

區(qū)域4-模型

這里列出了業(yè)內(nèi)最為突出的大型語(yǔ)言模型提供商。大多數(shù) LLM 都具有內(nèi)置的知識(shí)和功能，包括自然語(yǔ)言翻譯、解釋和編寫(xiě)代碼的能力，通過(guò)提示工程進(jìn)行對(duì)話(huà)和上下文管理。

區(qū)域5-基礎(chǔ)工具

該領(lǐng)域顯示的是利用 LLM 的工具，包括向量存儲(chǔ)、Playground 和提示工程工具。例如 HuggingFace 這樣的托管平臺(tái)通過(guò)模型卡和簡(jiǎn)單的推理 API 實(shí)現(xiàn)無(wú)代碼交互。

在這個(gè)區(qū)域中我還列出了數(shù)據(jù)中心工具（Data Centric Tooling），它專(zhuān)注于重復(fù)使用 LLM 的高價(jià)值用途。

在這個(gè)領(lǐng)域的市場(chǎng)機(jī)會(huì)是創(chuàng)造基礎(chǔ)工具，以解決未來(lái)對(duì)數(shù)據(jù)發(fā)現(xiàn)、數(shù)據(jù)設(shè)計(jì)、數(shù)據(jù)開(kāi)發(fā)和數(shù)據(jù)交付的需求。

企業(yè)可參考的 LLM 五大應(yīng)用方案

企業(yè)希望利用 LLM 來(lái)創(chuàng)造更多商業(yè)價(jià)值和競(jìng)爭(zhēng)優(yōu)勢(shì)，隨著 LLM 領(lǐng)域的迅速演進(jìn)和分化，做出正確的選擇不僅需要了解可用的模型，還需要了解每個(gè)模型如何與企業(yè)獨(dú)特的業(yè)務(wù)目標(biāo)保持一致。企業(yè)不得不在日益復(fù)雜的選擇面前謹(jǐn)慎抉擇。這里我們列出關(guān)于企業(yè)采用 LLM 的五大方案，企業(yè)可單獨(dú)或混合應(yīng)用以實(shí)現(xiàn)其業(yè)務(wù)目標(biāo)。

商業(yè)模型

商業(yè)模型，如 ChatGPT、Google Bard 和 Microsoft Bing，為追求實(shí)現(xiàn)大型語(yǔ)言模型的有遠(yuǎn)見(jiàn)的領(lǐng)袖和企業(yè)家提供了一種簡(jiǎn)單高效的解決方案。這些模型已經(jīng)在不同的數(shù)據(jù)集上進(jìn)行了廣泛的訓(xùn)練，提供了文本生成、語(yǔ)言翻譯和問(wèn)答能力。它們的主要優(yōu)勢(shì)在于它們的即時(shí)可用性。通過(guò)正確的策略、程序和流程，企業(yè)可以快速部署這些模型，迅速利用它們的能力。

然而，需要記住的是，雖然這些模型設(shè)計(jì)用于多功能性，服務(wù)于廣泛的應(yīng)用，但它們可能在您企業(yè)特定的任務(wù)中表現(xiàn)不佳。因此，應(yīng)考慮它們?cè)谀?dú)特的業(yè)務(wù)需求中的適用性。

開(kāi)源模型

對(duì)于考慮 LLM 解決方案的企業(yè)來(lái)說(shuō)，開(kāi)源模型是一種經(jīng)濟(jì)實(shí)惠的選擇。這些免費(fèi)提供的模型提供先進(jìn)的語(yǔ)言功能，同時(shí)將成本最小化。然而，值得注意的是，對(duì)于需要廣泛定制的組織，開(kāi)源模型可能無(wú)法提供與專(zhuān)有選項(xiàng)相同的控制水平。

在某些情況下，它們是基于比商業(yè)模型更小的數(shù)據(jù)集進(jìn)行訓(xùn)練的。開(kāi)源 LLM 仍然提供文本生成、翻譯和問(wèn)答任務(wù)的多功能性。開(kāi)源模型的主要優(yōu)勢(shì)在于其成本效益。幾家開(kāi)源提供商提供微調(diào)以與特定的業(yè)務(wù)需求相一致，提供更加個(gè)性化的方法。

一個(gè)考慮因素是開(kāi)源模型的維護(hù)和支持。公共云提供商經(jīng)常更新和改進(jìn)他們的商業(yè)模型，而開(kāi)源模型可能缺乏一致的關(guān)注。評(píng)估所選擇的開(kāi)源模型的可靠性和持續(xù)發(fā)展是確保長(zhǎng)期適用性的重要因素。

微調(diào)模型

微調(diào)模型允許企業(yè)在特定的業(yè)務(wù)任務(wù)上實(shí)現(xiàn)最佳性能。這些模型通過(guò)使用組織的數(shù)據(jù)進(jìn)行額外的訓(xùn)練，結(jié)合商業(yè)模型的優(yōu)勢(shì)。

一家希望改進(jìn)其客戶(hù)支持聊天機(jī)器人的公司可能會(huì)從一個(gè)能夠理解和生成自然語(yǔ)言的商業(yè)模型開(kāi)始。他們可以使用其歷史客戶(hù)支持聊天記錄來(lái)對(duì)其進(jìn)行微調(diào)，以訓(xùn)練其特定的客戶(hù)查詢(xún)、響應(yīng)和上下文。

微調(diào)模型的優(yōu)點(diǎn)在于能夠根據(jù)具體需求定制模型，同時(shí)受益于商業(yè)模型提供的易用性。這對(duì)于行業(yè)特定的術(shù)語(yǔ)、獨(dú)特的要求或?qū)I(yè)用例尤其有價(jià)值。然而，微調(diào)可能需要大量的資源，需要一個(gè)準(zhǔn)確代表目標(biāo)領(lǐng)域或任務(wù)的合適數(shù)據(jù)集。獲取和準(zhǔn)備這個(gè)數(shù)據(jù)集可能涉及額外的成本和時(shí)間。

微調(diào)可以使企業(yè)將大型語(yǔ)言模型適應(yīng)其獨(dú)特的要求，提高性能和任務(wù)特定的相關(guān)性。盡管涉及規(guī)劃和投資，但這些好處使得微調(diào)模型對(duì)于旨在增強(qiáng)其語(yǔ)言處理能力的組織非常有吸引力。

構(gòu)建自定義語(yǔ)言模型

從頭開(kāi)始構(gòu)建自定義語(yǔ)言模型 LLM 可以為企業(yè)提供無(wú)與倫比的控制和定制性，但成本較高。這個(gè)選項(xiàng)很復(fù)雜，需要機(jī)器學(xué)習(xí)和自然語(yǔ)言處理的專(zhuān)業(yè)知識(shí)。自定義 LLM 的優(yōu)勢(shì)在于其量身定制的性質(zhì)。它可以根據(jù)您企業(yè)的獨(dú)特需求進(jìn)行設(shè)計(jì)，確保最佳性能和目標(biāo)的一致性。

通過(guò)自定義 LLM，您可以控制模型的架構(gòu)、訓(xùn)練數(shù)據(jù)和微調(diào)參數(shù)。然而，構(gòu)建自定義 LLM 非常耗時(shí)和昂貴。它需要一個(gè)熟練的團(tuán)隊(duì)、硬件、廣泛的研究、數(shù)據(jù)收集和注釋以及嚴(yán)格的測(cè)試。還需要進(jìn)行持續(xù)的維護(hù)和更新，以保持模型的有效性。

構(gòu)建自定義 LLM 是尋求絕對(duì)控制和高性能的組織的最佳選擇。盡管需要投資，但它為您的語(yǔ)言處理需求提供了高度定制的解決方案。

混合方法

混合方法結(jié)合了不同策略的優(yōu)勢(shì)，提供了一個(gè)平衡的解決方案。通過(guò)將商業(yè)模型與微調(diào)或自定義模型結(jié)合使用，企業(yè)可以實(shí)現(xiàn)定制化和高效的語(yǔ)言模型策略。

該方法經(jīng)過(guò)優(yōu)化，以滿(mǎn)足特定任務(wù)要求和行業(yè)細(xì)微差別。例如，當(dāng)出現(xiàn)新的客戶(hù)請(qǐng)求時(shí)，商業(yè)模型可以處理文本并提取相關(guān)信息。這種初始交互受益于商業(yè)模型對(duì)語(yǔ)言理解和知識(shí)的普遍掌握。經(jīng)過(guò)明確訓(xùn)練于企業(yè)客戶(hù)參與和對(duì)話(huà)數(shù)據(jù)上的微調(diào)或自定義模型接管。它分析處理后的信息，提供定制化和上下文相關(guān)的回應(yīng)，利用其在客戶(hù)評(píng)價(jià)和類(lèi)似互動(dòng)方面的訓(xùn)練。

通過(guò)采用混合方法，企業(yè)可以實(shí)現(xiàn)一個(gè)靈活高效的策略，提供定制化解決方案的同時(shí)利用商業(yè)模型中的知識(shí)。這個(gè)策略為在已有語(yǔ)言模型的背景下解決企業(yè)特定需求提供了實(shí)用和有效的方法。

與 AI 提供商合作

與 AI 提供商合作是實(shí)施 LLM 的一個(gè)可行選擇。這些提供商提供專(zhuān)業(yè)知識(shí)和資源，用于構(gòu)建和部署定制語(yǔ)言模型。與 AI 提供商合作的優(yōu)勢(shì)在于獲得他們的專(zhuān)業(yè)知識(shí)和支持。他們擁有深入的機(jī)器學(xué)習(xí)和自然語(yǔ)言處理知識(shí)，有效地指導(dǎo)企業(yè)。他們提供見(jiàn)解，推薦模型，并在開(kāi)發(fā)和部署過(guò)程中提供支持。不過(guò)選擇與 AI 提供商合作，請(qǐng)考慮可能涉及額外成本，評(píng)估財(cái)務(wù)影響。

通過(guò)與 AI 提供商合作，企業(yè)可以從專(zhuān)業(yè)知識(shí)中受益，確保 LLM 的順利整合。盡管應(yīng)考慮成本，但與AI提供商合作的優(yōu)勢(shì)，尤其是在專(zhuān)業(yè)指導(dǎo)和支持方面，可能超過(guò)了費(fèi)用。

結(jié)論

在快速發(fā)展的生成式 AI 世界中，選擇正確的道路不僅僅需要掌握可用模型，還需要理解每個(gè)模型如何與您獨(dú)特的業(yè)務(wù)目標(biāo)相契合。成功實(shí)施這些模型并非偶然之舉，需要取決于全面的思考，平衡即時(shí)需求與未來(lái)趨勢(shì)和機(jī)遇。并非所有情況都有通用的解決方案，因此最佳的策略應(yīng)當(dāng)是量身打造的。在生成式 AI 的復(fù)雜環(huán)境中，最大的挑戰(zhàn)通常不在于技術(shù)本身，而在于確定正確的策略以釋放其潛力。

總結(jié)

以上是生活随笔為你收集整理的拆解全景，解锁未来——深度分析大模型六大领域及五大应用解决方案的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。