2025年7月26日 星期六

文科生也能輕鬆實現!自建自用大語言模型(LLM):無痛操作Ollama本機端模型管理器

 

自從 OpenAI ChatGPT 走入大眾視野、給知識工作者帶來意想不到的巨大震撼後,人工智慧(或簡稱 AI)就再也沒從媒體的熱門關鍵字排行榜中下滑。的確,先前深度學習也曾帶來一波 AI 熱潮,但那時頂多是在圖片、影像辨識上達成弱人工智慧,加速影像監控自駕車等技術的發展。相較之下,LLM 可是開創了一個名為生成式 AI 的新資訊運用領域,並且在各種文字、圖像任務上,達成不遜於真人處理的成果。也難怪三不五時總會出現一些憂心之士,誤會並宣稱 LLM 已經產生自我意識,足以對人類造成威脅。

身處在這個 AI 浪潮中,從事知識工作的白領也不得不有危機意識,得加緊腳步接觸、瞭解 AI,進而能和 AI 協同作業,確保自己在職場中的競爭力。除了直接使用各大 LLM 平台的網站服務以外,自己從零開始裝設私有的 LLM 也是一種可行的做法,而這本《文科生也能輕鬆實現!自建自用大語言模型(LLM)》便是能讓你快速達成此目標的寶典。在開源程式碼和 LLM 開源模型的幫助下,只要手上有一台裝有 GPU 顯示卡的電腦,隨著本書的引領,你就會輕易地擁有一套屬於自己的 LLM 平台,不用付費就能隨意使用。當然,這個自產自銷的大語言模型肯定無法和市面上的商用方案比肩,但在處理一些小問題上,也足以分勞解憂。

市面上可以用來建置本機 LLM 的軟體方法很多,這也是讓許多想自行嘗試的人打退堂鼓的原因之一。本書聚焦在 Ollama 加上 Page Assist 這個簡易又可靠的配套方案,看到第二章就能讓讀者感受到打造本機 LLM 的感動與驚喜。雖然美中不足的是,書中並沒有介紹如何安裝可提供 REST API 的本機 LLM 環境,但已經能替讀者省下相當多試誤與爬文的心力,讓你我直接邁向構思應用的實作階段。如果剛好你是被主管或老闆指派來研究 LLM 技術的 IT 工作者,那《文科生也能輕鬆實現!自建自用大語言模型(LLM)》更是你千萬別錯過的好書,絕對能幫你增進對 LLM 的實作經驗與技術體悟。

沒有留言:

張貼留言