文科生也能輕鬆實現！自建自用大語言模型（LLM）

詳細資訊

你已厭煩ChatGPT的諸多限制嗎？斷網不能用、網速明顯拖慢回應、敏感話題不回應、免費額度很快用完、回應答案經常飄忽受誤導等，對此打造本機端的大語言模型將可化解、緩解上述限制，如同直接將ChatGPT搬回家，成為你專屬的知識服務。

毫無疑問！生成式人工智慧（GenAI）、大語言模型（LLM）正在重新定義人類的創意、生產力價值程序，善用GenAI∕LLM者視其為利器，不善用者視其為威脅挑戰，各位正處於這樣的十字路口。

與此同時GenAI∕LLM也讓人疑慮，包含過程機理難懂如黑箱、答案時而確切、時而玄幻等，這又當如何駕馭？加上公眾版GenAI∕LLM服務有諸多限制，使人想善用、駕馭GenAI∕LLM卻又躊躇不前。

本書正是為上述痛點而撰，從入門認知到操作實務一路引導、自建自用模型，回頭再望時，各位已是GenAI∕LLM的初階能手。

本書目標讀者設定為高中職畢業、大學文科生畢業，並從最初步認知開始，隨即切入最快速獲得實務成就感的程序操作，而後回頭完整解釋操作中的細節機理。

更之後返回到基礎認知，瞭解今日常言的Llama、DeepSeek等知名大語言模型，提供繁體中文模型的選擇建議，並透過模型參數量以初估電腦的硬體資源需求等。

在認知與實務均站穩腳步後，以此為基礎進行擴展延伸，實務面進入檢索增強生成（RAG）以加強模型回應精準性，並進入多模態（Multimodal）模型、視覺語言模型（VLM），認知面也引領介紹多款與Ollama相仿的本機端模型管理軟體。

最後，這一切都還在積極發展中，仍有諸多待完備之處，故末章將給予提醒與關注建議，包含資訊技術走向、社會倫理走向。至於意猶未盡者也可以進一步參考附錄，讓認知更為加深，同時為後續有更多準備。

本書特色

協助你建立專屬的知識平台
你要求任何的AI平台（大語言模型）寫一份市場分析，它去網路上搜尋整理一番，產出一套言之成理，但是和你或是你的公司沒有什麼關係的文章。這樣的人工智慧雖然很炫，但是有什麼用？

如果你可以把和公司相關的資訊儲存在指定場所，要大語言模型先參考你指定的資訊，再參考外部的資訊，那麼就能產生合乎你本意的內容。

這樣的資訊累積得越多，你建構的大語言模型就越可以反應你的思維。好比你任用一個員工，剛開始時，他不知你要的是什麼、如何依公司的情況做出處置，但是時間久了，你就可以放手讓它處理。

文科高中生也可以看得懂
本書在寫作初始已將目標讀者群設想為高中職畢業生、大學文科生，因此在本書輕鬆簡單又直覺的指引下，也可以自建人工智慧模型（大型語言模型）。

本書透過程序說明，以最快速、直接、直覺簡單的方式在自己的電腦上建構起一套大語言模型系統，系統將能回應人們對它發出的問題。初步回覆答案或許仍不夠精準，但已經達到初步對話互動效果。

提供調整、提升人工智慧模型的相關資訊，讓你超有成就感。
在本地端建立大語言模型後，尚有諸多細部設定等待調整，如為增加操作介面親和性而加裝Page Assist，以處理介面調整、搜尋引擎切換、管理模型、管理對話、版本檢視等細部調整。另外也說明如何透過檢索增強生成（RAG），讓模型的理解更清晰、回話更精準。


作者簡介

江達威

2年品牌商全球市場銷售分析與預測
10年以上資通訊媒體編輯
17年以上外商、本土科技產業分析師
華文維基百科執行編輯

目錄列表