為什么需要私人AI知識庫為什么需要私人AI知識庫

是不是厭倦了LLM⼀本正經(jīng)的答⾮所問、套話...等低效的信息檢索。

私有知識庫在前AI時代就有⾮常多使⽤場景 ，尤其是企業(yè)內(nèi)部知識、個人知識庫等。結(jié)合⼀個優(yōu)秀的 LLM之后 ，能夠讓知識檢索和歸納上升⼀個臺階。

⼩⽩快速搭建個人AI知識庫

個人AI知識庫的⽅案有很多種 ，今天介紹⼀種難度很低且知識檢索效果不錯的⽅案：

AnythingLLM+DeepSeekV3。

• AnythingLLM 是⼀個知識庫管理前端⼯具 ，⽀持上傳知識、 向量化數(shù)據(jù)、 RAG（檢索增強(qiáng)） ⼀條 龍服務(wù) ，⽽且是開源免費(fèi)的。

• DeepSeekV3（簡稱DS）是幻⽅量化的⼤模型 ，總體評分和Clad ue3.5不相上下 ，⽽且Token⾮常 便宜 ，本次⽅案使⽤DS作為推理模型。

（AnythingLLM還⽀持其他推理模型 ，如GPT、Claude或者ollama運(yùn)⾏本地開源模型等）

⼀ 、安裝AnythingLLM

1.下載地址：https://anythingllm.com/ ，⽀持windows、 mac、 Linux系統(tǒng)。

2.打開軟件 ，先設(shè)置LLM ，這⾥選DeepSeek ，模型選擇chat（也就是最新的V3模型） 。API Key可以 去它們官⽹注冊下 ，充值⼏塊錢就夠⽤了。

3.進(jìn)⼊⼯作區(qū) ，可以在左下角設(shè)置按鈕中進(jìn)⾏基礎(chǔ)配置 ，如： LLM、嵌⼊模型、 向量數(shù)據(jù)庫選擇等 ，新 ⼿可以先保持默認(rèn)設(shè)置。 （這⾥單獨(dú)提下Embedding模型 ，Embedding是將⾼緯度數(shù)據(jù)嵌⼊低緯度空間⽅便存儲 ，模型性能影 響對后續(xù)知識檢索有挺⼤影響 ，建議可以換成bge-m3 ，這個模型對多語⾔和⻓⽂本都⽀持的不錯 ，需

要本地運(yùn)⾏Ollama加載這個模 ， 由于需要安裝Ollama ，新⼿可以跳過這⼀步）。

⼆ 、上傳⽂檔

1.上點擊⼯作空間的上傳按鈕 ，打開上傳

2.⽀持上傳pdf、csv、⾳頻或者抓取⽹頁內(nèi)容等等。上傳后右鍵加⼊⼯作空間就ok了。

附件：DeepSeek V3搭建個人知識庫教程,AnythingLLM+DeepSeekV3