Open WebUI 本地部署三步把界面跑起來【免費(fèi)下載鏈接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)項(xiàng)目地址: https://gitcode.com/GitHub_Trending/op/open-webui想把本地的 PDF、Markdown 直接丟給模型讀又不想把文件傳上云這個需求我拿 Open WebUI 本地部署驗(yàn)證了一遍。結(jié)論是裝好 Docker三步就能把界面跑起來再接上本地的 Ollama 就能直接用。它到底能干嘛Open WebUI 是一個自托管的 LLM 聊天界面UI 接近 ChatGPT 那套左側(cè)是頻道和文檔庫中間是對話區(qū)。它自己不跑模型而是接模型——本地 Ollama、llama.cpp、LM Studio或者任何 OpenAI 兼容的 API 都能掛上來。內(nèi)置的 RAG 可以把你自己的文檔直接喂給模型。它適合兩類人已經(jīng)部署了本地模型但缺一個像樣前端的以及想在同一個界面里管多個模型、多個用戶的。把它跑起來前提只是裝好 Docker新版都自帶 compose。倉庫里的 docker-compose.yaml 把 Ollama 和 Open WebUI 兩個服務(wù)都定義好了一條命令全部拉起克隆倉庫并進(jìn)入目錄git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui啟動服務(wù)docker compose up -d第一次會拉兩個鏡像等幾分鐘。驗(yàn)證瀏覽器打開 http://localhost:3000 注冊個賬號看到聊天界面就算跑起來了。不想用 Docker 的話README 里也寫了pip install open-webui的路線需要 Python 3.11。幾個值得試的功能功能很多我挑了實(shí)際會用到的三個。讓模型讀你自己的文檔手上有產(chǎn)品文檔或論文希望模型基于這些內(nèi)容回答而不是靠聯(lián)網(wǎng)。在管理面板建一個知識庫上傳 PDF、Word、Markdown系統(tǒng)自動向量化聊天時(shí)用#加文檔名檢索也可以把文件直接拖進(jìn)對話。回答會引用你自己的文檔內(nèi)容文檔里沒有的模型會說不知道而不是硬編。同一句話問多個模型兩個模型拿不準(zhǔn)哪個更好想拿同一個問題直接比。在一個對話里勾選兩個或更多模型發(fā)一條消息各家的回復(fù)并排出現(xiàn)差距一眼看清。管理面板還有用量看板能看到每個模型花了多少 token。接上圖像生成引擎OpenAI DALL-E或者本地的 ComfyUI / AUTOMATIC1111之后它也能在對話里出圖并按提示詞二次編輯。跑的時(shí)候容易卡住的點(diǎn)端口沖突。3000 被占用的話改 docker-compose.yaml 里的 ports 映射ports: - 8080:8080重啟后從 http://localhost:8080 訪問。模型列表是空的。跑起來后界面下拉框里一個模型都沒有因?yàn)?Ollama 還沒下載過模型先拉一個小的docker exec -it ollama ollama pull llama3.2找不到宿主機(jī)的 Ollama。不用 compose、改用 docker run 單獨(dú)起 WebUI 容器時(shí)容器默認(rèn)連不到宿主機(jī)上的 Ollama。命令里加--add-hosthost.docker.internal:host-gateway并把OLLAMA_BASE_URL指到宿主機(jī)的 11434 端口。想先看看效果的話docker compose up -d跑完把自己的一份 PDF 扔進(jìn)知識庫用#搜一遍最直觀。中途卡住了翻一下倉庫里的 TROUBLESHOOTING.md常見的連接和端口問題基本都有?！久赓M(fèi)下載鏈接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)項(xiàng)目地址: https://gitcode.com/GitHub_Trending/op/open-webui創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 Open WebUI 本地部署：三步把界面跑起來
Open WebUI 本地部署三步把界面跑起來【免費(fèi)下載鏈接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)項(xiàng)目地址: https://gitcode.com/GitHub_Trending/op/open-webui想把本地的 PDF、Markdown 直接丟給模型讀又不想把文件傳上云這個需求我拿 Open WebUI 本地部署驗(yàn)證了一遍。結(jié)論是裝好 Docker三步就能把界面跑起來再接上本地的 Ollama 就能直接用。它到底能干嘛Open WebUI 是一個自托管的 LLM 聊天界面UI 接近 ChatGPT 那套左側(cè)是頻道和文檔庫中間是對話區(qū)。它自己不跑模型而是接模型——本地 Ollama、llama.cpp、LM Studio或者任何 OpenAI 兼容的 API 都能掛上來。內(nèi)置的 RAG 可以把你自己的文檔直接喂給模型。它適合兩類人已經(jīng)部署了本地模型但缺一個像樣前端的以及想在同一個界面里管多個模型、多個用戶的。把它跑起來前提只是裝好 Docker新版都自帶 compose。倉庫里的 docker-compose.yaml 把 Ollama 和 Open WebUI 兩個服務(wù)都定義好了一條命令全部拉起克隆倉庫并進(jìn)入目錄git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui啟動服務(wù)docker compose up -d第一次會拉兩個鏡像等幾分鐘。驗(yàn)證瀏覽器打開 http://localhost:3000 注冊個賬號看到聊天界面就算跑起來了。不想用 Docker 的話README 里也寫了pip install open-webui的路線需要 Python 3.11。幾個值得試的功能功能很多我挑了實(shí)際會用到的三個。讓模型讀你自己的文檔手上有產(chǎn)品文檔或論文希望模型基于這些內(nèi)容回答而不是靠聯(lián)網(wǎng)。在管理面板建一個知識庫上傳 PDF、Word、Markdown系統(tǒng)自動向量化聊天時(shí)用#加文檔名檢索也可以把文件直接拖進(jìn)對話。回答會引用你自己的文檔內(nèi)容文檔里沒有的模型會說不知道而不是硬編。同一句話問多個模型兩個模型拿不準(zhǔn)哪個更好想拿同一個問題直接比。在一個對話里勾選兩個或更多模型發(fā)一條消息各家的回復(fù)并排出現(xiàn)差距一眼看清。管理面板還有用量看板能看到每個模型花了多少 token。接上圖像生成引擎OpenAI DALL-E或者本地的 ComfyUI / AUTOMATIC1111之后它也能在對話里出圖并按提示詞二次編輯。跑的時(shí)候容易卡住的點(diǎn)端口沖突。3000 被占用的話改 docker-compose.yaml 里的 ports 映射ports: - 8080:8080重啟后從 http://localhost:8080 訪問。模型列表是空的。跑起來后界面下拉框里一個模型都沒有因?yàn)?Ollama 還沒下載過模型先拉一個小的docker exec -it ollama ollama pull llama3.2找不到宿主機(jī)的 Ollama。不用 compose、改用 docker run 單獨(dú)起 WebUI 容器時(shí)容器默認(rèn)連不到宿主機(jī)上的 Ollama。命令里加--add-hosthost.docker.internal:host-gateway并把OLLAMA_BASE_URL指到宿主機(jī)的 11434 端口。想先看看效果的話docker compose up -d跑完把自己的一份 PDF 扔進(jìn)知識庫用#搜一遍最直觀。中途卡住了翻一下倉庫里的 TROUBLESHOOTING.md常見的連接和端口問題基本都有?！久赓M(fèi)下載鏈接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)項(xiàng)目地址: https://gitcode.com/GitHub_Trending/op/open-webui創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考