邊欄為你服務(wù))
1. page-assist到底是個(gè)什么項(xiàng)目先把話撂在這兒如果你手頭已經(jīng)裝好了Ollama或者LM Studio這類本地推理工具但總覺得只能在終端里敲敲打打、或者在自帶的簡陋網(wǎng)頁里聊天差點(diǎn)意思那page-assist就是補(bǔ)齊這塊短板的那個(gè)輪子。簡單說page-assist是一款開源的瀏覽器擴(kuò)展GitHub倉庫地址是n4ze3m/page-assist。它的核心功能是讓本地運(yùn)行的AI模型直接嵌入瀏覽器側(cè)邊欄你在瀏覽任意網(wǎng)頁的時(shí)候隨時(shí)能把當(dāng)前頁面的內(nèi)容喂給AI讓它幫你總結(jié)、翻譯、解釋、找Bug、改文案全程不需要把網(wǎng)頁內(nèi)容發(fā)送到任何云端服務(wù)器所有推理都發(fā)生在你自己的電腦上。它適合誰幾類人非常對(duì)口一是受夠了每次用云端AI都要復(fù)制粘貼網(wǎng)頁全文、還要小心隱私泄露的普通用戶二是每天都在瀏覽器里讀技術(shù)文檔、英文Paper、長篇文章需要一個(gè)順手工具做摘要和問答的開發(fā)者三是已經(jīng)折騰過Ollama、llama.cpp之類本地推理框架但覺得模型都跑起來了卻沒有一個(gè)好用的前端的折騰型玩家。說白了page-assist的價(jià)值就是把本地模型能用變成本地模型好用。它在GitHub上的熱度不算小項(xiàng)目定位也比較明確——不搞云端、不搞賬號(hào)體系、不搞花里胡哨的商業(yè)化就是一個(gè)純粹本地優(yōu)先、隱私友好的AI助手入口。下面我從使用場景、部署流程、實(shí)戰(zhàn)細(xì)節(jié)和踩坑經(jīng)驗(yàn)幾個(gè)維度把這東西掰開揉碎講清楚。2. 核心原理解析為什么本地AI瀏覽器側(cè)邊欄是好組合2.1 解決的兩個(gè)真正痛點(diǎn)先問一個(gè)問題瀏覽器里用AI助手大家默認(rèn)最方便的方式是什么大多數(shù)人會(huì)裝一個(gè)ChatGPT的瀏覽器插件或者在瀏覽器里開一個(gè)云端AI的網(wǎng)頁標(biāo)簽頁。但這兩條路都有很明顯的問題。第一個(gè)問題是上下文割裂。我在讀一篇很長的技術(shù)文檔時(shí)如果想問AI這一段里提到的xx算法到底是怎么實(shí)現(xiàn)的我得先把這段話復(fù)制出來切到云端的ChatGPT頁面粘貼再等它回答。要是文檔很長、問題很多這個(gè)復(fù)制粘貼的動(dòng)作會(huì)重復(fù)幾十次效率非常低。第二個(gè)問題是隱私焦慮。有些網(wǎng)頁內(nèi)容是敏感信息比如內(nèi)部系統(tǒng)文檔、客戶信息、還沒發(fā)布的產(chǎn)品方案。把這些內(nèi)容粘貼到云端AI對(duì)話框里等于默認(rèn)第三方能看到這些內(nèi)容。你可以說我信任大公司不會(huì)亂用數(shù)據(jù)但在很多企業(yè)環(huán)境里數(shù)據(jù)不出本機(jī)是硬性要求不是信任問題。page-assist同時(shí)處理了這兩個(gè)問題。它用側(cè)邊欄的形式常駐瀏覽器當(dāng)前頁面本身可以作為一個(gè)上下文來源一鍵傳給本地模型。數(shù)據(jù)不需要離開你的電腦而且由于本地模型是直接加載在顯存里的響應(yīng)速度在硬件能扛住的情況下甚至比云端API還快沒有網(wǎng)絡(luò)波動(dòng)的影響。2.2 它和瀏覽器自帶AI或云插件的本質(zhì)區(qū)別大家可能已經(jīng)注意到Chrome和Edge這兩年也在往瀏覽器里塞AI功能比如Edge側(cè)邊欄的Bing ChatChrome的Gemini整合。但這些方案本質(zhì)上依然是云端調(diào)用你的瀏覽器行為數(shù)據(jù)、網(wǎng)頁內(nèi)容會(huì)在后臺(tái)被送到微軟或Google的服務(wù)器做處理。頁面對(duì)比一下就明白了維度page-assistEdge側(cè)邊欄Bing Chat/CopilotChatGPT瀏覽器插件推理位置本機(jī)CPU/GPU云端微軟服務(wù)器云端OpenAI服務(wù)器網(wǎng)頁內(nèi)容去向不出本機(jī)上傳到微軟上傳到OpenAI網(wǎng)絡(luò)依賴僅首次下載模型時(shí)需要每次都需要每次都需要使用成本免費(fèi)電費(fèi)免費(fèi)但有廣告/額度限制免費(fèi)用GPT-3.5GPT-4要訂閱模型可控性完全可控可換任意開源模型不可控微軟決定用哪個(gè)模型不可控OpenAI決定離線使用模型下載后完全離線可用不可用不可用這一對(duì)比就很清晰了。page-assist走的是邊緣計(jì)算的路線——把AI從云端拉回到你的電腦上。代價(jià)是你的電腦得有一顆還不錯(cuò)的顯卡或者忍受CPU慢速推理但換來的是隱私、免費(fèi)、可控這三大好處。2.3 技術(shù)架構(gòu)瀏覽器擴(kuò)展如何與本地模型通信page-assist本身不跑模型它只是一個(gè)前端殼子。它的工作流程是瀏覽器擴(kuò)展在側(cè)邊欄渲染一個(gè)聊天界面基于React你選擇要使用的模型或選擇以當(dāng)前頁面為上下文擴(kuò)展通過HTTP請(qǐng)求把問題發(fā)送到本地推理服務(wù)的API比如Ollama的API地址默認(rèn)是http://localhost:11434本地推理服務(wù)加載模型完成推理把結(jié)果流式返回給擴(kuò)展側(cè)邊欄逐字渲染回答所以page-assist本身幾乎不消耗系統(tǒng)資源真正的體力活由Ollama這類后端干。這也使得它的架構(gòu)非常干凈模型層、推理層、UI層完全解耦。因?yàn)槭峭耆镜赝ㄐ潘詳U(kuò)展需要向?yàn)g覽器申請(qǐng)?jiān)L問localhost的權(quán)限。在Chrome系瀏覽器里這屬于可配置的站點(diǎn)訪問權(quán)限安裝后首次使用如果發(fā)現(xiàn)連不上本地服務(wù)多半就是擴(kuò)展訪問本地的權(quán)限沒開這個(gè)我在后面的常見問題章節(jié)約詳細(xì)說。3. 從零部署環(huán)境準(zhǔn)備與完整安裝步驟3.1 先裝好本地推理引擎以O(shè)llama為例page-assist目前最成熟的搭配是Ollama。其他后端比如LM Studio也支持但我個(gè)人建議新手上手先用Ollama原因有三個(gè)第一Ollama的安裝極其簡單官方提供Windows、macOS、Linux三平臺(tái)的安裝包裝完以后后臺(tái)服務(wù)自動(dòng)啟動(dòng)不需要手動(dòng)配置環(huán)境變量第二模型管理體驗(yàn)好ollama pull llama3.1這種命令行方式拉模型跟Docker拉鏡像一樣直覺化小白一看就懂第三社區(qū)生態(tài)最大絕大多數(shù)開源模型都有Ollama格式的量化版本不用擔(dān)心模型源的問題。具體步驟訪問Ollama官網(wǎng)下載對(duì)應(yīng)系統(tǒng)的安裝包。安裝完成后在終端驗(yàn)證一下執(zhí)行ollama --version能看到版本號(hào)說明裝好了。拉取一個(gè)模型。這里我以qwen2.5:7b為例通義千問2.5系列中文能力強(qiáng)7B參數(shù)量在消費(fèi)級(jí)顯卡上也能跑執(zhí)行ollama pull qwen2.5:7b。如果你的顯存比較小6G以下建議先拉qwen2.5:3b這類小模型。提示國內(nèi)網(wǎng)絡(luò)環(huán)境下拉取模型可能比較慢建議選個(gè)網(wǎng)絡(luò)不那么擁擠的時(shí)段操作。如果持續(xù)失敗也可以考慮通過其他渠道下載gguf格式的模型文件再手動(dòng)導(dǎo)入Ollama但這是進(jìn)階玩法新手不建議一上來就碰。安裝完成后可以在瀏覽器直接訪問http://localhost:11434如果能看到Ollama is running的提示文本說明后端服務(wù)正常。3.2 安裝page-assist擴(kuò)展page-assist支持三種安裝方式第一種是去Chrome Web Store直接搜索Page Assist安裝這是最推薦的方式后續(xù)可以自動(dòng)更新。第二種是Firefox用戶去Firefox Add-ons搜同名擴(kuò)展安裝。第三種是自己動(dòng)手型從GitHub Releases頁面下載最新版CRX文件然后打開瀏覽器的擴(kuò)展管理頁面chrome://extensions開啟開發(fā)者模式把CRX文件拖進(jìn)窗口即可完成安裝。裝好以后瀏覽器工具欄會(huì)出現(xiàn)Page Assist的圖標(biāo)點(diǎn)擊圖標(biāo)會(huì)在當(dāng)前頁面右側(cè)滑出一個(gè)側(cè)邊欄這就是整個(gè)項(xiàng)目的核心交互界面了。3.3 擴(kuò)展配置連接本地服務(wù)第一次打開側(cè)邊欄時(shí)它可能會(huì)提示你還沒有配置本地推理服務(wù)。點(diǎn)開擴(kuò)展的設(shè)置頁面核心配置項(xiàng)有這么幾個(gè)Ollama API地址默認(rèn)http://localhost:11434一般不用改模型選擇這里會(huì)自動(dòng)讀取Ollama中已下載的模型列表選擇你希望默認(rèn)使用的那個(gè)頁面上下文是否默認(rèn)把當(dāng)前網(wǎng)頁的正文內(nèi)容作為上下文發(fā)送給模型提示詞模板可以自定義預(yù)設(shè)的系統(tǒng)提示詞我的建議是第一次配置的時(shí)候先不要開啟自動(dòng)發(fā)送頁面上下文這個(gè)選項(xiàng)因?yàn)橛行┚W(wǎng)頁的正文提取效果一般可能把導(dǎo)航欄、頁腳、懸浮窗的亂七八糟內(nèi)容全塞給模型既浪費(fèi)上下文窗口又影響回答質(zhì)量。先用無上下文的純聊天模式跑通鏈路再按需開啟頁面感知功能。4. 核心功能實(shí)戰(zhàn)這才是page-assist的完全體4.1 網(wǎng)頁問答與即時(shí)解讀跑通了基本鏈路以后最常用的場景就是邊看網(wǎng)頁邊提問。比如我在讀一篇關(guān)于Rust異步運(yùn)行時(shí)async runtime的英文博客時(shí)遇到一個(gè)tokio::select!宏的用法不太理解。傳統(tǒng)做法是復(fù)制這段代碼打開AI網(wǎng)頁版粘貼問等待。現(xiàn)在直接在page-assist側(cè)邊欄里問請(qǐng)以初學(xué)者能理解的方式解釋一下這段代碼中的tokio::select!宏是干什么的并給出一個(gè)生活中的類比。如果開啟了以當(dāng)前頁面為上下文它能準(zhǔn)確地引用下一頁中的代碼片段和術(shù)語來回答這種體驗(yàn)非常接近在本地裝了一個(gè)專屬的技術(shù)文檔解讀助手。而且page-assist的一個(gè)細(xì)節(jié)做得很好回答是流式輸出的本地模型生成多少字就實(shí)時(shí)顯示多少字不需要等全部生成完再看結(jié)果。以7B的量化模型為例在RTX 4060/4070這個(gè)級(jí)別的顯卡上跑輸出速度大概在20~40 tokens每秒體感上比云端AI還是要慢一些但屬于能接受的范疇。4.2 長文總結(jié)一頁頂十頁另一個(gè)高頻場景是長文總結(jié)。你找到一篇三四千字的深度分析文章不想逐字讀想先讓AI給你一個(gè)摘要判斷值不值得讀。在page-assist側(cè)邊欄里選中以當(dāng)前頁面為上下文然后輸入請(qǐng)用三點(diǎn)總結(jié)這篇文章的核心觀點(diǎn)每一點(diǎn)不超過兩句話。要注意本地小參數(shù)模型7B以下在復(fù)雜指令遵循方面確實(shí)不如云端大模型。如果你發(fā)現(xiàn)總結(jié)出來的點(diǎn)很泛、不夠精準(zhǔn)可以拆分成更具體的指令比如請(qǐng)總結(jié)這篇文章中提到的三種解決方案并按照實(shí)施難度排序。把問題問得越具體本地模型的表現(xiàn)就越穩(wěn)定。另外上下文窗口不是無限的。雖然現(xiàn)在很多模型支持8K甚至128K的上下文但一方面是要看Ollama拉取的模型具體支持多少另一方面上下文越長推理速度越慢、顯存占用越高。如果文章特別長超過模型上下文上限page-assist會(huì)自動(dòng)做截?cái)嗵幚磉@可能導(dǎo)致AI漏掉結(jié)尾部分的關(guān)鍵信息。4.3 翻譯與寫作輔助翻譯這塊page-assist的表現(xiàn)很實(shí)用。因?yàn)檎麄€(gè)交互都在瀏覽器里你可以選中網(wǎng)頁中的某一段英文復(fù)制到側(cè)邊欄提問翻譯成中文保持技術(shù)術(shù)語準(zhǔn)確或者干脆把整頁作為上下文讓AI翻譯重要段落。一個(gè)我自己總結(jié)的小技巧使用翻譯時(shí)要區(qū)分直譯和意譯這種押韻提示詞效果比對(duì)本地模型說請(qǐng)翻譯要好很多。原因在于本地小模型對(duì)模糊指令的理解能力有限你給的指令越結(jié)構(gòu)化、框架越清晰它的輸出就越可控。寫作輔助也是一個(gè)隱藏用途。我在寫周報(bào)或者技術(shù)方案的時(shí)候經(jīng)常會(huì)開著page-assist把已經(jīng)寫好的段落丟給它讓它幫忙潤色、改成更簡潔的表達(dá)、或者按結(jié)論先行的思路重寫。因?yàn)檫@些內(nèi)容是內(nèi)部材料不太適合傳到云端AI本地模型這時(shí)候反而是最穩(wěn)妥的選擇。4.4 多模型切換與并行使用Ollama本身支持同時(shí)下載多個(gè)模型page-assist也允許你在聊天界面下拉切換模型。這意味著你可以平時(shí)用7B的qwen2.5處理日常問答和總結(jié)遇到代碼問題時(shí)切換到一個(gè)更偏代碼的模型比如deepseek-coder或codellama顯存吃緊時(shí)切到3B甚至1.5B的小模型保證流暢度不過要提醒一點(diǎn)切換模型后之前的對(duì)話上下文是否保留取決于對(duì)話歷史記錄功能。page-assist默認(rèn)保存對(duì)話歷史但不同模型之間切換時(shí)會(huì)清空當(dāng)前對(duì)話上下文因?yàn)椴煌P蜎]有共享的上下文機(jī)制。5. 部署與使用中的常見問題排查5.1 擴(kuò)展提示無法連接到Ollama服務(wù)這個(gè)是最常見的問題通常原因有幾個(gè)第一Ollama服務(wù)沒有啟動(dòng)。檢查方法在終端執(zhí)行ollama list如果能列出模型說明服務(wù)正常如果提示找不到命令說明Ollama沒裝好或沒有加入系統(tǒng)PATH。第二擴(kuò)展沒有訪問本地端口的權(quán)限。Chrome系瀏覽器在安裝擴(kuò)展后默認(rèn)可能禁止擴(kuò)展訪問localhost。解決方法點(diǎn)擊瀏覽器工具欄的Page Assist圖標(biāo)右側(cè)的三個(gè)小點(diǎn)進(jìn)入站點(diǎn)訪問權(quán)限選擇在全部網(wǎng)站上或者把http://localhost:11434加入允許列表。第三端口沖突。極少數(shù)情況下Ollama默認(rèn)監(jiān)聽的11434端口被其他軟件占用。排查方法終端里執(zhí)行ollama serve手動(dòng)啟動(dòng)服務(wù)看輸出的日志里是否出現(xiàn)端口綁定錯(cuò)誤。如果確實(shí)沖突了需要修改Ollama配置文件換一個(gè)端口然后在page-assist設(shè)置里同步修改API地址。5.2 回答速度太慢或直接卡死這種情況多半是模型太大的鍋。我遇到過有朋友在只有8GB內(nèi)存的MacBook Air上跑13B模型那體驗(yàn)基本是災(zāi)難級(jí)的——生成一個(gè)詞要好幾秒跟PPT播放一樣。解決方案有三個(gè)方向一是換小模型。7B是性價(jià)比之選3B是對(duì)性能的妥協(xié)1.5B適合只有集顯的老機(jī)器。以qwen2.5系列為例3B模型在純CPU環(huán)境下也能做到每秒幾個(gè)token的速度雖然不快但起碼能用。二是開啟GPU加速。Ollama默認(rèn)會(huì)嘗試使用GPU但某些驅(qū)動(dòng)、某些環(huán)境下可能回落到了CPU推理。在Ollama的日志里能看到類似offload 10/24 layers to GPU的信息如果設(shè)備支持但沒有走GPU可以查看Ollama的文檔確認(rèn)環(huán)境變量配置是否正確。三是限制并發(fā)。如果你同時(shí)打開多個(gè)頁面、每個(gè)頁面都在運(yùn)行page-assist的對(duì)話模型會(huì)被反復(fù)重新加載導(dǎo)致卡死的體感。實(shí)際上不是卡死是模型排隊(duì)加載。解決方法是同一時(shí)間只在一個(gè)頁面使用page-assist或者把Ollama的OLLAMA_NUM_PARALLEL環(huán)境變量設(shè)小一點(diǎn)。5.3 回答質(zhì)量不理想怎么辦本地模型不是萬能的尤其是7B這個(gè)參數(shù)量級(jí)別跟GPT-4o這類云端巨型模型相比在復(fù)雜推理、多輪對(duì)話的連貫性上確實(shí)有差距。但通過一些技巧可以盡可能拉近差距第一用好的提示詞模板。page-assist支持自定義系統(tǒng)提示詞你可以按自己的需求設(shè)置類似你是一位資深的軟件架構(gòu)師回答問題時(shí)請(qǐng)先分析問題本質(zhì)再給出具體建議最后提供示例。固定的角色能顯著提升輸出的穩(wěn)定性。第二選擇合適的基座模型。不同任務(wù)有不同擅長領(lǐng)域qwen2.5系列的中文理解和指令遵循在開源模型里是第一梯隊(duì)llama3.1的英文能力極強(qiáng)deepseek系列在代碼補(bǔ)全上有明顯優(yōu)勢mistral的響應(yīng)速度快。我的建議是至少裝兩個(gè)不同專長的模型按場景切換。第三分而治之。不要一上來就丟給AI一個(gè)特別大、特別模糊的問題。把大問題拆成小問題先讓它逐段解讀再讓它綜合分析輸出質(zhì)量會(huì)高一個(gè)臺(tái)階。6. 進(jìn)階技巧把page-assist用出花來6.1 結(jié)合瀏覽器多開實(shí)現(xiàn)AI速讀新聞我日常有一個(gè)固定流程早晨打開十幾條技術(shù)新聞和技術(shù)博客的標(biāo)簽頁快速瀏覽一遍標(biāo)題和摘要挑出兩三條值得精讀的。有了page-assist之后我會(huì)多做一個(gè)動(dòng)作在每條新聞頁面打開側(cè)邊欄輸入用三句話總結(jié)本文并說明如果你是開發(fā)者這篇文章有哪些信息是你應(yīng)該注意的。十幾篇文章大概十分鐘就能掃完而且因?yàn)槟P褪桥茉诒镜氐牟挥眯奶跘PI費(fèi)用。這些小任務(wù)用大模型跑是浪費(fèi)用本地模型跑剛剛好。6.2 用自定義提示詞模板做專業(yè)角色page-assist的提示詞模板功能很多人沒有充分利用。我強(qiáng)烈建議花十分鐘把常用的模板沉淀成可復(fù)用的預(yù)設(shè)代碼審查員你是一名資深代碼審查員請(qǐng)審查以下代碼指出潛在的Bug、性能問題和安全隱患并按嚴(yán)重程度排序外語老師你是一名英語老師請(qǐng)分析這段文本的語法結(jié)構(gòu)指出里面的高級(jí)表達(dá)方式并解釋這些表達(dá)為什么比普通寫法好文檔改寫器請(qǐng)將這篇文章的內(nèi)容改寫成結(jié)構(gòu)化文檔包括標(biāo)題、段落、要點(diǎn)列表保持原始信息完整但表達(dá)更清晰這樣在需要時(shí)一鍵切換模板不需要每次重復(fù)輸入一大段指令。6.3 離線環(huán)境下的私有AI工作臺(tái)往前再推一步page-assist搭配Ollama其實(shí)能構(gòu)建一個(gè)完全離線的AI工作臺(tái)。你把模型提前下載好之后任何時(shí)間、任何地點(diǎn)只要電腦有電AI助手就隨時(shí)可用。飛機(jī)上、地鐵里、沒有信號(hào)的野外都不影響使用。我在有幾次外出參加技術(shù)分享活動(dòng)時(shí)現(xiàn)場網(wǎng)絡(luò)狀況很差但需要在手機(jī)上快速查一些資料摘要、或者給現(xiàn)場觀眾演示這是我的私人AI助手用了page-assist后完全不受網(wǎng)絡(luò)影響那種穩(wěn)定感是云端方案給不了的。6.4 在Firefox/移動(dòng)端的表現(xiàn)page-assist不僅支持Chrome系瀏覽器Firefox上同樣有不錯(cuò)的體驗(yàn)。Firefox的側(cè)邊欄API跟Chrome的略有差異但page-assist做了適配功能基本一致。移動(dòng)端的支持相對(duì)弱一些畢竟手機(jī)瀏覽器的擴(kuò)展生態(tài)大部分都不完整這就別抱太大期望了。想體驗(yàn)移動(dòng)端本地AI的話可以關(guān)注Ollama在iOS/Android上的第三方客戶端但那就不是page-assist的主場了。7. 橫向?qū)Ρ缺镜谹I瀏覽器擴(kuò)展還有哪些選擇有對(duì)比才有說服力。page-assist不是唯一一個(gè)做本地AI瀏覽器伴侶的項(xiàng)目市面上還有幾個(gè)類似方案。項(xiàng)目側(cè)邊欄基于Ollama額外特性活躍度page-assist支持原生支持頁面上下文、多后端、對(duì)話歷史活躍ollama-browser-extension有支持簡潔、輕量一般Continue網(wǎng)頁插件不完全是支持偏向IDE場景活躍從我個(gè)人的實(shí)際體驗(yàn)來說page-assist的優(yōu)勢在于把瀏覽器場景吃透了。側(cè)邊欄這個(gè)形式非常貼合邊瀏覽邊問的需求頁面上下文的處理也比較智能不會(huì)把亂七八糟的頁面元素全塞給模型。有些同類項(xiàng)目更像是一個(gè)瀏覽器里的Ollama聊天室交互形式跟網(wǎng)頁版沒本質(zhì)區(qū)別那就失去意義了。我理解一個(gè)工具的價(jià)值不在于它功能有多多而在于它在正確的場景里提供了正確的能力。page-assist在瀏覽網(wǎng)頁時(shí)隨時(shí)與本地AI對(duì)話這個(gè)場景里是目前我見過做得最稱手的。8. 寫在最后關(guān)于這個(gè)項(xiàng)目的一些個(gè)人感想折騰本地AI這一年多我有一個(gè)比較深的體會(huì)本地模型的生態(tài)正在以肉眼可見的速度成熟。兩年前跑個(gè)13B模型要各種配置環(huán)境、處理CUDA依賴、手工編寫推理代碼普通人根本玩不轉(zhuǎn)。現(xiàn)在Ollama把模型管理做到一條命令搞定page-assist又把交互界面嵌進(jìn)了日常最常用的瀏覽器里這個(gè)組合已經(jīng)讓普通用戶使用本地AI的門檻降到了非常低的水位。如果你是一個(gè)對(duì)隱私敏感、或者想了解開源模型真實(shí)水平的人我建議花一個(gè)下午裝好Ollama和個(gè)人page-assist選一個(gè)7B左右的模型實(shí)際用幾天。它不會(huì)像GPT-4o那樣驚艷它更像一個(gè)靠譜、穩(wěn)定、隨叫隨到的本地助手——不會(huì)聯(lián)網(wǎng)搜集你的數(shù)據(jù)不會(huì)因?yàn)榉?wù)商調(diào)整策略而功能縮水不會(huì)因?yàn)榫W(wǎng)絡(luò)波動(dòng)而中斷回答。這種擁有感和掌控感是云端AI永遠(yuǎn)給不了的。最后說一個(gè)我踩過的坑吧我最初用page-assist時(shí)總嫌回答不夠好一度想放棄后來意識(shí)到問題不在工具而在我選的模型太老、提示詞太糙。換了qwen2.5系列之后體驗(yàn)上升了一個(gè)檔次。所以如果你第一次試的時(shí)候效果一般別急著卸載試試換一個(gè)模型、改一版提示詞它真的能給你驚喜。