最近和幾個(gè)做AI應(yīng)用的朋友聊天發(fā)現(xiàn)一個(gè)挺有意思的現(xiàn)象大家討論的焦點(diǎn)已經(jīng)從“這個(gè)模型能做什么”變成了“我們到底該怎么用它”。是讓它全自動(dòng)跑還是讓它輔助人是追求極致的無(wú)人化還是先讓人能更好地介入和判斷這背后其實(shí)是一個(gè)更根本的問(wèn)題我們開(kāi)發(fā)AI最終是為了替代人還是為了增強(qiáng)人斯坦福大學(xué)李飛飛教授近期關(guān)于“AI應(yīng)增強(qiáng)人類能動(dòng)性”的討論恰好點(diǎn)中了這個(gè)核心。她強(qiáng)調(diào)AI的目標(biāo)不應(yīng)是取代人類而應(yīng)是增強(qiáng)人類的能力、創(chuàng)造力和能動(dòng)性。這個(gè)觀點(diǎn)聽(tīng)起來(lái)很“正確”甚至有些老生常談但在當(dāng)前AI能力快速迭代、各種“一鍵生成”、“全自動(dòng)代理”滿天飛的背景下重新審視它卻有著非?，F(xiàn)實(shí)的工程意義。它提醒我們?cè)谧分鸺夹g(shù)指標(biāo)和自動(dòng)化率的同時(shí)不能丟掉對(duì)“人”在系統(tǒng)中核心位置的思考。1. 從“自動(dòng)化”到“增強(qiáng)化”一個(gè)被忽視的工程范式轉(zhuǎn)變當(dāng)我們談?wù)揂I工程實(shí)踐時(shí)無(wú)論是模型部署、應(yīng)用開(kāi)發(fā)還是Agent設(shè)計(jì)一個(gè)默認(rèn)的潛臺(tái)詞往往是“自動(dòng)化”。我們追求更快的推理速度、更高的準(zhǔn)確率、更長(zhǎng)的上下文窗口最終目的似乎都是為了減少人的干預(yù)讓機(jī)器能“自己跑起來(lái)”。這當(dāng)然沒(méi)錯(cuò)效率提升是技術(shù)發(fā)展的核心驅(qū)動(dòng)力。但問(wèn)題在于當(dāng)我們將“自動(dòng)化”作為唯一或最高目標(biāo)時(shí)很容易陷入幾個(gè)工程陷阱黑盒依賴與失控風(fēng)險(xiǎn)系統(tǒng)越自動(dòng)化內(nèi)部決策邏輯就越不透明。當(dāng)出現(xiàn)一個(gè)意料之外的錯(cuò)誤輸出時(shí)比如AI生成了一段不合規(guī)的內(nèi)容開(kāi)發(fā)者很難快速定位是提示詞的問(wèn)題、模型本身的問(wèn)題還是數(shù)據(jù)流的問(wèn)題。系統(tǒng)成了一個(gè)“黑盒”人的調(diào)試和干預(yù)能力被削弱了。責(zé)任歸屬模糊在一個(gè)全自動(dòng)的AI工作流中如果最終結(jié)果出了問(wèn)題責(zé)任在誰(shuí)是提示詞工程師、模型提供方、數(shù)據(jù)清洗人員還是部署運(yùn)維增強(qiáng)人類能動(dòng)性的設(shè)計(jì)會(huì)天然地在關(guān)鍵決策點(diǎn)引入人的確認(rèn)或選擇從而明確責(zé)任鏈條。創(chuàng)造力與判斷力的旁路很多創(chuàng)造性或高價(jià)值判斷的工作其過(guò)程本身比結(jié)果更重要。比如產(chǎn)品設(shè)計(jì)、戰(zhàn)略分析、復(fù)雜代碼審查。全自動(dòng)化的AI可能給出一個(gè)“看起來(lái)不錯(cuò)”的方案但卻跳過(guò)了人類在思考過(guò)程中產(chǎn)生的洞察、權(quán)衡和靈感火花。這實(shí)際上削弱了人類最核心的能力。李飛飛教授提出的“增強(qiáng)人類能動(dòng)性”在工程上可以理解為一種范式轉(zhuǎn)變從追求“取代人的操作”轉(zhuǎn)向設(shè)計(jì)“放大人的能力”的系統(tǒng)。這意味著我們的架構(gòu)設(shè)計(jì)、交互界面、工作流編排都需要重新思考如何讓人保持在“駕駛位”讓AI扮演一個(gè)強(qiáng)大的“副駕駛”或“工具集”提供信息、建議、執(zhí)行重復(fù)勞動(dòng)但把最終的感知、決策和創(chuàng)造權(quán)留給人。2. 增強(qiáng)能動(dòng)性的三大工程實(shí)踐錨點(diǎn)那么在具體的AI項(xiàng)目開(kāi)發(fā)中如何落地“增強(qiáng)能動(dòng)性”這個(gè)理念它不能停留在口號(hào)上必須轉(zhuǎn)化為可設(shè)計(jì)、可編碼、可測(cè)試的工程原則。我認(rèn)為有三個(gè)關(guān)鍵的錨點(diǎn)。2.1 設(shè)計(jì)可解釋與可干預(yù)的交互界面一個(gè)增強(qiáng)人的系統(tǒng)首先必須是“可讀”和“可寫(xiě)”的。這直接體現(xiàn)在用戶與AI的交互界面上。過(guò)程透明而非只給結(jié)果不要只展示AI生成的最終答案。對(duì)于重要的任務(wù)應(yīng)該同時(shí)提供推理鏈Chain-of-Thought、置信度分?jǐn)?shù)、參考的來(lái)源片段如RAG中的引用。例如一個(gè)AI輔助法律條文檢索的工具不能只給結(jié)論而應(yīng)該高亮出得出該結(jié)論所依據(jù)的具體法律條款原文并說(shuō)明這些條款與當(dāng)前案例的相關(guān)性。這讓人能夠評(píng)估AI判斷的合理性。提供“控制桿”和“選擇權(quán)”將AI的能力參數(shù)化、模塊化暴露給用戶控制。比如在AI繪畫(huà)中除了輸入提示詞還應(yīng)提供風(fēng)格強(qiáng)度、構(gòu)圖權(quán)重、隨機(jī)種子等調(diào)節(jié)選項(xiàng)在AI代碼生成中可以提供“更保守/更創(chuàng)新”、“更簡(jiǎn)潔/更詳細(xì)”等模式選擇。這相當(dāng)于把AI從一個(gè)黑箱生成器變成了一個(gè)可由人精細(xì)調(diào)校的樂(lè)器。支持漸進(jìn)式細(xì)化與迭代交互應(yīng)該支持“對(duì)話式”或“草稿式”的協(xié)作。用戶可以先讓AI生成一個(gè)初稿、一個(gè)大綱或幾個(gè)選項(xiàng)然后在此基礎(chǔ)上提出修改意見(jiàn)“更正式一些”、“第三個(gè)方案不錯(cuò)但把第二部分和第一部分對(duì)調(diào)”AI再據(jù)此迭代。這模仿了人類團(tuán)隊(duì)協(xié)作的模式人始終是方向的把控者。工程落地示例在設(shè)計(jì)一個(gè)基于大模型的文檔分析Agent時(shí)不要設(shè)計(jì)成“上傳文檔 - 等待 - 輸出一份分析報(bào)告”。更好的方式是AI先輸出一個(gè)報(bào)告框架目錄。用戶可以選擇深入查看某個(gè)章節(jié)的詳細(xì)分析。AI對(duì)每個(gè)觀點(diǎn)都附上原文中的證據(jù)引用。用戶可以對(duì)某個(gè)分析點(diǎn)提出質(zhì)疑或要求補(bǔ)充AI進(jìn)行針對(duì)性重分析。最終報(bào)告生成前提供一個(gè)所有關(guān)鍵結(jié)論和引用的確認(rèn)頁(yè)面。2.2 構(gòu)建人機(jī)協(xié)同的混合工作流“增強(qiáng)”意味著人和AI各司其職在同一個(gè)工作流中協(xié)同。我們需要識(shí)別出流程中哪些環(huán)節(jié)適合AI高效處理哪些環(huán)節(jié)必須由人類主導(dǎo)。AI擅長(zhǎng)模式匹配、信息檢索、內(nèi)容生成、重復(fù)性任務(wù)執(zhí)行。例如從海量日志中定位異常模式、從知識(shí)庫(kù)中快速找到相關(guān)案例、根據(jù)模板生成代碼草稿、批量處理圖片格式轉(zhuǎn)換。人類必須主導(dǎo)價(jià)值判斷、倫理權(quán)衡、創(chuàng)造性構(gòu)思、復(fù)雜問(wèn)題定義、責(zé)任承擔(dān)。例如決定商業(yè)策略的最終方向、審核AI生成內(nèi)容是否符合法規(guī)與公序良俗、提出全新的產(chǎn)品創(chuàng)意、在模糊情境下做出決策。一個(gè)增強(qiáng)能動(dòng)性的工作流會(huì)像接力賽一樣設(shè)計(jì)交接棒。例如一個(gè)智能客服工單處理系統(tǒng)AI第一棒自動(dòng)分類工單技術(shù)問(wèn)題/賬單咨詢/投訴、提取關(guān)鍵實(shí)體訂單號(hào)、錯(cuò)誤代碼、從知識(shí)庫(kù)中檢索標(biāo)準(zhǔn)解決方案草稿。人類交接與決策客服人員收到的是經(jīng)過(guò)AI預(yù)處理的工單附帶了分類建議、關(guān)鍵信息和解決方案草稿。人員快速審核AI的預(yù)處理是否正確并基于草稿進(jìn)行個(gè)性化修改或判斷是否需要升級(jí)處理。AI輔助執(zhí)行人員確認(rèn)回復(fù)方案后AI可以自動(dòng)填充回復(fù)模板或根據(jù)人員選擇的語(yǔ)氣正式/親切潤(rùn)色語(yǔ)言。人類最終發(fā)送人員在發(fā)送前做最終確認(rèn)。在這個(gè)流程中AI極大地提升了客服人員處理單一工單的效率信息聚合、草稿生成但所有的價(jià)值判斷、情感溝通和最終責(zé)任仍然牢牢掌握在人類手中。2.3 將評(píng)估與調(diào)試能力賦予開(kāi)發(fā)者增強(qiáng)能動(dòng)性不僅針對(duì)最終用戶也針對(duì)我們這些AI系統(tǒng)的開(kāi)發(fā)者。一個(gè)“增強(qiáng)型”的AI開(kāi)發(fā)工具鏈應(yīng)該讓開(kāi)發(fā)者能更輕松地理解、評(píng)估和調(diào)試AI組件的行為。超越準(zhǔn)確率的評(píng)估體系對(duì)于生成式AI不能只看BLEU、ROUGE分?jǐn)?shù)。需要建立一套更能反映“是否對(duì)人有用”的評(píng)估指標(biāo)例如事實(shí)一致性、無(wú)害性、指令遵循程度、輸出多樣性等。同時(shí)要設(shè)計(jì)方便的人工評(píng)估流程將人的反饋如評(píng)分、排序、修正快速納入迭代循環(huán)?？捎^測(cè)性與診斷工具系統(tǒng)需要提供詳細(xì)的日志和追蹤Trace功能記錄AI模型在每個(gè)步驟的輸入、輸出、中間結(jié)果以及調(diào)用的工具。當(dāng)出現(xiàn)問(wèn)題時(shí)開(kāi)發(fā)者能像調(diào)試傳統(tǒng)軟件一樣通過(guò)追蹤鏈定位是哪個(gè)環(huán)節(jié)的提示詞、數(shù)據(jù)或模型邏輯出了問(wèn)題。一些開(kāi)源項(xiàng)目如LangSmith、Phoenix正在這個(gè)方向努力。“提示詞即代碼”的工程實(shí)踐將驅(qū)動(dòng)AI的提示詞Prompt視為需要版本管理、測(cè)試、評(píng)審的代碼。建立提示詞的單元測(cè)試驗(yàn)證給定輸入是否產(chǎn)生期望的輸出或格式、集成測(cè)試驗(yàn)證多步工作流的正確性。這能讓提示詞的迭代更可控減少“玄學(xué)調(diào)參”。3. 當(dāng)前熱門(mén)AI實(shí)踐中的能動(dòng)性審視結(jié)合輸入材料中提及的一些熱點(diǎn)方向我們可以具體分析一下其中“增強(qiáng)能動(dòng)性”的體現(xiàn)或缺失。AI Agent智能體這是能動(dòng)性問(wèn)題的前沿陣地。一個(gè)設(shè)計(jì)良好的Agent應(yīng)該明確自己的邊界在遇到不確定性高或超出預(yù)設(shè)范圍的任務(wù)時(shí)主動(dòng)向人類尋求指導(dǎo)“請(qǐng)示”而不是自行其是導(dǎo)致潛在風(fēng)險(xiǎn)。它的目標(biāo)應(yīng)是高效完成人類指派的具體、明確的任務(wù)而不是追求完全自主的“通用智能”。AI編程Cursor, GitHub Copilot這類工具是“增強(qiáng)開(kāi)發(fā)者能動(dòng)性”的典范。它們不會(huì)直接寫(xiě)完整應(yīng)用而是在開(kāi)發(fā)者寫(xiě)下一行注釋或半個(gè)函數(shù)名時(shí)提供代碼補(bǔ)全建議。開(kāi)發(fā)者擁有完全的接受、修改或拒絕的權(quán)利。最佳實(shí)踐是將其用作“超級(jí)聯(lián)想工具”和“細(xì)節(jié)實(shí)現(xiàn)助手”而由開(kāi)發(fā)者掌控整體架構(gòu)和核心邏輯。AI繪畫(huà)/視頻/短劇制作在這里能動(dòng)性體現(xiàn)在“創(chuàng)意引導(dǎo)”而非“創(chuàng)意替代”。AI應(yīng)該是一個(gè)強(qiáng)大的素材生成器和風(fēng)格化工具幫助創(chuàng)作者將腦海中的畫(huà)面快速可視化進(jìn)行風(fēng)格探索和迭代。但故事的靈魂、分鏡的構(gòu)思、情感的傳遞這些核心創(chuàng)作活動(dòng)必須由人主導(dǎo)。工具應(yīng)該降低技術(shù)門(mén)檻而不是降低創(chuàng)意門(mén)檻?！盁o(wú)限制”AI聊天與生圖這是一個(gè)需要警惕的方向。對(duì)“違禁詞”的突破往往伴隨著對(duì)內(nèi)容安全、倫理邊界的挑戰(zhàn)。增強(qiáng)能動(dòng)性不等于賦予AI無(wú)限制的自由而是讓人在合理的、安全的框架內(nèi)更有效地利用AI的能力。一個(gè)負(fù)責(zé)任的系統(tǒng)應(yīng)該在增強(qiáng)創(chuàng)造力的同時(shí)內(nèi)置必要的安全護(hù)欄和倫理考量這本身也是對(duì)用戶和社會(huì)的一種保護(hù)。模型部署與工程實(shí)踐在追求低延遲、高并發(fā)的模型服務(wù)部署時(shí)同樣要考慮能動(dòng)性。例如在API設(shè)計(jì)上除了返回生成結(jié)果是否可以可選地返回生成過(guò)程的token概率分布或注意力權(quán)重在流式輸出時(shí)是否允許用戶在中途打斷并提供新的指引這些設(shè)計(jì)都能讓上游應(yīng)用更好地實(shí)現(xiàn)人機(jī)協(xié)同。4. 從理念到項(xiàng)目一個(gè)增強(qiáng)型AI系統(tǒng)的構(gòu)建清單如果你正在啟動(dòng)或重構(gòu)一個(gè)AI項(xiàng)目并希望將“增強(qiáng)人類能動(dòng)性”作為核心原則可以參考以下清單進(jìn)行設(shè)計(jì)和評(píng)審目標(biāo)澄清本項(xiàng)目首要目標(biāo)是提升人的效率、創(chuàng)造力、決策質(zhì)量還是完全取代某個(gè)人工環(huán)節(jié)項(xiàng)目中哪些環(huán)節(jié)必須保留人類的最終判斷權(quán)、審核權(quán)或創(chuàng)意發(fā)起權(quán)交互設(shè)計(jì)用戶能否看到AI得出結(jié)論的關(guān)鍵依據(jù)或推理過(guò)程用戶是否能在關(guān)鍵參數(shù)上進(jìn)行調(diào)節(jié)以影響AI的輸出風(fēng)格或傾向工作流是否支持“人類-AI-人類”的多輪交互與迭代而不是一次性輸入輸出工作流設(shè)計(jì)是否清晰劃分了AI自動(dòng)化處理的環(huán)節(jié)和需要人工介入的環(huán)節(jié)在交接點(diǎn)上是否為人類提供了足夠清晰、結(jié)構(gòu)化的信息AI的初步成果、置信度、備選方案以支持快速?zèng)Q策當(dāng)AI遇到高不確定性或超出能力范圍的情況時(shí)是否有明確的“向上匯報(bào)”Escalation機(jī)制評(píng)估與調(diào)試除了傳統(tǒng)準(zhǔn)確率指標(biāo)是否建立了包含有用性、安全性、可控性等維度的評(píng)估體系開(kāi)發(fā)者是否擁有足夠的工具來(lái)追蹤和診斷AI組件在整個(gè)工作流中的行為是否建立了收集和處理人類反饋正面/負(fù)面的閉環(huán)流程用于持續(xù)優(yōu)化系統(tǒng)倫理與安全系統(tǒng)設(shè)計(jì)是否考慮了可能的誤用或有害輸出是否有機(jī)制防止AI在未經(jīng)明確指令的情況下自主做出具有重大影響的決策用戶是否清楚了解AI能力的邊界以及自身需要承擔(dān)的責(zé)任李飛飛教授的觀點(diǎn)之所以在當(dāng)下尤為重要是因?yàn)樗鼮槲覀兛駸岬募夹g(shù)演進(jìn)提供了一個(gè)至關(guān)重要的“校準(zhǔn)器”。AI的終極價(jià)值不在于建造一個(gè)能獨(dú)立運(yùn)行的“硅基生命”而在于打造一面更亮的鏡子、一把更快的錘子、一位更博學(xué)的伙伴——一切旨在映照、延伸和激發(fā)我們自身獨(dú)有的智慧、情感與創(chuàng)造力。作為構(gòu)建者我們的任務(wù)不是編寫(xiě)取代自己的代碼而是設(shè)計(jì)能夠讓我們飛得更高的翅膀。下一次當(dāng)你設(shè)計(jì)AI系統(tǒng)的架構(gòu)或交互時(shí)不妨先問(wèn)一句這個(gè)設(shè)計(jì)是讓我更接近問(wèn)題的核心還是讓我更遠(yuǎn)離了掌控力