今天，AI 已經(jīng)不再是一項(xiàng)“隱藏在幕后”的技術(shù)，特別是生成式 AI，它們以普通人工更容易感知到的方式參與到了很多工作當(dāng)中去。

　　從寫代碼到擬合同，從生成圖片到寫小說(shuō)，AI 們都能勝任，而且在一些領(lǐng)域的表現(xiàn)甚至比人類“新手”還要好。看起來(lái)，人類再也不用做那些“基礎(chǔ)又枯燥”的事情了。而且有了 AI 之后，我們似乎也可以把所有的精力都集中到更具創(chuàng)造力的事情上去了。

　　也有人對(duì)此表現(xiàn)出了擔(dān)憂，既然 AI 能完成的事情越來(lái)越多，人類是不是就越來(lái)越不重要了？其實(shí)，用機(jī)械設(shè)備以及計(jì)算機(jī)幫助人類操作和思考不是今天才有的想法。比如自動(dòng)化設(shè)備早已進(jìn)入了工廠，很多復(fù)雜系統(tǒng)的調(diào)度規(guī)劃和操作也都是計(jì)算機(jī)完成的。

　　而在這些領(lǐng)域已經(jīng)發(fā)生的事情，或許能為今天的我們提供一些參考借鑒。

　　自動(dòng)化的反諷

　　早在 1983 年，英國(guó)認(rèn)知心理學(xué)家莉?！へ惗鞑祭锲?Lisanne Bainbridge)就在自動(dòng)化控制領(lǐng)域的頂級(jí)期刊《自動(dòng)化學(xué)》(Automatica)上發(fā)表了一篇文章，名為《自動(dòng)化的反諷》(Ironies of Automation)。

　　貝恩布里奇寫這篇文章的時(shí)候，并沒(méi)有像今天這樣功能強(qiáng)大的生成式 AI，但在當(dāng)時(shí)自動(dòng)化系統(tǒng)已經(jīng)開始出現(xiàn)了，這與今天的 AI 化有著一定程度的相似之處。

　　貝恩布里奇在當(dāng)時(shí)的文章里，就提到了自動(dòng)化可能會(huì)帶來(lái)的問(wèn)題，我們也順著貝恩布里奇的觀點(diǎn)來(lái)看一看。

　　首先，貝恩布里奇認(rèn)為，自動(dòng)化這件事本身就很有諷刺意味。

　　“自動(dòng)化”要做的事情，就是用機(jī)械、計(jì)算機(jī)等不需要人類參與的裝置系統(tǒng)替代人類，去執(zhí)行某些操作或者進(jìn)行規(guī)劃決策。但是，即便是高度自動(dòng)化的系統(tǒng)，比如電力網(wǎng)絡(luò)、復(fù)雜的生產(chǎn)線，仍然需要人類投入大量的時(shí)間去監(jiān)督、調(diào)整、維護(hù)、改進(jìn)等。

　　自動(dòng)化的經(jīng)典目標(biāo)是用自動(dòng)設(shè)備和計(jì)算機(jī)替代人工控制、規(guī)劃和問(wèn)題解決......本文指出，工程師對(duì)人因工程日益增長(zhǎng)的關(guān)注反映了一種諷刺現(xiàn)象：控制系統(tǒng)越先進(jìn)，操作人員的貢獻(xiàn)可能就越關(guān)鍵。

　　而且，自動(dòng)化的控制系統(tǒng)越先進(jìn)，人類在系統(tǒng)中發(fā)揮的作用可能更關(guān)鍵。

　　比如自動(dòng)化系統(tǒng)的設(shè)計(jì)者在遇到無(wú)法自動(dòng)化的任務(wù)時(shí)，會(huì)把這些任務(wù)留給人類來(lái)完成。而這些任務(wù)往往是復(fù)雜度高、難以形式化和規(guī)范化的。系統(tǒng)越先進(jìn)，留給人類處理的任務(wù)復(fù)雜度往往也越高，也就更依賴人類的能力。

　　試圖減少人類操作員的設(shè)計(jì)師，仍然會(huì)把不知道如何實(shí)現(xiàn)自動(dòng)化的任務(wù)交給人類操作員去完成。

　　另外，為了確保復(fù)雜的系統(tǒng)能夠順利運(yùn)行，在它們出現(xiàn)異常狀況時(shí)能夠及時(shí)被發(fā)現(xiàn)、及時(shí)作出正確的干預(yù)，同樣也需要有專業(yè)技能過(guò)硬、經(jīng)驗(yàn)豐富的人類提供保障。

　　所以，自動(dòng)化本身是要讓機(jī)器來(lái)替代人類，但實(shí)際上，為了設(shè)計(jì)以及確保自動(dòng)化系統(tǒng)的順利運(yùn)行，又極度依賴人類的能力。

　　這是貝恩布里奇認(rèn)為，自動(dòng)化“反諷”的原因之一。

　　AI 時(shí)代，人類的能力同樣關(guān)鍵

　　而在 AI 工具蓬勃發(fā)展的今天，情況也是類似。

　　當(dāng)我們使用 AI 去完成任務(wù)的時(shí)候，能夠熟練運(yùn)用 AI 工具，并且確保它們生產(chǎn)出的內(nèi)容能夠穩(wěn)定運(yùn)行，同樣對(duì)人類知識(shí)和經(jīng)驗(yàn)有更高的要求。

　　比如，F(xiàn)astly(一家美國(guó)先進(jìn)的云服務(wù)提供商)在 2025 年 7 月進(jìn)行了一項(xiàng)調(diào)查，對(duì)比了在 IT 領(lǐng)域，初級(jí)開發(fā)者(0~2 年工作經(jīng)驗(yàn))和資深開發(fā)者(10 年以上工作經(jīng)驗(yàn))使用 AI 寫代碼的情況。

　　結(jié)果發(fā)現(xiàn)，有 30% 的資深開發(fā)者使用 AI 編寫的代碼比例超過(guò) 50%，而在初級(jí)開發(fā)者中，只有 13% 的人會(huì)用 AI 完成這么高比例的代碼。

　　這并不是因?yàn)槌跫?jí)開發(fā)者不知道這些 AI 開發(fā)工具。

　　而是 AI 編寫的代碼如果存在問(wèn)題或者不那么完美適配(這個(gè)情況很常見)，資深開發(fā)者有能力去進(jìn)行調(diào)整，而初級(jí)開發(fā)者可能無(wú)法快速識(shí)別出代碼中的問(wèn)題、沒(méi)法高效率地進(jìn)行編輯調(diào)整，所以會(huì)適當(dāng)減少 AI 生成代碼的比例。

　　在筆者所在的寫作行業(yè)，同樣是生成式 AI“橫行”的領(lǐng)域。而且 AI 寫出的內(nèi)容確實(shí)會(huì)比很多新手作者寫得更好。

　　但是在特定的領(lǐng)域，比如科普類文章撰寫上，AI 生成的文章可能存在事實(shí)性錯(cuò)誤，這樣的錯(cuò)誤屬于硬傷，如果直接發(fā)布會(huì)對(duì)科普類內(nèi)容的公信力產(chǎn)生影響。

　　而對(duì)知識(shí)性內(nèi)容進(jìn)行核實(shí)和修改，還是依賴人類的知識(shí)和經(jīng)驗(yàn)積累。

　　至少目前，AI 還無(wú)法確保內(nèi)容的真實(shí)可靠，依然有可能出現(xiàn)“AI 幻覺(jué)”(比如生成不存在的文獻(xiàn)資料、編造一些事件。)只要 AI 編造內(nèi)容的概率不是 0，就意味著需要人工檢查每一條信源。

　　另外，AI 寫出的文章結(jié)構(gòu)不一定那么完善，所以在使用 AI 之前，需要作者構(gòu)思好文章的整體結(jié)構(gòu)，每一部分的核心講述內(nèi)容，以及想表達(dá)的思想，這樣生成的文章才不至于那樣有“AI 味”。而這些也都要在長(zhǎng)期的寫作、修改過(guò)程中建立起來(lái)。

　　這些例子都印證了貝恩布里奇的觀點(diǎn)，即便是先進(jìn)的自動(dòng)化系統(tǒng)，同樣依賴人類的能力。

　　人類能力“訓(xùn)練場(chǎng)”正在消失

　　可是，當(dāng)大量的自動(dòng)化系統(tǒng)和計(jì)算機(jī)代替人類之后，人類實(shí)際動(dòng)手操作的機(jī)會(huì)越來(lái)越少，這種實(shí)際操作機(jī)會(huì)的缺失，對(duì)知識(shí)和技能的積累來(lái)說(shuō)是十分不利的。

　　貝恩布里奇的文章里就提到，當(dāng)時(shí)的人們已經(jīng)意識(shí)到了這一點(diǎn)，并且希望通過(guò)理論學(xué)習(xí)和培訓(xùn)的方式來(lái)解決這個(gè)問(wèn)題，但她認(rèn)為理論學(xué)習(xí)和培訓(xùn)的作用有限，很多領(lǐng)域的知識(shí)需要在使用中才能真正被理解和掌握。

　　一方面，從長(zhǎng)期記憶中高效提取知識(shí)取決于使用知識(shí)的頻率。另一方面，這類知識(shí)只能通過(guò)使用以及使用后的有效反饋，才能得到發(fā)展。如果人們僅僅在課堂上接受理論教學(xué)，而沒(méi)有適當(dāng)?shù)膶?shí)踐練習(xí)，他們可能很難理解這些知識(shí)......

　　這一點(diǎn)在 AI 時(shí)代也是相似的。

　　我們還是以前面提到的 AI 編程領(lǐng)域?yàn)槔?，?duì)于剛剛?cè)胄械摹俺跫?jí)開發(fā)者”來(lái)說(shuō)，他們似乎是趕上了“好時(shí)代”，相比于十年前，現(xiàn)在的 AI 編程工具功能強(qiáng)大，甚至可以直接通過(guò)自然語(yǔ)言對(duì)話生成還不錯(cuò)的代碼。

　　看起來(lái)，現(xiàn)在的新人開發(fā)者們可以直接跳過(guò)“寫出爛代碼→出 BUG→調(diào)試→理解底層邏輯→修正→更好的代碼”這個(gè)痛苦的過(guò)程。

　　但這個(gè)過(guò)程，恰恰對(duì)開發(fā)者的技能以及理解力的提升很有幫助。正是這樣的成長(zhǎng)過(guò)程，讓一字一句敲代碼成長(zhǎng)起來(lái)的資深開發(fā)者能更好地駕馭 AI 工具。

　　可是在當(dāng)下，留給初級(jí)開發(fā)者練習(xí)的機(jī)會(huì)正在減少。

　　正如我們前面提到的，老板們希望用少數(shù)經(jīng)驗(yàn)豐富的人類+AI 工具，替代原本的人類大團(tuán)隊(duì)，這樣的設(shè)想確實(shí)有可能實(shí)現(xiàn)，或者說(shuō)，已經(jīng)在實(shí)現(xiàn)中了。

　　比如 2025 年 8 月，斯坦福大學(xué)研究者發(fā)表的一篇文章就提到，22 到 25 歲“入門級(jí)”職位受到 AI 的沖擊影響更大。而在軟件開發(fā)領(lǐng)域影響尤其明顯，22 到 25 歲的初級(jí)開發(fā)者工作機(jī)會(huì)比之前減少了約 20%。

　　于是，初級(jí)開發(fā)者面臨著需要實(shí)踐操作來(lái)成長(zhǎng)，卻又沒(méi)有實(shí)踐機(jī)會(huì)的尷尬局面。

　　所以，假如某個(gè)行業(yè)過(guò)度依賴 AI，完全用它們來(lái)生產(chǎn)內(nèi)容，可能會(huì)對(duì)這個(gè)行業(yè)的初級(jí)從業(yè)者產(chǎn)生影響，讓越來(lái)越多的行業(yè)新人失去“訓(xùn)練場(chǎng)”，不利于這些從業(yè)者未來(lái)的能力、經(jīng)驗(yàn)積累，進(jìn)而影響到整個(gè)行業(yè)的未來(lái)人才儲(chǔ)備。

　　AI 真的能讓創(chuàng)造力更好地釋放？

　　當(dāng)然，我們并不是說(shuō)自動(dòng)化和 AI 化是不好的，自動(dòng)化和 AI 化確實(shí)可以讓人們從機(jī)械重復(fù)的體力活動(dòng)以及簡(jiǎn)單瑣碎的智力活動(dòng)上釋放出來(lái)。

　　比如，雖然 AI 編寫出來(lái)的程序需要人為調(diào)試，但 AI 確實(shí)能夠幫助資深程序員省去寫具體代碼以及在大量的代碼文庫(kù)中檢索特定片段的時(shí)間。

　　靠著自動(dòng)化系統(tǒng)和 AI 工具，一些精英個(gè)體或者小團(tuán)體確實(shí)能把自己的能力發(fā)揮到極致，創(chuàng)造出更大的價(jià)值。

　　而且我們也不懷疑，自動(dòng)化、AI 化的轉(zhuǎn)型將會(huì)為社會(huì)帶來(lái)新的崗位，在未來(lái)解放出來(lái)的生產(chǎn)力可以投入到新的更有創(chuàng)造性的事情中去。

　　但在轉(zhuǎn)型發(fā)生的當(dāng)下，并不一定會(huì)有真正的創(chuàng)造力釋放。

　　還是借鑒貝恩布里奇的觀點(diǎn)，她認(rèn)為在自動(dòng)化的影響下，人的工作可能不再是一個(gè)完整的閉環(huán)，而是去彌補(bǔ)自動(dòng)化系統(tǒng)無(wú)法完成的一小部分任務(wù)，這些任務(wù)非常復(fù)雜但又很碎片化，并不能真的讓一個(gè)人的能力提升。

　　這意味著留給操作員的任務(wù)可能是隨意拼湊的，并且很少考慮到為他們提供一些幫助。

　　而且貝恩布里奇還發(fā)現(xiàn)，在自動(dòng)化過(guò)程中，很多人從具體的操作者變成了監(jiān)督者，而人類本身算不上是優(yōu)秀的監(jiān)督者。

　　對(duì)于一個(gè)相對(duì)穩(wěn)定、很少發(fā)生故障的系統(tǒng)，人類很難對(duì)這樣的系統(tǒng)保持 30 分鐘以上的高度專注狀態(tài)。

　　所以人類在長(zhǎng)時(shí)間監(jiān)督之后，容易懈怠，在這樣的狀態(tài)下，如果真的出現(xiàn)了緊急狀況，人類很難及時(shí)做出反應(yīng)。

　　另外，處于監(jiān)督者狀態(tài)的人類操作員因?yàn)闆](méi)有實(shí)際上手操作，會(huì)缺少對(duì)整個(gè)系統(tǒng)狀態(tài)的詳細(xì)認(rèn)知，不一定能在緊急情況下做出合理的決策。

　　這有點(diǎn)類似一輛 L3 級(jí)別的自動(dòng)駕駛汽車。在大部分情況下，它能夠自主運(yùn)行，理論上駕駛員也要時(shí)刻保持警惕，但在長(zhǎng)時(shí)間的平穩(wěn)駕駛情況下，人類的警惕性會(huì)不自覺(jué)地降低。這時(shí)候如果自動(dòng)駕駛汽車遭遇了無(wú)法處理的場(chǎng)面，會(huì)讓人類緊急接管。這時(shí)候的人類駕駛員很可能“不在狀態(tài)”，這時(shí)候要在短時(shí)間里處理自動(dòng)駕駛汽車都無(wú)法應(yīng)對(duì)的復(fù)雜局面，很可能會(huì)出錯(cuò)。

　　所以，當(dāng)公司開始向 AI 化轉(zhuǎn)型的過(guò)程中，如果僅僅是讓人類成為 AI 的監(jiān)督者，人類也很難發(fā)揮出更好的創(chuàng)造力。

　　不反對(duì)技術(shù)，不漠視人類

　　最后，我們也要再次說(shuō)明，技術(shù)本身并無(wú)善惡。自動(dòng)化與 AI 化的浪潮也不可阻擋，它們確實(shí)為我們帶來(lái)了前所未有的效率提升。

　　我們應(yīng)該警惕的是，在“AI 化”轉(zhuǎn)型過(guò)程中對(duì)人本身的工具化和漠視。真正的“降本增效”，不應(yīng)該是簡(jiǎn)單地用 AI 剔除初級(jí)員工，而是利用 AI 帶來(lái)的效率紅利，給人類留出更多的試錯(cuò)和成長(zhǎng)的空間。

　　一個(gè)健康社會(huì)在轉(zhuǎn)型的過(guò)程中，理應(yīng)承擔(dān)起對(duì)受影響者的職業(yè)過(guò)渡支持、對(duì)新人成長(zhǎng)路徑的重新設(shè)計(jì)，以及對(duì)“人機(jī)協(xié)作”中人類角色的重新定義。

　　畢竟，無(wú)論是多么強(qiáng)大的智能系統(tǒng)，當(dāng)警報(bào)燈亮起的那一刻，我們能信任的只有經(jīng)驗(yàn)豐富且具有社會(huì)責(zé)任感的人類。

　　作者丨科學(xué)邊角料 科普創(chuàng)作者

　　審核丨于旸 騰訊玄武實(shí)驗(yàn)室負(fù)責(zé)人

　　策劃丨徐來(lái)

　　(科普中國(guó)微信公眾號(hào))