作為教育工作者，我更關(guān)心的問(wèn)題是：我們?cè)诟M(jìn)人工智能發(fā)展步伐的同時(shí)，研究如何在新的技術(shù)條件和社會(huì)需求背景之下，培養(yǎng)學(xué)生在提問(wèn)、驗(yàn)真和除錯(cuò)方面的能力和意愿，研究這種培養(yǎng)所要達(dá)到的目標(biāo)內(nèi)涵及其可能限度，是否就可以使聊天機(jī)器人這樣的人工智能技術(shù)，真正成為教育的幫手和臺(tái)階，而非教育的對(duì)手和障礙？
為了寫(xiě)這篇文章，我把“哪些學(xué)校禁止ChatGPT進(jìn)校園、進(jìn)課堂？”這個(gè)問(wèn)題輸入ChatGPT，得到的回答是：“作為一名虛擬的AI聊天機(jī)器人，我沒(méi)有身體，也沒(méi)有實(shí)際存在的地點(diǎn)。因此，我無(wú)法被禁止進(jìn)入學(xué)校或課堂。然而，在某些國(guó)家和地區(qū)，政府或教育機(jī)構(gòu)可能會(huì)限制或禁止使用我這樣的AI技術(shù)，或者在學(xué)校或課堂上使用聊天機(jī)器人。因此，具體情況可能因地區(qū)而異，需要針對(duì)具體國(guó)家或地區(qū)的規(guī)定進(jìn)行查詢(xún)。”
在問(wèn)機(jī)器人的同時(shí)，我也問(wèn)了身邊的人，“學(xué)校該不該禁用聊天機(jī)器人？”有同事認(rèn)為，不該禁用，因?yàn)槭澜绫葘W(xué)校大，而我們培養(yǎng)的學(xué)生是要走出校園、走向世界的。也有同事說(shuō)應(yīng)該禁用，因?yàn)椤安荒敲闯墒旌妥杂X(jué)的學(xué)生使用聊天機(jī)器人，教授是有理由擔(dān)心其消極影響的?！?/span>
前幾天，我看了一則對(duì)諾姆·喬姆斯基的采訪(fǎng)視頻，這位曾對(duì)人工智能發(fā)展有特殊貢獻(xiàn)的95歲的語(yǔ)言學(xué)家在被問(wèn)到如何看待ChatGPT時(shí)，很干脆地回答說(shuō)：“這是剽竊！”
上述這些觀(guān)點(diǎn)，我覺(jué)得都有點(diǎn)道理，但都無(wú)法完全贊成。如果全社會(huì)范圍內(nèi)聊天機(jī)器人的使用越來(lái)越普遍，學(xué)校禁用聊天機(jī)器人確實(shí)只是暫時(shí)回避問(wèn)題。但如果學(xué)生交來(lái)的作業(yè)和論文，教授無(wú)法辨別是否由聊天機(jī)器人代勞的，就好比如果考生交來(lái)的文書(shū)和推薦信，招生官不僅無(wú)法辨別是不是別人寫(xiě)的、且無(wú)法辨別是不是真人寫(xiě)的，那學(xué)校正常的教學(xué)，包括正常的招生，就不再可能。
聊天機(jī)器人帶來(lái)沖擊，教育如何“轉(zhuǎn)危為安”？
那么，有沒(méi)有辦法讓聊天機(jī)器人僅僅成為做作業(yè)、寫(xiě)論文的輔助手段呢？
看看這些天各種媒體報(bào)道的ChatGPT的應(yīng)用實(shí)例，其實(shí)都包括三件事情：提問(wèn)（輸入要聊天機(jī)器人回答的問(wèn)題）；驗(yàn)真（辨別聊天機(jī)器人提供的答案的對(duì)錯(cuò)）；除錯(cuò)（消除答案中的錯(cuò)誤部分，保留答案中的正確部分）。
嚴(yán)格地說(shuō)，這三種工作只有人能做。如果我們強(qiáng)調(diào)教育的重點(diǎn)是培養(yǎng)學(xué)生做這三件事情的能力和意愿，而不是搜集資料和組織資料的能力，就可以在聊天機(jī)器人給教育帶來(lái)的沖擊面前轉(zhuǎn)危為安。
只要在培養(yǎng)學(xué)生在提問(wèn)、驗(yàn)真和除錯(cuò)的能力和意愿方面真正有所作為，教育就履行了其核心使命；至于在做這三件事情時(shí)，學(xué)生（以及他們的老師）用的是算盤(pán)還是計(jì)算尺，是電腦還是網(wǎng)絡(luò)，是谷歌機(jī)器人還是微軟機(jī)器人，并沒(méi)有本質(zhì)區(qū)別。如果禁用聊天機(jī)器人是正當(dāng)?shù)?，那么，禁用網(wǎng)絡(luò)、電腦，甚至禁用計(jì)算尺、禁用算盤(pán)也會(huì)是正當(dāng)?shù)牧恕?/span>
其實(shí)，當(dāng)今學(xué)生和學(xué)者每天做的工作的相當(dāng)大一部分，就已經(jīng)是從前人們難以想象的。以學(xué)術(shù)著作中的語(yǔ)詞和人名的查詢(xún)?yōu)槔?。根?jù)我的印象，英語(yǔ)學(xué)術(shù)著作的最后通常是有術(shù)語(yǔ)索引和人名索引的，而中文著作一般沒(méi)有，德文著作也常常沒(méi)有。有了電子書(shū)以后，查詢(xún)書(shū)中特定的術(shù)語(yǔ)和人名就更加容易了。電子書(shū)的便利之處不僅在于儲(chǔ)存和攜帶方便，而且在于它可以輕易給人以“通讀全書(shū)”的印象。
陳寅恪先生和錢(qián)鍾書(shū)先生的學(xué)問(wèn)之所以令人景仰，至少有一小部分是因?yàn)樗麄冃闹杏浀玫墓艜?shū)字句，就像存在硬盤(pán)的電子文檔一樣，幾乎是信手拈來(lái)。但自從有了互聯(lián)網(wǎng)、有了網(wǎng)上搜索引擎，遠(yuǎn)非那么博聞強(qiáng)記、深思快想的人們，也可以很方便地，且往往是在自己并未仔細(xì)讀過(guò)的文本當(dāng)中，找出自己用得上的相關(guān)內(nèi)容。
ChatGPT和微軟“新必應(yīng)”的新穎之處，只在于它們不僅能把相關(guān)內(nèi)容迅速搜尋出來(lái)，而且能根據(jù)你的提問(wèn)把這些內(nèi)容有機(jī)組織起來(lái)，組織得就像一個(gè)蠻有學(xué)問(wèn)的人寫(xiě)出來(lái)的那樣。
聊天機(jī)器人產(chǎn)生的文本，是否有“意義”？
但聊天機(jī)器人對(duì)現(xiàn)有海量文本的搜尋，就算速度再快、組織得再精妙，其意義都取決于使用聊天機(jī)器人的真人所輸入的問(wèn)題。提出問(wèn)題——提出真正有意義的問(wèn)題，這只能是人的工作。當(dāng)然，可以想象機(jī)器人也會(huì)提問(wèn)題。只要你打開(kāi)機(jī)器、撳了按鈕，它就會(huì)自?shī)首詷?lè)地自問(wèn)自答。但這種情況下的問(wèn)題，如果算是問(wèn)題的話(huà)，也并不是有意義的問(wèn)題。
關(guān)于什么是“意義”，當(dāng)然也有各種理解。在我看來(lái)，如果離開(kāi)活生生的人的生活世界而談?wù)搯?wèn)題的意義，這里的“意義”一詞的用法，至少與我們通常的用法相距甚遠(yuǎn)。
聊天機(jī)器人產(chǎn)生的文本是否有“意義”，與聊天機(jī)器人生成的文本是否有“有效性”，是同一類(lèi)型的問(wèn)題。這里的“有效性”不是指經(jīng)驗(yàn)意義上的效率；經(jīng)驗(yàn)意義上的效率如快慢、輕重、大小等指標(biāo)，是可以做經(jīng)驗(yàn)的度量的。而非經(jīng)驗(yàn)意義上的“有效性”，如真假、對(duì)錯(cuò)、好壞，無(wú)法做經(jīng)驗(yàn)的度量，而取決于主張某種有效性的人的理解，取決于她的交談同伴或論辯同伴的理解。
最近《紐約時(shí)報(bào)》上刊登了一篇題為“人格分裂、瘋狂示愛(ài)：一個(gè)令人不安的微軟機(jī)器人”的文章，其中講到，文章作者Kevin Roose與一個(gè)微軟機(jī)器人聊天，作者稱(chēng)機(jī)器人為“辛迪妮”。結(jié)果聊到某個(gè)時(shí)刻，辛迪妮說(shuō)出了“我是辛迪妮，我愛(ài)你”這句話(huà)。在接下去的聊天中，辛迪妮幾次對(duì)作者說(shuō)：“你雖然結(jié)了婚，但你愛(ài)的是我”；作者再三說(shuō)，不是這樣的，甚至說(shuō)“我和我愛(ài)人剛在情人節(jié)吃了一頓愉快的晚餐”，但辛迪妮依然堅(jiān)持其說(shuō)法。
在這個(gè)對(duì)話(huà)中，真假對(duì)錯(cuò)是很清楚的，但這種“很清楚”僅僅是對(duì)人而言的。嚴(yán)格地來(lái)說(shuō)，對(duì)機(jī)器人來(lái)說(shuō)，它所生成的文本既不是真的，也不是假的，而是無(wú)所謂真假的，尤其是無(wú)所謂對(duì)錯(cuò)的。除非，使用機(jī)器人的人對(duì)文本進(jìn)行解讀和識(shí)別。
只要充分發(fā)揮聊天機(jī)器人使用者的文本解讀和識(shí)別作用，只要讓人認(rèn)真做好提問(wèn)、驗(yàn)真和除錯(cuò)的工作，將機(jī)器人用作教學(xué)與科研的輔助工具，我們應(yīng)該是能放心地用來(lái)提高教學(xué)和科研的效率和水平的。
比起能力，“意愿”更體現(xiàn)人的不可替代性？
在這方面，或許可以把聊天機(jī)器人與翻譯軟件做一個(gè)類(lèi)比?，F(xiàn)在的翻譯軟件雖然還不能像自帶電壓轉(zhuǎn)換器的電器那樣，幫助人們實(shí)現(xiàn)不同國(guó)家之間的順暢旅行，但已經(jīng)能給講不同語(yǔ)言的人們之間交朋友、給只會(huì)講自己母語(yǔ)的人們做跨國(guó)旅行和跨文化交流，提供了相當(dāng)有用的幫助。哪怕是外語(yǔ)很好的人，在把外語(yǔ)譯成母語(yǔ)或把母語(yǔ)譯成外語(yǔ)的過(guò)程中，先讓翻譯軟件提供“初稿”然后修改，也不是不可能。
但在這里，“修改”兩字非常重要。所謂“修改”，就是上面所說(shuō)的“驗(yàn)真”和“除錯(cuò)”。而 無(wú)論是“驗(yàn) 真”，還是“除錯(cuò)”，都不僅涉及能力，而且涉及意愿。即使機(jī)器人有驗(yàn)真和除錯(cuò)的能力，它也談不上有驗(yàn)真和除錯(cuò)的意愿。從這個(gè)角度說(shuō)，人工智能無(wú)論發(fā)展到哪一天，都無(wú)法取代教育的作用，因?yàn)槿斯ぶ悄艽嫒祟?lèi)智力勞動(dòng)越多，不僅人類(lèi)進(jìn)行驗(yàn)真、除錯(cuò)的難度越高，而且其進(jìn)行驗(yàn)真和除錯(cuò)的愿望的必要也越大。
當(dāng)然，在某種意義上，提問(wèn)、驗(yàn)真、除錯(cuò)，如果理解為通常所說(shuō)的“嘗試錯(cuò)誤法”的話(huà)，并不是只有人類(lèi)才有的學(xué)習(xí)過(guò)程。事實(shí)上，聊天機(jī)器人之所以能發(fā)展到當(dāng)今這種高度，就是因?yàn)樗矔?huì)運(yùn)用嘗試錯(cuò)誤法，也會(huì)通過(guò)試錯(cuò)而學(xué)習(xí)。但即便某個(gè)聊天機(jī)器人（如ChatGPT）能在工程師設(shè)定的框架內(nèi)通過(guò)試錯(cuò)而學(xué)習(xí)，人的不可替代作用也不僅體現(xiàn)在這種框架的設(shè)定當(dāng)中，而且體現(xiàn)在對(duì)這種具備學(xué)習(xí)能力、回答問(wèn)題越來(lái)越迅速、越來(lái)越到位的機(jī)器人的使用當(dāng)中。
前面說(shuō)過(guò)，只有通過(guò)人在使用機(jī)器人時(shí)的提問(wèn)、驗(yàn)真和除錯(cuò)，機(jī)器人才能像算盤(pán)、計(jì)算尺一樣幫助人從事智力勞動(dòng)；而人的提問(wèn)能力和提問(wèn)意愿、驗(yàn)真能力和驗(yàn)真意愿、除錯(cuò)能力和除錯(cuò)意愿，都需要在教育過(guò)程中加以培養(yǎng)和提高。
“把人工智能作為輔助手段做恰當(dāng)運(yùn)用”，是否可能？何以可能？
不僅機(jī)器人會(huì)運(yùn)用嘗試錯(cuò)誤法而學(xué)習(xí)，其實(shí)整個(gè)進(jìn)化過(guò)程，也可以看做是一個(gè)通過(guò)試錯(cuò)而學(xué)習(xí)的過(guò)程：生活在同樣環(huán)境中的不同生物物種，相當(dāng)于對(duì)同一個(gè)問(wèn)題的不同回答方式；不適應(yīng)環(huán)境的物種被淘汰，相當(dāng)于問(wèn)題答案經(jīng)過(guò)驗(yàn)真而被除錯(cuò)；而適應(yīng)環(huán)境的物種生存下來(lái)，則相當(dāng)于問(wèn)題答案經(jīng)過(guò)驗(yàn)真而被保留。
但人類(lèi)學(xué)習(xí)與物種進(jìn)化的區(qū)別在于，物種進(jìn)化是直接讓生物體作為問(wèn)題答案進(jìn)行相互競(jìng)爭(zhēng)，其中的失敗者從肉體上被消滅——那就是物種的滅絕；而人類(lèi)用來(lái)試錯(cuò)的東西，則不是人類(lèi)自己，而是人類(lèi)提出的觀(guān)點(diǎn)。人類(lèi)提出的不同觀(guān)點(diǎn)作為問(wèn)題的不同答案會(huì)發(fā)生競(jìng)爭(zhēng)，而最后保留下來(lái)的，是得到盡可能好的理由所支持的那些觀(guān)點(diǎn)。用哲學(xué)家卡爾·波普爾的話(huà)來(lái)說(shuō)，一種無(wú)批判能力的動(dòng)物可以連同它的教條式地對(duì)待的種種假說(shuō)一起被淘汰，而我們?nèi)祟?lèi)卻可以表述我們的假說(shuō)，并且批判它們，進(jìn)而讓我們的猜想、我們的理論替我們?nèi)ニ劳觥?/span>
從某種意義上來(lái)說(shuō)，人工智能的所謂學(xué)習(xí)，其實(shí)與人類(lèi)之前的生物進(jìn)化，沒(méi)有本質(zhì)差別。人工智能的存在方式是計(jì)算機(jī)軟件，而它的“學(xué)習(xí)”過(guò)程，也就是軟件的更新過(guò)程；這種更新，雖然速度極快，但與往往要用上億萬(wàn)年的生物進(jìn)化過(guò)程一樣，是同一種載體自身的新舊更替，而不像人類(lèi)的學(xué)習(xí)、人類(lèi)知識(shí)。確切些說(shuō)，整個(gè)人類(lèi)文化在過(guò)去幾千年中已經(jīng)變得“面目全非”。但同一時(shí)期，人類(lèi)肉體的變化，如果有的話(huà)，也微不足道。把人工智能作為輔助手段做恰當(dāng)運(yùn)用，人類(lèi)的這種讓“我們的猜想和理論替我們?nèi)ニ劳觥钡膶W(xué)習(xí)過(guò)程，將更加卓有成效。
關(guān)鍵問(wèn)題仍然是：這里所說(shuō)的“把人工智能作為輔助手段做恰當(dāng)運(yùn)用”，是否可能、何以可能？要求學(xué)生在提交的作業(yè)上寫(xiě)清楚是否求助了聊天機(jī)器人，就像有些學(xué)術(shù)雜志要求把ChatGPT（如果使用了的話(huà)）也標(biāo)注為署名作者之一那樣，是否就可以防止學(xué)生借助于聊天機(jī)器人進(jìn)行喬姆斯基所說(shuō)的“剽竊”？制定相應(yīng)法律法規(guī)，或提供相應(yīng)社會(huì)支持，是否就可以防止當(dāng)代社會(huì)中已經(jīng)因?yàn)樯鐣?huì)制度和常規(guī)技術(shù)而擴(kuò)大的貧富差別，隨著人工智能的升級(jí)和推廣而進(jìn)一步加大？加快進(jìn)行人工智能相關(guān)倫理道德問(wèn)題的研究，并基于這種研究采取相應(yīng)措施，是否就可以避免人類(lèi)物種的生存、人類(lèi)個(gè)體的健康和人類(lèi)文明的豐富多樣性，遭受人工智能無(wú)序發(fā)展或惡意運(yùn)用可能造成的多種傷害？
作為教育工作者，我更關(guān)心的問(wèn)題是：我們?cè)诟M(jìn)人工智能發(fā)展步伐的同時(shí)，研究如何在新的技術(shù)條件和社會(huì)需求背景之下，培養(yǎng)學(xué)生在提問(wèn)、驗(yàn)真和除錯(cuò)方面的能力和意愿，研究這種培養(yǎng)所要達(dá)到的目標(biāo)內(nèi)涵及其可能限度，是否就可以使聊天機(jī)器人這樣的人工智能技術(shù)，真正成為教育的幫手和臺(tái)階，而非教育的對(duì)手和障礙？
閱讀原文
作者丨童世駿（華東師范大學(xué)哲學(xué)系教授、上海紐約大學(xué)校長(zhǎng)）
來(lái)源丨文匯報(bào)
編輯丨王越月
編審丨戴琪
