熊偉
生成式AI的狂飆突進讓人工智能受到的關注又多了一些。其實，在實驗室里，在數(shù)不清的服務器組成的廣袤“農場”上，在生產車間，在線上線下的閑聊中，人工智能從未離場。只是看到生成式AI跨過了嫻熟運用自然語言的關口，人們對各種技術路線的人工智能又新增了期待，也新增了擔憂。
人工智能技術本身的進步引發(fā)好奇，人工智能在各產業(yè)的應用值得跟蹤，人工智能的社會影響同樣不容忽視。我們已經在《中國信息化》今年（2023年）5月號刊發(fā)《生成式AI與輿論——“海量耳機效應”》，提出生成式AI能夠造就一種輿論工具，給海量用戶“戴上耳機”，在他們耳邊絮語，潛移默化地影響他們的思想。新的輿論工具將是顛覆性的，比已有的報紙、雜志、廣播、電視、網站、移動新媒體等等媒介更加有力。
輿論是社會的“皮膚”，也可能是人工智能首先影響的社會層面。我們將由表及里，繼續(xù)討論。
回溯祭祀活躍的部落，以吏為師的國家，以及其他林林總總的古代社會，我們會意識到，人群中出現(xiàn)權威的歷史已經十分漫長了。如果要找到各種權威的共同點，或許可以說，他們都是受到周圍人們信服的知識提供者，占據(jù)著文化的高地。按照文化社會學的觀點，所謂文化，就是社會或人群共同的信息。如果把文化的范圍擴大，加上物質部分，文化則是社會或人群共同的成果。在人工智能出現(xiàn)之前，知識全部直接產自人類；
而現(xiàn)在人工智能也可以生產知識，盡管其中有大量錯誤的知識。但這一點并不特殊，因為人類也生產了大量錯誤的知識。當新的知識源出現(xiàn)時，非人類權威也立即出現(xiàn)了。
圍棋之“神”
生物學中有“生態(tài)龕位”概念，指不同物種憑借各自優(yōu)勢在生態(tài)系統(tǒng)中占據(jù)生存位置。人類在飛翔、游泳、視覺、聽覺、嗅覺、速度、力量等等方面，都弱于某些物種，但智力卓越，由此占據(jù)了生物圈中最具優(yōu)勢地位的生態(tài)龕位。因為人的優(yōu)勢來自智力，所以當人們看到比自己跑的快的羚羊、獵豹，比自己力量強的獅子、大象，不會有心理劣勢。同樣地，當人們制造出比自己速度快的工具，汽車、火車、飛機，比自己力量大的機械，起重機、空氣錘，也沒有什么失落感。然而一旦人們發(fā)覺智力被其他事物超越，感受就完全不同了。人容易接受非人的“他者”力強于人，卻難以接受“他者”智勝于人。而且智力之中還有區(qū)分，有些智近乎力，如暴力解算。計算機算多位數(shù)相乘比人快很多，毫不稀奇，人們不放在心上，但在分析、推理、決策上，人總是自負的，被人工智能超越，就沒那么舒服了。
棋類游戲是一個值得研究的角度。人工智能下棋超過人類造成很大的心理改變，而圍棋帶來最后一擊。1997年5月，IBM公司的計算機“深藍”第一次在標準國際象棋比賽中打敗世界冠軍卡斯帕羅夫。這一事件在未來幾年引起了嚴重的擔憂。筆者在2001年采訪包括三位圖靈獎獲得者在內的多位專家，寫了題為《像海參一樣愚蠢——人工智能與智能計算縱橫》的科普文章，發(fā)表在《計算機世界》上。其中有一句“當IBM的計算機打敗國際象棋大師的時候，有人坐不住了：計算機如此聰明，它們能力的成長會失去控制，最終危害人類嗎？”反映了二十多年前世紀之交時人們面對人工智能的心態(tài)。可見對人工智能的警惕絕不是新近產生的。那時計算機下圍棋還很業(yè)余，有人一度認為計算機永遠也下不過人類專業(yè)圍棋手，并臆想了一些理由來支持這種判斷。但圍棋的特殊性并沒有維持住人類的領先地位，2016年3月，谷歌旗下DeepMind公司研發(fā)的AlphaGo戰(zhàn)勝圍棋冠軍李世石，比分為4：1；
2017年5月，AlphaGo的升級版AlphaGo Master戰(zhàn)勝世界排名最高的圍棋手柯潔，比分為3：0。
頂尖圍棋手面對比自己下棋更厲害的人工智能，一開始表現(xiàn)得非常不甘心。李世石36歲就退役了，他說敗給人工智能對他打擊很大。柯潔在與AlphaGo Master對局時落淚，此后數(shù)次表示不愿意與人工智能比賽，還說“我這輩子打不敗AI”“我并不希望AI出現(xiàn)”。但在機器的實力面前，人類不得不承認差距。李世石九段在退役紀念賽上與韓國圍棋AI“韓豆”下了兩局棋，第一局竟然被讓二子！面對AI，棋手們的心理也有明顯的變化，從原先的不甘、遺憾，到現(xiàn)在下出AI的第一選擇時的自喜——棋手們已經甘當AI的小學生了。不得不說，他們是理智的。自從棋手們不再“妄想”戰(zhàn)勝AI而是誠心誠意向AI學習，他們的棋力迅速提高了。世界冠軍唐韋星說，人工智能可以很好地幫助年輕棋手提高水平。
圍棋AI已然遠遠超越人類，成了圍棋之“神”。這正是一個非人類權威生成的故事。
知識的流向
下棋的策略方法是知識的一類，此類知識的效用體現(xiàn)在棋力上。棋手向人工智能學習，是通過觀察對局，總結規(guī)律，然后自己形成關于行棋方法的知識。棋手們并沒有向圍棋人工智能詢問如何提升棋力。
知識檢索類AI則與此不同，你可以向它們提問，然后獲得想要的知識。知識檢索類AI大放異彩的事件發(fā)生在2011年2月，IBM公司研發(fā)的人工智能“沃森”以懸殊比分在美國著名智力競答電視節(jié)目“危險邊緣”中擊敗兩位人類“常勝將軍”，把100萬美元大獎收入囊中。筆者曾采訪參與IBM“沃森”項目的研究員潘越，寫了一篇題為《像海參一樣愚蠢，但比科學家聰明》的專欄文章，2011年7月發(fā)表在財富中文網上。潘越說，通過上網檢索并用判斷算法評估檢索結果的正確性，“沃森”能回答“是什么”，但對“為什么”和“怎么樣”類型的問題表現(xiàn)很差。
生成式AI如ChatGPT和知識檢索類AI也不同。“沃森”工作時是要接入互聯(lián)網搜索答案的，ChatGPT卻不聯(lián)網，它自己根據(jù)此前的訓練來生成答案。“沃森”出錯的情況很少發(fā)生，偶爾出錯的原因是它搜到了錯誤答案卻誤以為正確；
ChatGPT則“擅長”胡編亂造，每每提供錯誤答案，需要人類自己核實它生成內容的正確性。讓今天的ChatGPT和12年前的“沃森”來一場知識比賽，“沃森”必然完勝。
生成式AI的長處在于掌握自然語言，真的能夠自己“說話”而不是復述輸入的內容。當生成式AI和知識檢索類AI實現(xiàn)優(yōu)勢互補，人們就有了既能夠提供可靠知識，又很會使用人類語言文字的AI。即使只考察12年前的“沃森”，也不難認識到，AI能夠掌握的數(shù)據(jù)比一個人的記憶庫不知大多少倍。其實，知識權威的桂冠正像棋力桂冠一樣，已經牢牢戴在AI的頭上，如在醫(yī)療領域，人工智能作為醫(yī)學知識權威，早就開始“執(zhí)業(yè)”診療了。今年6月，中國科學院院士顧東風教授說：人工智能可以快速處理大量醫(yī)療數(shù)據(jù)；
在臨床診斷方面，AI能夠識別5類38種心電圖，算法的診斷敏感性明顯高于普通心內科醫(yī)師的水平。
吉登斯在《現(xiàn)代性的后果》一書中提出：“在現(xiàn)代性的條件下，再沒有什么知識是‘原來意義上的知識了，在‘原來的意義上，‘知道就是能確定。”這種觀點能夠幫助我們理解數(shù)字時代的“知識反哺”現(xiàn)象——傳統(tǒng)社會里總是前輩向后輩傳授知識，而在現(xiàn)代社會，由于知識日新月異，并且青少年接受能力更強，父母、祖父母反而要從青少年那里獲得知識，如手機的設置、網購的方法。我們也可以設想，在AI應用普及的未來，再沒有什么知識是“原來”意義上的知識了，除非它經過了AI的確認。在那樣的場景中，AI扮演熟悉互聯(lián)網和手機操作的青少年，人類扮演它們的父母和祖父母。人們開始習慣于就某個不了解的知識向AI提問，把獲得的回答奉為標準答案。這種方法的好處是節(jié)約時間，讓學習知識的效率極大提高，但難免讓AI成為無可爭議的知識權威。
當人們在諸多領域習慣了非人類權威，社會心理將變得怎樣？不妨參考圍棋手們預演的心路歷程：痛苦——不甘——反抗——反抗失敗——接受現(xiàn)實——察覺好處——甘之如飴。
非人類權威的生成，也即人類權威的黃昏。由于AI，世界將從諸神的黃昏走向人類的黃昏嗎？抑或AI將成為新的造神運動的產物？或許我們還有一些時間來思考這些問題。
猜你喜歡非人類沃森棋手“非人類紀”的星際藝術及宇宙媒介——答林萬山藝術生活-福州大學廈門工藝美術學院學報(2022年1期)2022-08-31IBM沃森成敗錄中國工業(yè)和信息化(2020年2期)2020-03-272019年下半年男子棋手等級分棋藝(2019年8期)2019-12-25達標并不是一件好事做人與處世(2018年14期)2018-08-10論當代不分類屬的本體論北京科技大學學報(社會科學版)(2016年3期)2016-08-01An Eco—critical Interpretation of the Conflicts in the Poem “Snake”校園英語·上旬(2016年8期)2016-05-1490后棋手走在路上金色年華(2016年8期)2016-02-28非人類免疫缺陷病毒感染兒童馬內菲青霉病合并淋巴結結核1例微生物與感染(2015年1期)2015-02-28《雙螺旋》險些被禁止出版——記詹姆斯·沃森一些鮮為人知的故事世界科學(2013年6期)2013-03-11業(yè)余棋手錯覺棋藝(2001年11期)2001-05-21