人工智能的出現(xiàn)將“奇點(diǎn)”這個概念推到了前沿，許多硅谷人相信人工智能將徹底改變?nèi)祟惿鐣Ｈ欢藗円矒?dān)心人工智能可能帶來的潛在負(fù)面后果，包括可能摧毀人類的可能性。這篇文章來自編譯，作者在文中針對“奇點(diǎn)”概念展開了探討，同時還探討了硅谷對人工智能的興奮和擔(dān)憂，并強(qiáng)調(diào)了這種技術(shù)所帶來的潛在利益和風(fēng)險。

奇點(diǎn)是指技術(shù)和人工智能極大地改變世界的時刻，這個概念備受期待，但同時也令硅谷感到恐懼。

雖然人們對人工智能的潛在積極影響感到興奮，但大家也擔(dān)心其可能對人類產(chǎn)生災(zāi)難性的后果。

目前，人們對人工智能和奇點(diǎn)的關(guān)注主要集中在大型語言模型的發(fā)展上，但人們對這些模型是否真正代表了奇點(diǎn)所承諾的指數(shù)級智能增長仍存在爭議。

數(shù)十年來，硅谷一直在期待一種新技術(shù)的出現(xiàn)，這種技術(shù)將會徹底改變?nèi)祟惖纳罘绞健⒔?jīng)濟(jì)形態(tài)、社會機(jī)構(gòu)等方方面面。它能夠讓人類和機(jī)器結(jié)合起來，可能還會帶來前所未有的機(jī)遇和挑戰(zhàn)，并且將歷史劃分為“之前”和“之后”的兩個時代。

這一里程碑的名字可以稱作“奇點(diǎn)”（Singularity）。

譯者注：“奇點(diǎn)”（Singularity）是美國科幻作家弗諾·文奇（Vernor Vinge）提出的概念，指的是一種未來可能發(fā)生的事件或情況，即人工智能的智能超越了人類智能的水平，從而引發(fā)了技術(shù)和社會的爆炸性變化，讓未來發(fā)生的事情難以預(yù)測和理解。

奇點(diǎn)可能以多種方式出現(xiàn)。一種可能性是，人們將計(jì)算機(jī)的處理能力融入到自己的先天智力中，讓自己變得更加強(qiáng)大。或者，計(jì)算機(jī)可能會變得更加復(fù)雜，以至于它能夠真正思考，從而打造出一個“全球大腦”。

無論是哪種情況，都將帶來劇烈、呈指數(shù)級增長的變化，而且這些變化都不可逆轉(zhuǎn)。一臺具有自我意識的超級智能機(jī)器能夠自行進(jìn)行設(shè)計(jì)、改進(jìn)和升級，其速度遠(yuǎn)遠(yuǎn)快于任何科學(xué)家團(tuán)隊(duì)，這也必然將引發(fā)一場智力爆炸。過去幾個世紀(jì)的進(jìn)步可能在短短數(shù)年甚至數(shù)月內(nèi)實(shí)現(xiàn)突破性進(jìn)展。奇點(diǎn)就是一個通向未來的彈射器。

如今，人工智能在科技、商業(yè)和政治領(lǐng)域掀起了一場前所未有的波瀾。從硅谷傳出的各種夸張言辭和荒誕論調(diào)來看，這種極度美好的未來似乎終于就要到來了。

谷歌一向低調(diào)的首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）表示，“人工智能的重要性和影響已經(jīng)超越了火、電或任何過去的技術(shù)成果”。億萬富翁投資者里德·霍夫曼（Reid Hoffman）表示，“世界將迎來一股空前的力量，這將推動整個人類社會向前邁進(jìn)。”微軟聯(lián)合創(chuàng)始人比爾·蓋茨（Bill Gates）宣稱，人工智能“將改變?nèi)藗兊墓ぷ鳌W(xué)習(xí)、旅行、獲得醫(yī)療保健和相互交流的方式”。

人工智能是硅谷推出的終極新產(chǎn)品，它能夠按需實(shí)現(xiàn)超越人類的能力。

但其中也隱藏著一個不容忽視的問題。這就好像科技公司在推出自動駕駛汽車時，還附帶了一條警告信息，但這些汽車在開往沃爾瑪?shù)耐局锌赡軙ā?/p>

今年五月，特斯拉和推特的負(fù)責(zé)人埃隆·馬斯克（Elon Musk）在接受美國消費(fèi)者新聞與商業(yè)頻道（CNBC）采訪時表示：“人工通用智能的出現(xiàn)之所以被稱為奇點(diǎn)，是因?yàn)樵谶@之后，將很難預(yù)測接下來會發(fā)生什么。”他認(rèn)為，我們將迎來“豐盛時代”（an age of abundance），但人工智能“毀滅人類”的風(fēng)險性“仍然不可忽視”。

在科技界，人工智能的最堅(jiān)定支持者是美國人工智能公司 OpenAI 的首席執(zhí)行官山姆·奧爾特曼（Sam Altman）。這家初創(chuàng)公司去年推出的 ChatGPT 聊天機(jī)器人也引發(fā)了持續(xù)的熱潮。奧爾特曼表示，人工智能將是“實(shí)現(xiàn)經(jīng)濟(jì)賦權(quán)和許多人獲得財(cái)富的最大力量”。

不過，對于創(chuàng)立開發(fā)腦機(jī)接口技術(shù)公司的馬斯克所言，他也覺得馬斯克的批評是有道理的。

前不久，奧爾特曼在一封由非營利組織“人工智能安全中心”（Center for AI Safety）發(fā)起的聯(lián)名公開信上簽字。信中表示，“防范人工智能帶來的滅絕風(fēng)險，應(yīng)該成為全球優(yōu)先關(guān)注的問題”，其重要性與“大流行病和核戰(zhàn)爭”相當(dāng)。其他簽署人包括來自 OpenAI 公司的同事以及微軟和谷歌公司的計(jì)算機(jī)科學(xué)家。

美國人工智能公司 OpenAI 的首席執(zhí)行官山姆·奧爾特曼（Sam Altman）是人工智能的最堅(jiān)定支持者。圖片來源：Haiyun Jiang

滅世論在硅谷是一個熟悉、甚至是受歡迎的話題。幾年前，幾乎所有的科技領(lǐng)域高管都好像在某個偏遠(yuǎn)地區(qū)建立了一個備有充足物資的末日避難所，以備不時之需。2016 年，奧爾特曼還表示，他“儲備了槍支、黃金、碘化鉀、抗生素、電池、水、以色列國防軍的防毒面具，并且在大蘇爾建立了一個可以直接飛過去的大型避難所。”大流行的爆發(fā)，讓這些科技領(lǐng)域的末日求生者至少在一段時間內(nèi)感到他們的預(yù)見性得到了印證。

如今，他們正為奇點(diǎn)的到來做準(zhǔn)備。

對此，《智能幻覺》（The Intelligence Illusion）一書作者巴爾杜爾·比亞爾納松（Baldur Bjarnason）稱，“他們自認(rèn)為自己非常明智，但他們的言辭卻更像是公元 1000 年時談?wù)撃┤諉⑹镜男薜朗俊＿@讓人感到有些擔(dān)憂。”

“超越”的起源

“奇點(diǎn)”這一概念的起源可以追溯到上世紀(jì) 50 年代的計(jì)算機(jī)科學(xué)先驅(qū)約翰·馮·諾伊曼（John von Neumann）。馮·諾伊曼曾經(jīng)預(yù)言，“技術(shù)的不斷加速進(jìn)步”將會引發(fā)“人類歷史上某個關(guān)鍵的奇點(diǎn)”。

計(jì)算機(jī)科學(xué)先驅(qū)約翰·馮·諾伊曼（John von Neumann）。圖片來源：Getty Images

英國數(shù)學(xué)家歐文·約翰·古德（Irving John Good）也是這一觀點(diǎn)的有力支持者。他曾在布萊切利園（Bletchley Park，二戰(zhàn)期間英國政府進(jìn)行密碼解讀的主要場所）協(xié)助英國政府破解過德國的恩尼格瑪密碼機(jī)。1964 年，他寫道：“盡早建造超級智能機(jī)器是人類生存的關(guān)鍵。”

美國電影導(dǎo)演斯坦利·庫布里克（Stanley Kubrick）在執(zhí)導(dǎo)拍攝科幻電影《2001 太空漫游》（2001: A Space Odyssey）時，曾向古德請教過該影片中由善良變惡意的人工智能角色 HAL 的問題，這算是計(jì)算機(jī)科學(xué)和科幻小說之間模糊邊界的早期范例。

卡內(nèi)基梅隆大學(xué)（Carnegie Mellon University）機(jī)器人研究所兼職教授漢斯·莫拉維克（Hans Moravec）認(rèn)為，奇點(diǎn)時代的到來，不僅能造福于生者，也能令死者得以重生。

“我們將有機(jī)會以真實(shí)而直接的方式重新創(chuàng)造過去，并與之互動。”他在《思想之子：機(jī)器人與人類智能的未來》（Mind Children: The Future of Robot and Human Intelligence）一書中寫道。

近年來，企業(yè)家、發(fā)明家雷·庫茲韋爾（Ray Kurzweil）也是奇點(diǎn)的最大擁護(hù)者。庫茲韋爾在 1990 年撰寫過《智能機(jī)器時代》（The Age of Intelligent Machines）一書，2005 年撰寫過《奇點(diǎn)臨近》（The Singularity Is Near）一書。現(xiàn)在，庫茲韋爾正在撰寫《奇點(diǎn)更加臨近》（The Singularity Is Near）一書。

他預(yù)測，在本十年末，計(jì)算機(jī)將通過圖靈測試，達(dá)到與人類難以區(qū)分的水平。再過另外十五年后，真正的超越將會到來：“屆時，計(jì)算技術(shù)將融入我們自身，我們的智力將得到大幅提升，甚至可能增加幾百倍。”

到那時，庫茲韋爾就已經(jīng) 97 歲了。借助各種維生素和補(bǔ)品的幫助，他希望自己能活到那一天，親眼目睹這個時代的到來。

企業(yè)家、發(fā)明家雷·庫茲韋爾（Ray Kurzweil）也是奇點(diǎn)的最大擁護(hù)者。圖片來源：Friso Gentsch/Picture Alliance

一些批評奇點(diǎn)的人認(rèn)為，奇點(diǎn)的概念試圖在軟件領(lǐng)域中建立一種類似于有組織宗教信仰的信念體系，其中包括對未來的預(yù)測和技術(shù)潛力的堅(jiān)定信仰，但這種信仰方式可能缺乏嚴(yán)謹(jǐn)?shù)目茖W(xué)證據(jù)支持，難以讓人信服。

麻省理工學(xué)院（MIT）計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室前主任羅德尼·布魯克斯（Rodney Brooks）稱，“他們都想獲得永生，卻不愿意相信‘上帝’。”

如今，“奇點(diǎn)”爭議中的創(chuàng)新主要涉及到的是大型語言模型（LLM），這一人工智能系統(tǒng)也是驅(qū)動聊天機(jī)器人發(fā)展的核心。與這些大型語言模型對話，它們可以迅速、連貫地回答問題，而且通常都能提供相當(dāng)有啟發(fā)性的答案。

人工智能領(lǐng)域的長期創(chuàng)業(yè)者、《人人都應(yīng)該知道的人工智能》（Artificial Intelligence: What Everyone Needs to Know）一書作者杰里·卡普蘭（Jerry Kaplan）表示，“當(dāng)你向大型語言模型提問后，它會去理解問題的含義，確定應(yīng)該給出什么樣的答案，然后將答案以書面語言形式呈現(xiàn)出來。如果這不是對通用智能的定義，那什么才是呢？”

卡普蘭還表示，他對無人駕駛汽車和加密貨幣等備受矚目的技術(shù)持懷疑態(tài)度。同樣，他之前對最新的人工智能熱潮也持有同樣的懷疑態(tài)度，但在看到人工智能所展現(xiàn)的潛力后，他已經(jīng)開始改變對人工智能的看法。

“如果這不是那個‘奇點(diǎn)’，那它肯定也算是一個奇點(diǎn)。這是一項(xiàng)具有重大影響的技術(shù)，它將顯著推進(jìn)人類在藝術(shù)、科學(xué)和知識領(lǐng)域的發(fā)展。當(dāng)然，同時也肯定會帶來一些問題。”他補(bǔ)充說。

批評者反駁稱，即使大型語言模型取得了令人矚目的成果，但這也無法與奇點(diǎn)所描繪的巨大、全球性的智能相提并論。準(zhǔn)確區(qū)分炒作和現(xiàn)實(shí)兩者界限的部分問題在于，推動這項(xiàng)技術(shù)的原理和算法變得越來越難以揭示。

OpenAI 最初是一個使用開源代碼的非營利組織，如今卻轉(zhuǎn)變?yōu)闋I利性企業(yè)。有批評者指出，OpenAI 公司現(xiàn)在實(shí)際上是一個“黑匣子”，大家難以理解其內(nèi)部運(yùn)作。在這方面，谷歌和微軟也存在信息公開度不高的情況。

目前許多關(guān)于人工智能的研究都是由那些能從研究成果中獲益的公司所主導(dǎo)。微軟公司（該公司已陸續(xù)向 OpenAI 公司投資 130 億美元）研究人員在今年 4 月發(fā)表的一篇研究報(bào)告中寫道，OpenAI 最新模型的初步版本“展示出了多個智能特征”，包括“抽象能力、理解能力、視覺能力、編碼能力”以及“理解人類動機(jī)和情感的能力”。

斯坦福大學(xué)（Stanford University）計(jì)算機(jī)科學(xué)博士生瑞蘭·謝弗（Rylan Schaeffer）表示，一些人工智能研究人員在描述這些大型語言模型表現(xiàn)出的“突現(xiàn)能力”方面并不準(zhǔn)確。雖然這些大型語言模型具有一些未知和難以解釋的能力，但這些能力在規(guī)模較小的語言模型版本中并不明顯或不存在。

謝弗和另外兩位斯坦福同事布蘭多·米蘭達(dá)（Brando Miranda）和桑米·科耶喬（Sanmi Koyejo）在今年 5 月發(fā)表的一篇研究論文中研究了這個問題，他們得出結(jié)論稱，這種突現(xiàn)能力只是由于測量誤差而造成的“錯覺”，并非模型大小和復(fù)雜程度的增加所致。實(shí)際上，研究人員可能會傾向于看到他們希望看到的結(jié)果。

永生不死，永利不衰

在華盛頓、倫敦和布魯塞爾，立法者都逐漸開始認(rèn)識到了人工智能帶來的機(jī)遇和問題，并開始討論有關(guān)監(jiān)管問題。奧爾特曼正在為 OpenAI 公司進(jìn)行推廣路演，旨在消除早起批評，同時將其公司塑造為引領(lǐng)奇點(diǎn)時代的引路人。

這包括對監(jiān)管的開放態(tài)度，但具體的監(jiān)管形式目前還并不明確。不過，硅谷普遍認(rèn)為，政府機(jī)構(gòu)效率低下且缺乏專業(yè)知識，無法有效監(jiān)管快速發(fā)展的技術(shù)領(lǐng)域。

谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）今年早些時候在接受新聞訪談節(jié)目《與媒體見面》（Meet the Press）時表示，“政府機(jī)構(gòu)中沒有誰能夠妥善地處理這個問題”，并提出了人工智能自我監(jiān)管的觀點(diǎn)。“但這個行業(yè)內(nèi)部卻有能力制定大致正確的監(jiān)管措施。”他補(bǔ)充說。

人工智能和技術(shù)奇點(diǎn)一樣，大家認(rèn)為其所帶來的變化都不可逆轉(zhuǎn)。奧爾特曼和他的同事前不久表示，“要遏制人工智能的進(jìn)一步發(fā)展，必須建立類似于全球監(jiān)管體系的管控機(jī)制，但即便如此，也不能保證一定能成功。”他們還稱，如果硅谷不這么做，肯定也有其他人去做這件事。

但是，目前卻很少有人討論其中產(chǎn)生的巨大利潤。盡管普遍認(rèn)為人工智能是一臺創(chuàng)造無限財(cái)富的機(jī)器，但實(shí)際上從中獲利的基本上還是那些已經(jīng)富有的人。

今年，微軟的市值已經(jīng)飆升了 5 萬億美元。生產(chǎn)運(yùn)行人工智能系統(tǒng)芯片的英偉達(dá)（Nvidia），最近由于對芯片需求的激增，也成為了美國市值最高的上市公司之一。

“人工智能就是人類社會一直期望擁有的技術(shù)。”奧爾特曼發(fā)推文說。

不可否認(rèn)的是，這的確是科技世界一直期望擁有的一項(xiàng)技術(shù)，它的出現(xiàn)也正好趕上了最好的時機(jī)。

去年，硅谷經(jīng)歷了裁員和利率不斷上升的雙重打擊，而加密貨幣在經(jīng)歷一段繁榮和興盛之后，也因欺詐及隨之而來的失望而迅速衰落。

“跟著錢走。”以幽默方式描繪技術(shù)奇點(diǎn)的科幻小說《書呆子的狂想》（The Rapture of the Nerds）合著者查爾斯·斯特羅斯（Charles Stross）說。斯特羅斯也是科幻小說《漸速音》（Accelerando）的作者，在這本書中，他也以更嚴(yán)肅和認(rèn)真的口吻描繪了未來生活的樣子。

“其中真正的機(jī)會在于，企業(yè)將能夠用軟件來替代許多有缺陷、昂貴、反應(yīng)遲緩且由人工操作的信息處理單元，從而達(dá)到降本增效的目的。”他說。

長期以來，人們一直都把技術(shù)奇點(diǎn)想象成一場具有全球性影響的事件，能夠徹底顛覆人類的認(rèn)知體系，這一變革的威力也令人驚嘆。就目前來看，這種可能性依然存在。

然而，由于當(dāng)今硅谷對企業(yè)利潤的極端追求，這在一定程度上將導(dǎo)致技術(shù)奇點(diǎn)首先被用作一種裁員工具。在追求萬億市值的過程中，次要問題都可以暫時擱置。