2022年9月，一位年輕人用Al繪畫工具Midtravel創作的作品《太空歌劇》在美國科羅拉多博覽會的藝術競賽中獲獎。該獎項是“數字藝術/數字修飾照片”組中的第一個獎項。然而，這引發了一波文化爭議和反人工智能繪畫。

一位網友說，我們已經眼睜睜地目睹了藝術的消亡。“如果即使是藝術作品也無法避免被機器吞噬，那么高技能工人也將面臨被淘汰的危機。那么我們該怎么辦？”

AI科學家們最初的猜想是，AI大發展后，一些藍領崗位、重復性的工作會首先被取代。然而，ChatGPT、AlphaFold等工具出來后，人們發現，最先感受到AI沖擊的，反而是創造性的工作，而送餐這一類涉及勞動力的工作卻沒能被取代。他解釋說，在機器人、自動駕駛等領域，機械與智能是兩個基本的模塊。現實進展來看，機械部分有很多物理上的限制，很多技術目前尚未突破；得益于深度學習等模型的發展，智能部分反而突破更快。

這些涉及創造力、知識探索、信息獲取的行業，是人文領域的核心，是人類最擔心被機器化的部分。一直以來，AI在這些領域的重大突破都伴隨著廣泛的倫理爭議。

世界知名的復雜性科學研究中心、美國圣塔菲研究所教授梅勒妮·米切爾近日在接受媒體采訪時就談到，過于盲目采用這些技術，將我們的交流和創意自動化，可能會導致人類失去對機器的控制，“機器人會給機器人寫電子郵件，而機器人會回復其他機器人”。米切爾說，“我們作為人的特質從我們的信息中被卷走了。”

1月5日，紐約市教育部門表示，紐約公立學校的所有設備和網絡上將禁止使用ChatGPT。紐約市教育部門發言人詹娜·萊爾指出，這一決定是基于“該工具可能會對學生學習產生負面影響，以及對其內容的安全性和準確性的擔憂”。

人們普遍表示擔心，該工具可能會鼓勵學生抄襲。詹娜·萊爾說，雖然ChatGPT能夠為問題提供快速而簡單的答案，但它沒有培養批判性思維和解決問題的能力，而這些能力對學術和終身成功來說是至關重要的。

2022年12月27日，美國西北大學的一個團隊在預印本論文bioRxiv上發表了一篇文章。這項研究中，研究者讓ChatGPT學習發表在《柳葉刀》《美國醫學會雜志》等頂刊上的文章，并撰寫50篇醫學研究摘要，然后讓抄襲檢測器、人工智能輸出檢測器和期刊審稿人將這些摘要與原始摘要比較，找出ChatGPT編造的摘要。

結果發現，ChatGPT生成的摘要全部順利通過了抄襲檢測器，人工智能輸出器找出了66％的生成摘要，期刊審稿人僅正確識別了68％的生成摘要和86％的真實摘要。研究者們表示，使用大型語言模型進行科學寫作的道德和可接受邊界需要被進一步明確。

《自然》雜志最新發布的規定稱，任何大型語言模型工具都不能成為論文作者；如在論文創作中用過相關工具，作者應在“方法”或“致謝”或適當部分明確說明。

用AI寫論文這樣的事情，技術上一定會發生的，而且知識獲取的門檻越來越低，“我覺得發展方向上更多不一定是禁止它，而是說教育評估的標準和理念需要發生變化。相比那些大段輸出的、能夠在機器的幫助下寫得更好的文字，思考的質量、深度和研究的原創性等將會越來越重要”。

這就好像一項新的技術，比如說汽車、飛機被發明了，不可能說不用它們，關鍵是如何使用、如何規范。從這一意義上來說，王帥表示，以ChatGPT為代表的生成式人工智能的出現，圍繞它及其應用相關的各方面都沒有跟上，包括法律、教育、社會、倫理等。實際上，就算是圈內人，也沒有完全理解AI領域正在發生的事情意味著什么。

2022年12月，《大西洋月刊》在《大學論文已死》的文章中警示，沒有人為人工智能將如何改變學術界做好準備。“如今AI模型遠比我們想象的更強大，而我們用于探索它們的技術卻非常幼稚。”OpenAI實驗室的人工智能政策專家杰克·克拉克在近來的一篇文章中寫道。

目前，業內沒有能力去處理AI帶來的可能的社會影響，因為人們對它的了解還很有限，這是最大的問題。比如說，盡管美國部分學校禁用ChatGPT生成的內容，但現在卻沒有手段檢測和區分機器與人類生產的內容，也就更加難說防御機制，“因為GPT這些技術太新了，監管部門也沒辦法去理解。我認為，在幾年時間內，網絡上會有很多虛假信息的出現”。

每一次AI出現一個新東西，大眾總是會覺得某種巨大的變化將要來臨，并且往往伴隨著機器代替人工的擔憂。然而，王詠剛說，人們一方面太容易夸大AI短期內取得的成果和影響；另一方面，卻又忽視AI正在發生的、真正可能帶來不可逆的長期變化。

在他看來，短期來說，ChatGPT等人工智能的應用仍舊是工具式的，它會提高效率、替代一部分工作，但真正值得擔心的是，隨著計算機能夠處理的數據結構、模型、算法越來越膨脹和復雜，里面可能有大量的“黑盒子”運算，人們未必能預測其最終輸出的結果。會不會在某個時間點，人工智能會跨越某個關鍵的節點，進入到一個我們尚未看到的世界，沒有人可以預測。