30年後不會有AI了？

黎碀栜

【30 年後，不再有「AI」這個字。】
—— 科技思想家 Kevin Kelly 專訪
󠀠
Kevin Kelly ，WIRED 雜誌創辦人，當代著名的科技評論與思想家，他作品廣泛包含文化評論、哲學思辨，同時也被稱為「未來學家」。
󠀠
去年 3 月，電子報作家 Noah Smith 與他訪談，其中討論「AI 與人類心智」的內容非常精彩。
󠀠
以下整理分享。
󠀠
▋AI 會有自我意識嗎？
󠀠
會。理論上電腦可以模擬任何意識體，但是運轉的基質會是關鍵。
󠀠
只要 AI 還在晶片上運作，AI 產出的幽默、創意都會有點「怪怪的」。最好理解 AI 的方法，就是把他們當成外星生物。想像「星際迷航」（Startrek）的史巴克（Spock）。
󠀠
甚至在未來，只有劣質的 AI 才會有自我意識。昂貴的 AI 產品會標榜「無自我意識的 AI」。
󠀠
畢竟，我們只希望 AI 好好開車，不要開到一半開始罵髒話。
󠀠󠀠
▋準備好迎接「多重 AI 宇宙」
󠀠
AI 不會只有一種，AGI （通用人工智慧）也不是人類文明的終點。
󠀠
負責專門功能的 AI 會比 AGI 強大，AI 必然會演化出多種種類，專門分化負責不同的工作。
󠀠
甚至不同的 AI ，也會有不同的個性。在圖像生成領域已經可以看見這個現象了，AI 生成藝術家會偏好跟不同的引擎合作。
󠀠
AI 和人類的關係會更接近夥伴、助理甚至寵物，不是像大眾想的 AI 會統治人類。
󠀠
訓練你的 AI 實習生會需要大量的時間投入，有些人會比其他人強 10~100 倍，這些人就會成為 AI 寶可夢大師。
󠀠
目前還沒有出現任何 AI 真的取代職業的現象，大多數 AI 失業焦慮都來自第三者。（註：這篇訪談是 2023 年 3 月）
󠀠
▋怎樣讓 AI 比我們有道德？
󠀠
目前生成式 AI 就是實習生：他們很廢，只會有最平庸的產出（就像大多數人類的作品），必須檢驗與修改後才能使用。
󠀠
AI 是用人類平均作品去訓練的，因此所有人類平均的錯誤、偏見、弱點與邪惡，全部都會有。
󠀠
這點是不能被接受的， AI 必須比我們更有道德。
󠀠
怎樣讓 AI 比我們有道德？程式上並不難，只是多加幾行 code 而已。
󠀠󠀠
真正困難的是回答「什麼叫做比我們更有道德？」，甚至「什麼叫做『我們』？」這些問題。
󠀠󠀠󠀠
我們對「道德」的認識其實是非常粗淺又雙標的。做出有道德感的 AI 會是人類巨大課題。
󠀠󠀠
▋AI 的副產品，是揭露人類心智如何運作。
󠀠󠀠
Kevin Kelly 認為未來 100 年，是人類自我認同危機的世紀。AI 與人類心智如此接近，讓我們不得不爭吵討論「什麼是人？」這個大哉問。
󠀠
但同時， AI 科技突破的重大意義是，我們發現心智其實比想像中還要「機械」。
󠀠󠀠󠀠󠀠
例如，因為 AI，我們發現「下棋、寫作、畫畫」其實都蠻機械化的。
󠀠󠀠
在我們人腦可能存在的十幾個心智運作模型中，我們已經成功模擬出了兩個：「模式認知與配對」（perception and matching）。
󠀠󠀠
隨著我們慢慢成功模擬其他心智運作模型，我們會更加理解「心智」究竟如何運作。
󠀠
這個進展會遠超過數百年來心理學與神經科學提供的知識。
󠀠
▋科技體（technium）
󠀠
Kevin Kelly 認為，要真的理解「科技」是什麼，你必須把它看成「生物體」的延伸，一個有自主生命的「科技體」（technium）。
󠀠
科技之間不會獨立存在。要做一個錘子，你需要鋸子；要做一個鋸子，你需要一個錘子；要做一台電腦，你兩個都需要。
󠀠
互相依賴產生複雜網絡。這個網絡的整體，已經大於所有部分的總和，展示出它自己的「渴望、傾向、行動」。這些都是獨立於人類，只屬於「科技體」的天生特質。
󠀠
Kevin Kelly 說：「我不斷自問的問題是：科技體渴望什麼？」
󠀠
▋科技體第一個特徵：資訊渴望副本
󠀠
生物體藉由基因的自我複製而生存、演化，基因渴望被複製。
󠀠
科技體作為生物體的延伸也有一樣的傾向。Kevin Kelly 這樣說：「資訊渴望副本」（Information wants to be copied）。
󠀠
任何能夠被複製的資訊，一定會被複製。我們藉由複製資訊來傳遞訊息、溝通、推進科技進展。
󠀠
某些人會對於複製感到生氣，他們試圖用智財權保護音樂、期刊、或者拿來訓練 AI 的藝術作品，但這其實是在跟整個科技體的傾向對做，贏面幾乎為零。
󠀠
Kevin Kelly 預測，擁抱副本的發明、創新與法律會廣泛流通，試圖禁止副本的則會被淘汰。
󠀠
▋科技體的第二個特徵：科技發明，是同時發生的獨立事件。
󠀠
Kevin Kelly：「在愛迪生之前，有 23 個發明家各自獨立發明了將電力轉換成為光照的『電力蠟燭』。愛迪生能被後世記住，因為他是第一個找到『燈泡』商業模式的人。」
󠀠
「如果貝爾沒有剛好搶到發明電話的專利權，那絕對會被 Elisha Gray 搶走，因為他們剛剛好在同一天申請電話的專利（1876 年 2 月 14 日）」
󠀠
不管是微積分、蒸汽引擎都是這樣。
󠀠
孤獨的發明家是一種浪漫想像，真實世界的科技發明絕不是獨自存在，而是由過去發明累積一個大型網絡，建立出下一個發明。
󠀠
▋30 年後，沒有所謂「AI」。
󠀠
就跟 20 年前我們稱呼「智慧型手機」，現在是「手機」一樣；30 年後不會有「人工智慧」這個詞。
󠀠
若從三十年後的眼光回看今天，我們還沒有真正的「AI 專家」。這對任何即將開始的人都是好事，因為你跟其他人的起跑點是平等的，你跟任何人一樣有機會成為領域專家。
󠀠󠀠
同時，九成的 AI 不會被大眾發現。
󠀠
這是歷史上所有成功科技的共同象徵，真正重要的科技進展，往往不會出現在大眾眼界內，例如「水管」與「電線」。
󠀠
Kevin Kelly 給年輕人的建議是：專注於那些還沒有語言定義的東西。
󠀠
當你研究的東西尚未有語言定義時，有很高機會，你會是唯一一個知道怎樣做那件事的人。
󠀠
反之當你研究的東西早就有一套系統，你就沒有獨特性。
󠀠
你的 20~30 歲最適合拿來做一些看起來跟成功無緣、非常大膽、詭異、瘋狂的事情。表象上看起來越失敗，對你的未來就是越堅固的基石。