| 科技 
中國企業家雜志消息，“首先要做的是達成共識，現實不是科幻小說，我們需要說服人們在安全方面做更多的研究。”杰弗里·辛頓說道。
4月初，2024年諾貝爾物理學獎獲得者、加拿大計算機學家杰弗里·辛頓（Geoffrey Hinton，以下簡稱“辛頓”）接受了加拿大記者史蒂文·派金（Steven Paikin）的采訪，兩人就人工智能風險、與馬斯克的交鋒、諾貝爾獎獎金的使用等話題展開了討論。
辛頓表示，人工智能的發展主要會帶來兩種風險，一是濫用人工智能，比如散布AI假消息、AI視頻謀取私利，利用AI發動網絡攻擊等；二是當人工智能變得比我們人類更聰明時，它是否會脫離人類的控制，這一點是大家能想到但現階段還沒有解決辦法的問題。因此辛頓呼吁人類要達成共識，在AI安全發展方面做更多的研究，特別是有能力的大公司，至少要把三分之一的資源投入到安全研究上。
精彩觀點如下：
1.他們是想把這個獎頒給人工智能，因為人工智能是當今科學界最令人興奮的領域。
2.AI風險主要有兩種：一種是濫用人工智能，這是短期的風險，并且已經發生了；第二種是當人工智能變得比人類更聰明時，它是否會脫離人類的控制，這是長期要考慮的風險。
3.首先要做的是達成共識，現實不是科幻小說，我們需要說服人們在安全方面做更多的研究。
4.在保護人類安全方面，我們已經沒有國界劃分，各國應該相互合作，我想沒有哪個國家愿意看到人工智能失去控制。
5.大公司至少要把三分之一的資源投入到安全研究上。
以下是對話全文（有刪減）：
諾貝爾物理學獎為什么頒給計算機科學家
主持人：2024年12月，在瑞典斯德哥爾摩舉行的諾貝爾頒獎儀式上，你獲得了諾貝爾物理學獎，那一天什么感受你還記得嗎？
杰弗里·辛頓：感覺太神奇了，我不是學物理的，卻獲得了諾貝爾物理學獎，我覺得他們是想把這個獎頒給人工智能，因為人工智能是當今科學界最令人興奮的領域。
主持人：此次的諾貝爾物理學獎頒發給你和約翰·霍普菲爾德（John J. Hopfield），是為了表彰你們“基于人工神經網絡實現機器學習的基礎性發現和發明”，能給我們解釋下這是什么意思嗎？
杰弗里·辛頓：在人的大腦中，有大量被稱為神經元的腦細胞，它們之間有連接，當你學習新事物時，就會改變這些連接的強度。因此，要理解大腦如何工作，必須先弄清楚改變連接強度的規則是什么，大腦如何決定是增強還是減弱連接。你的大腦有辦法判斷是稍微增強還是減弱連接強度，問題是，這種方法是什么？它是如何做到的？如果你能模擬這一點，并構建一個模擬腦細胞的大型網絡，會發生什么？我們現在知道答案了，它會變得非常智能。
主持人：在成千上萬的科學研究領域中，你為什么選擇了這一個？
杰弗里·辛頓：因為這是最有趣的領域。要想理解人類，就必須研究清楚大腦是如何工作的。
AI的兩種風險
主持人：我們還沒有完全了解大腦的工作原理，雖然比以前有了一點進步，但這仍然是一個巨大的課題。在獲得諾貝爾獎之前，你已經是人工智能的知名專家了，你一直在警告我們人工智能存在風險，為此幾年前還辭去了谷歌的工作，在你看來，對人工智能缺乏充分控制的風險到底是什么？
杰弗里·辛頓：AI風險主要有兩種：一種是濫用人工智能，這是短期的風險，并且已經發生了；第二種是當人工智能變得比人類更聰明時，它是否會脫離人類的控制，這是長期要考慮的風險。生活中存在更智能的事物被智能程度低得多的事物控制的例子，有時候更聰明的人也會被不太聰明的人控制，這和智力高低沒關系。
主持人：濫用人工智能具體表現在哪里？
杰弗里·辛頓：比如，有人獲取了大量用戶數據，并利用這些數據制作虛假的人工智能視頻，謀取政治利益。還有網絡攻擊，2023年~2024年，網絡釣魚攻擊的數量增加了1200%，2024年網絡釣魚攻擊的數量比2023年多了12倍。大模型讓這些不法分子能更輕易地發動網絡釣魚攻擊，過去，只要語法錯誤，我們就能輕易識別哪些是網絡攻擊，但現在很難發現。這些都是我們現在面臨的問題，是我們要防范的人工智能短期風險。
主持人：你說的第二種風險有什么案例？
杰弗里·辛頓：實際上我只知道一個例子，就是嬰兒和母親。對嬰兒來說，控制母親非常重要，為此人類付出了巨大的努力，進化出了讓母親無法忍受嬰兒哭聲的基因。
主持人：你擔心的長期風險短期內會對我們有影響嗎？
杰弗里·辛頓：長期風險是人工智能會變得比我們更聰明。幾乎所有頂尖的研究人員都同意這一點，只是在時間上有分歧，有人認為可能還有20年，有人認為3年，少數人認為1年，到那時會發生什么，我們一無所知。人們有自己的觀點，但沒有任何可靠的研究來預測到底會發生什么。我猜測人工智能有10%~20%的可能性會接管人類世界，但只是猜測，還沒有什么證明依據。
主持人：當你說到人工智能接管世界時，我感覺還有很長時間，你能給我們一個時間表嗎？
杰弗里·辛頓：不行，現在還沒有什么方法能預測它，但如果我們現在不采取行動，這一天或許很快就會到來。現在我們正處于歷史的轉折點，仍然有機會弄清楚如何開發超級人工智能并確保其安全。我們應該嘗試解決這個問題，花更多精力去弄清楚這一點。
主持人：我們該如何采取行動應對這些風險？
杰弗里·辛頓：現在有關于安全性的研究，但還遠遠不夠。首先要做的是達成共識，現實不是科幻小說，我們需要說服人們在安全方面做更多的研究。這就像氣候變化，首先要達成共識，即氣候變化確實存在。如果我們不采取行動，情況會非常糟糕，哪怕行動還不多 ，至少已經開始了。
對于可能毀滅人類的生存威脅，我認為所有國家都應該合作起來。事實上，在保護人類安全方面，我們已經沒有國界劃分，各國應該相互合作，我想沒有哪個國家愿意看到人工智能失去控制。現在好消息是各國意識到要合作應對生存威脅，但壞消息是我們還不知道該如何應對，所以迫切需要進行研究來找出解決這一問題的辦法。
主持人：這類安全研究該由誰來推動？
杰弗里·辛頓：大公司有資源，有能力培養進行安全研究的人才，不要只追求利潤，大公司至少要把三分之一的資源投入到安全研究上。
主持人：我們談了很多關于人工智能的風險，有沒有什么能讓我們保持樂觀，認為事情可能會有好結果？
杰弗里·辛頓：我們之所以要努力開發人工智能，確保其安全發展，是因為人工智能的確對人類有益。例如，在醫療保健領域，人工智能能讓人們得到更好的醫療服務。你或許會有一個看過1億名患者的家庭醫生，他清楚地了解家里所有人的檢查結果，能給出更好的診斷。目前，與醫生合作的人工智能系統在診斷復雜病例時所犯的錯誤比單獨的醫生要少得多，未來這塊肯定會發展得更好。
在教育領域人工智能技術也大有可為。有私人教師的孩子學習速度會快一倍，因為私人教師更清楚孩子哪里不懂。現在的人工智能還沒做到這種程度，但我想10年內就可以實現這個愿望。當孩子學習某些東西時，人工智能系統能準確識別出孩子哪里不懂，知道該給孩子什么案例幫助理解內容。如果私人教師的水平比普通教師高出兩倍，那么這些學生的水平就會比普通學生高出三倍甚至四倍。
諾貝爾獎獎金的用處
主持人：我們來談談世界上最富有的人吧（馬斯克），我知道你已經不在他的圣誕賀卡清單上了。
杰弗里·辛頓：我在很多事情上都同意他的觀點，也認可他做了很多好事，比如推廣新能源汽車、提供的Starlink（星鏈）解決了很多地方的通信問題。他確實做了很多好事，但他在政府效率部大裁員這件事我是不認可的，他幾乎隨機地裁減了大量政府工作人員，這些工作人員都是善良、誠實并努力做好本職工作的人。他指責這些人懶惰、無用，并裁掉他們的工作，絲毫不關心失去工作的人以后會怎么樣。
主持人：你和馬斯克在X上對峙，這是你們唯一一次直接的互動嗎？
杰弗里·辛頓：幾年前他讓我給他打電話，想和我談談關于人工智能風險的問題。我們簡單聊了人工智能安全問題后，他提出聘請我擔任xAI的顧問，他以為我會同意，因為他雇傭了我最好的學生之一作為xAI的技術骨干，后面他開始胡言亂語，最后我拒絕了他。
主持人：你的諾貝爾獎獎金有多少？
杰弗里·辛頓：獎金總共約100萬美元，我拿了一半差不多50萬美元。
主持人：這50萬美元你捐了一半給Water First，是嗎？
杰弗里·辛頓：是的，25萬美元相當于35萬加元。
主持人：Water First是什么機構？
杰弗里·辛頓：Water First是加拿大的慈善機構，致力于與當地居民和社區合作，通過教育、培訓和有意義的合作解決當地的水資源挑戰。
主持人：你為什么選擇他們？
杰弗里·辛頓：我曾在秘魯收養了一個孩子，在那里住了兩個月，當地的自來水不能喝，我體會到沒有安全飲用水的感受。如果你有孩子，卻沒有安全的飲用水，那么就要花大量時間思考如何防止孩子生病，這是強加給人們的額外負擔。我認為在加拿大這樣的富裕國家，還有那么多社區沒有安全飲用水是很荒唐的一件事，比如在安大略省，20%的居民社區沒有安全飲用水。我希望加拿大的每一個社區之后都能用上安全的飲用水。
原標題：AI發展的兩種主要風險是什么，諾貝爾物理學獎得主Hinton最新解讀|中企薦讀
編輯：陳艷琦 責編：張松濤 審核：阮鵬程
感謝您的支持，我會繼續努力的!
打開支付寶掃一掃，即可進行掃碼打賞哦
