AI教父" Geoffrey Hinton因擔(dān)憂AI技術(shù)風(fēng)險(xiǎn)辭去谷歌職位
Geoffrey Hinton 從谷歌辭職
Geoffrey Hinton，一位著名的人工智能研究者和“人工智能之父”之一，已從谷歌辭職，并對人工智能技術(shù)的持續(xù)發(fā)展?jié)撛诘娘L(fēng)險(xiǎn)發(fā)出警告。Hinton在給紐約時(shí)報(bào)的聲明中證實(shí)了他從谷歌的辭職。目前尚不清楚他與谷歌首席執(zhí)行官Sundar Pichai的具體討論細(xì)節(jié)。
Geoffrey Hinton，一位著名的人工智能研究者和“人工智能之父”之一，已從谷歌辭職，并對人工智能技術(shù)的持續(xù)發(fā)展?jié)撛诘娘L(fēng)險(xiǎn)發(fā)出警告。Hinton在給紐約時(shí)報(bào)的聲明中證實(shí)了他從谷歌的辭職。目前尚不清楚他與谷歌首席執(zhí)行官Sundar Pichai的具體討論細(xì)節(jié)。
Hinton因其在神經(jīng)網(wǎng)絡(luò)方面的開創(chuàng)性工作獲得了“計(jì)算機(jī)界的諾貝爾獎(jiǎng)”——圖靈獎(jiǎng)。作為“三位人工智能教父”之一，Hinton與其他兩位合作伙伴共同獲得了2018年圖靈獎(jiǎng)，以表彰他們對當(dāng)前人工智能繁榮所做的基礎(chǔ)性貢獻(xiàn)。
然而，現(xiàn)在的Hinton對自己投入一生的研究感到遺憾。根據(jù)紐約時(shí)報(bào)的采訪，Hinton現(xiàn)在終于可以討論人工智能技術(shù)背后的風(fēng)險(xiǎn)了。在谷歌工作十多年的Hinton表示，“我總是用這樣的借口安慰自己：即使我不做，其他人也會(huì)這樣做。但目前我真的不知道如何防止壞人利用人工智能來作惡。”
虛假信息的傳播只是Hinton目前想強(qiáng)調(diào)的風(fēng)險(xiǎn)之一。從長遠(yuǎn)來看，他擔(dān)心人工智能會(huì)徹底消除所有需要大量記憶的工作，并隨著它逐漸編寫和運(yùn)行構(gòu)成自身代碼，人工智能最終可能取代人類。
在接受BBC采訪時(shí)，Hinton甚至提到人工智能聊天機(jī)器人已經(jīng)構(gòu)成了“相當(dāng)可怕”的威脅。他告訴BBC：“據(jù)我所知，目前的信息技術(shù)還不如我們聰明，但我相信它們很快就會(huì)超越人類。”
此外，Hinton博士承認(rèn)他離開谷歌也有年齡方面的考慮，他告訴BBC：“我已經(jīng)75歲了，是時(shí)候退休了。”
總的來說，Hinton的辭職和對人工智能技術(shù)潛在風(fēng)險(xiǎn)的警告引發(fā)了廣泛關(guān)注，因?yàn)樗侨斯ぶ悄茴I(lǐng)域的重要人物，并且他的看法和觀點(diǎn)對該領(lǐng)域的未來具有重要影響。
Geoffrey Hinton：GPT-4 等模型
已擁有超越人類知識(shí)儲(chǔ)備的能力
Hinton 博士是人工智能領(lǐng)域的開創(chuàng)者，他的研究為當(dāng)今的 AI 系統(tǒng)，如 ChatGPT，鋪平了發(fā)展道路。
神經(jīng)網(wǎng)絡(luò)是 AI 領(lǐng)域中一種與人腦相似的處理和學(xué)習(xí)信息的系統(tǒng)。正是神經(jīng)網(wǎng)絡(luò)讓 AI 能像人類一樣從經(jīng)驗(yàn)中學(xué)習(xí)，這是深度學(xué)習(xí)的概念。
Hinton 博士和他的兩名學(xué)生創(chuàng)辦的公司被谷歌收購，Hinton 博士也因此加入了谷歌。他們開發(fā)了一套神經(jīng)網(wǎng)絡(luò)，在分析數(shù)千張照片后，它成功學(xué)會(huì)了識(shí)別狗、貓、花等物體。這項(xiàng)工作最終促進(jìn)了 ChatGPT 和谷歌 Bard 的誕生。
Hinton 博士說，聊天機(jī)器人很快就會(huì)超過人類能容納的信息水平。他表示，現(xiàn)在的 GPT-4 等模型已經(jīng)擁有遠(yuǎn)超人類的知識(shí)儲(chǔ)備，雖然在推理方面還不夠好，但 AI 已經(jīng)具有簡單的推理能力，并預(yù)計(jì)情況將很快改善。
Hinton 博士在一篇《紐約時(shí)報(bào)》文章中提到了那些想用 AI 做壞事的人，他在采訪中進(jìn)一步解釋說，這是最糟糕的情況。
對于 Hinton 博士的看法，專家們給予了不同的評價(jià)。一些人認(rèn)為，AI 的快速發(fā)展構(gòu)成了一種巨大的威脅，需要立即采取行動(dòng)。而另一些人則認(rèn)為，AI 對人類有著重要的貢獻(xiàn)，可以用來解決一些嚴(yán)重的問題。
無論如何，人們都同意 AI 需要得到妥善的監(jiān)管，以防出現(xiàn)不良后果。AI 的發(fā)展速度非常快，因此必須在它安全與控制方面緊急投入更多資源。
AI 是一個(gè)令人興奮和激勵(lì)的領(lǐng)域，但同時(shí)也需要小心防范。如果我們能夠在保護(hù)人類利益的同時(shí)，實(shí)現(xiàn) AI 的潛在潛力，那么未來的前景就非常光明。
Geoffrey Hinton 反駁 AI 開發(fā)暫停呼聲
許多專家對 AI 的發(fā)展速度和方向表示擔(dān)憂，其中包括 2018 年圖靈獎(jiǎng)獲得者 Yoshua Bengio。3 月份，AI 領(lǐng)域數(shù)十人共同簽名，呼吁暫停比當(dāng)前版本更先進(jìn)的 AI 模型開發(fā)，以讓出時(shí)間實(shí)施更嚴(yán)密的安全控制。
但 Hinton 博士告訴 BBC，在短期內(nèi)，他認(rèn)為 AI 帶來的好處仍然多于風(fēng)險(xiǎn)，因此不必暫停 AI 模型的開發(fā)。他指出，目前 AI 已引發(fā)國際軍備競賽，因此暫停開發(fā)將面臨困難。
Hinton 博士強(qiáng)調(diào)，他只是科學(xué)專家，不是政策專家，政府有責(zé)任確保 AI 的開發(fā)考慮到如何防止濫用。
“谷歌對 AI 的負(fù)責(zé)任態(tài)度”
Hinton 博士在 Twitter 上對他在紐約時(shí)報(bào)的采訪進(jìn)行了澄清，他表示離開谷歌并不是因?yàn)閷静粷M，而是為了討論 AI 的風(fēng)險(xiǎn)。Hinton 博士強(qiáng)調(diào)，他不想批評谷歌，這家科技巨頭已經(jīng)“非常負(fù)責(zé)任”。
Hinton 博士在 Twitter 上對他在紐約時(shí)報(bào)的采訪進(jìn)行了澄清，他表示離開谷歌并不是因?yàn)閷静粷M，而是為了討論 AI 的風(fēng)險(xiǎn)。Hinton 博士強(qiáng)調(diào)，他不想批評谷歌，這家科技巨頭已經(jīng)“非常負(fù)責(zé)任”。
谷歌首席科學(xué)家 Jeff Dean 通過一份聲明表示，谷歌仍將繼續(xù)采取負(fù)責(zé)任的態(tài)度對待 AI，不斷學(xué)習(xí)和研究新出現(xiàn)的風(fēng)險(xiǎn)，同時(shí)大膽創(chuàng)新。
盡管目前 ChatGPT 主要是一個(gè)文本聊天機(jī)器人，但它背后蘊(yùn)含的潛力是巨大的。AI 技術(shù)正在以驚人的速度發(fā)展，令其創(chuàng)造者們也感到驚訝。谷歌 CEO Sundar Pichai 甚至承認(rèn)，他也無法完全理解他們的 AI 聊天機(jī)器人 Bard 的全部潛力。
因此，我們正處在一段充滿未知的旅程中，但重要的是要始終保持負(fù)責(zé)任的態(tài)度。
人工智能（AI）的快速發(fā)展令人驚訝。例如，通用人工智能（AGI）已經(jīng)可以通過訓(xùn)練完成各類任務(wù)。盡管目前的 ChatGPT 主要是通過查詢向用戶提供文本答案，但它同時(shí)也隱藏著無窮的可能性。
2012 年，Hinton 博士創(chuàng)建了開創(chuàng)性的圖像分析神經(jīng)網(wǎng)絡(luò)，從那以后，AI 世界已經(jīng)發(fā)生了巨大的變化。就連谷歌的 CEO Sundar Pichai 也表示，他也無法完全理解公司的 AI 聊天機(jī)器人 Bard 所能做到的事情。這說明，我們正在一個(gè)快速發(fā)展的領(lǐng)域前進(jìn)，它可能有一天能夠獨(dú)立建造軌道。