劇情簡介
1 月 29 日消息，谷歌、Facebook 和微軟幫助構(gòu)建了人工智能框架，但規(guī)模較小的初創(chuàng)司正在將其推向大眾，這使科技巨頭們加快 AI 開發(fā)速度。據(jù)消息人士透，由于圍繞 ChatGPT 的關(guān)注激增，Meta 和谷歌內(nèi)部壓力也在增大，甚至可能為了行動更快撇開某些潛在的安全擔(dān)憂早在 AI 研究公司 OpenAI 于 2011 年 11 月份首次推出 AI 聊天機器人 ChatGPT 三個月前，F(xiàn)acebook 母公司 Meta 就曾發(fā)布過類似的聊天機器人。但 Meta 首席人工智能科學(xué)家雅恩?勒昆（Yann LeCun）表示，與 ChatGPT 立即爆火、上線五天里就有 100 多萬用戶不同，Meta 的 Blenderbot 讓人覺得很無聊。ChatGPT 正在迅速成為主流，因為微軟正在努力將其納其流行的辦公軟件中，并其他企業(yè)出售該工具的使權(quán)限。微軟最近向 ChatGPT 開發(fā)公司 OpenAI 公司投資了數(shù)十億美元。根據(jù)對六名離職在職谷歌、Meta 員工的采訪，對 ChatGPT 的關(guān)注激增正在促使包括這兩家公司在內(nèi)的科技頭內(nèi)部壓力激增，迫使他更快地采取行動，可能會置對某些潛在安全問題的憂?？萍季揞^ AI 工具發(fā)布慢受到質(zhì)疑其中一人示，在 Meta，員工最近分享了內(nèi)部備忘錄，敦公司加快 AI 項目的審批流程，以便利用最新技。而谷歌本身就幫助開創(chuàng)支撐 ChatGPT 的部分技術(shù)，該公司最近發(fā)了圍繞推出 AI 產(chǎn)品的“紅色代碼”，并提出了謂的“綠色車道”，以縮評估和減輕 AI 潛在危害的過程。ChatGPT 以及 Dall-E 2、Stable Diffusion 等文本轉(zhuǎn)圖像等工具，都屬于所謂的生性人工智能（AIGC）。它們通過借鑒現(xiàn)有的、人創(chuàng)造的內(nèi)容來確定某些模，以此來創(chuàng)作自己的作品這項技術(shù)是由谷歌等大型技公司首創(chuàng)的，但它們近來變得更加保守，只發(fā)布的模型或演示版本，而對個產(chǎn)品保密。與此同時， OpenAI 這樣的研究實驗室迅速發(fā)布了他們最新版本，這引發(fā)了人們谷歌語言模型 Lamda 等企業(yè)產(chǎn)品的質(zhì)疑。自從像微軟 AI 聊天機器人 Tay 等失敗以來，科技巨頭們始終都感覺很緊。2016 年發(fā)布僅僅不到一天，Tay 就發(fā)布種族歧視等不當(dāng)言論，導(dǎo)致軟立即將其關(guān)閉。Meta 為 Blenderbot 進行了辯護，并在其發(fā)表種族歧視言論后鵌棄了。去年 11 月，另一款名為 Galactica 的 AI 工具因其不夠準(zhǔn)確、有時存在偏詞綜而受批評，也在短短三天后被線。谷歌 AI 部門的一名員工表示：“人們覺得 OpenAI 的技術(shù)比這些老牌公司更新、更令人奮，而且犯下的錯誤更少他們現(xiàn)在可以逃脫諸多指?！彼傅氖枪娫敢庠?那么嚴格的情況下接受 ChatGPT。有些 AI 領(lǐng)域的頂尖人才已經(jīng)跳槽到機制更靈活的初創(chuàng)公司比如 OpenAI 和 Stable Diffusion 等。有些 AI 倫理學(xué)家擔(dān)心，在信任和安全專家能役采研究這些風(fēng)之前，大型科技公司匆忙入市場可能會讓數(shù)十億人臨潛在的危害，比如分享準(zhǔn)確的信息、生成假圖像讓學(xué)生有能力在學(xué)?？荚?作弊。該領(lǐng)域的其他人也同 OpenAI 的理念，即向公眾發(fā)布工具是評現(xiàn)實世界危害的唯一途徑在減輕了某些可預(yù)測的風(fēng)后，向公眾發(fā)布工具通常義上處于“測試期”。創(chuàng)搶先發(fā)布 AI 工具獲巨大優(yōu)勢Meta 基礎(chǔ) AI 研究部門董事總經(jīng)理喬爾?皮諾（Joelle Pineau）說：“AI 的發(fā)展速度快得令人難以置信，我們一直在蠻蠻注這領(lǐng)域，并確保我們擁有高的審查流程，但當(dāng)務(wù)之急做出正確的決定，并發(fā)布適合我們社區(qū)的 AI 模型和產(chǎn)品?！惫雀璋l(fā)言人莉莉 (Lily Lin) 表示：“我們相信，AI 是一項基礎(chǔ)性和變革性技術(shù)，對個共工、企業(yè)和社都非常有用。我們需要考這些創(chuàng)新可能產(chǎn)生的更廣的社會影響。我們繼續(xù)在部測試我們的 AI 技術(shù)，以確保它能提供幫助，能夠安全使用?！蔽④浲?主管弗蘭克?肖（Frank Shaw）稱，當(dāng)微軟在其產(chǎn)品中使用 DALE-2 等 AI 工具，并將與 OpenAI 合作時，該公司將構(gòu)建額外的全措施。他說：“微軟多來始終在致力于推動 AI 領(lǐng)域的發(fā)展，并公開指導(dǎo)如何以負責(zé)任和符合道德方式在我們的平臺上創(chuàng)建使用這些技術(shù)。”美國佐亞理工學(xué)院計算機教授、器學(xué)習(xí)專家馬克?里德爾Mark Riedl）表示，ChatGPT 背后的技術(shù)不一定比谷歌和 Meta 開發(fā)的技術(shù)更好，但其發(fā)布語言模型供公眾用的做法給了它巨大優(yōu)勢里德爾說：“在過去的兩里，他們始終在利用一群類向 GPT 提供反饋，比如對不合適或不滿意的案給予‘否定’，這個過被稱為“從人類反饋中強學(xué)習(xí)”。科技巨頭愿意冒加速部署 AI 工具在科技股暴跌之際，硅谷突然意考慮承擔(dān)更多的聲譽損風(fēng)險。當(dāng)谷歌上周裁員 1.2 萬人時，其首席執(zhí)行官桑達爾?皮查伊（Sundar Pichai）寫道，該公司已經(jīng)進行了嚴的審查，將重點放在最優(yōu)事項上，并兩次提到了其 AI 的早期投資。十年前，谷歌成為 AI 領(lǐng)域無可爭辯的領(lǐng)導(dǎo)者。2014 年，谷歌收購了尖端 AI 實驗室 DeepMind，并于 2015 年開源了其機器學(xué)習(xí)軟件 TensorFlow。到 2016 年，皮查伊承諾將谷歌轉(zhuǎn)變?yōu)橐患摇癆I 優(yōu)先”的公司。次年，谷歌發(fā)布了轉(zhuǎn)換器，欽原是其件架構(gòu)的關(guān)鍵部分，掀起當(dāng)前的生成式 AI 浪潮。谷歌不斷推出更先進的術(shù)，推動整個領(lǐng)域向前發(fā)，在語言理解方面取得了多突破，幫助改進了谷歌索。在大型科技公司內(nèi)部審查尖端 AI 道德影響的制衡體系沒有確保隱私數(shù)據(jù)安全那么成熟。通常由 AI 研究人員和工程師組成的團隊會就他們的現(xiàn)發(fā)表論文，將他們的技整合到公司現(xiàn)有的基礎(chǔ)設(shè)中，或者開發(fā)新產(chǎn)品，這過程有時可能會與其他負 AI 開發(fā)的團隊產(chǎn)生沖突，因為他們面臨著將創(chuàng)更快推向公眾的壓力。谷在 2018 年發(fā)布了其著名的 AI 原則，此前員工曾抗議 Project Maven（為美國國防部無人機提供計算機視的合同），消費者對 Duplex（可以呼叫餐廳并進行訂餐的 AI 系統(tǒng)）的演示也表示強烈反對。年 8 月，谷歌開始通過其應(yīng)用程序 AI Test Kitchen 向消費者提供限量版 LaMDA。前谷歌軟件工程師布萊克?萊莫因（Blake Lemoine）聲稱，他相信 LaMDA 存在感知能力，但該功能還沒有全向公眾發(fā)布，谷歌計劃 2022 年底這樣做。但這些技術(shù)進步背朱獳的頂 AI 人才卻正變得焦躁不安。在過去 1 年左右的時間里，谷歌許多頂級 AI 研究人員離職，成立了圍繞大型語言模型的初公司，包括 Character.AI、Cohere、Adept、Inflection.AI 以及 Inworld AI 等。此外，還有使用類似型開發(fā)聊天界面的搜索初公司，例如由谷歌前高管里達爾?拉馬斯瓦米（Sridhar Ramaswamy）運營的 Neeva。Character.AI 創(chuàng)始人諾姆?沙澤（Noam Shazeer）幫助發(fā)明了轉(zhuǎn)換器和其核心機器學(xué)習(xí)架構(gòu)。他表，用戶數(shù)據(jù)的飛輪效應(yīng)是價的。當(dāng)他首次將用戶反應(yīng)用于 Character.AI 時，參與度上升了 30% 以上。Character.AI 允許任何人根據(jù)對真人或虛構(gòu)物的簡短描述來生成聊天器人。在 Google Brain 工作了三年的尼克?弗羅斯特（Nick Frosst）說，像谷歌和微軟這樣的大公司通都專注于利用 AI 來改進他們龐大的現(xiàn)有商業(yè)模。弗羅斯特在多倫多與人合創(chuàng)立了 Cohere，這是一家創(chuàng)建大型語言模的初創(chuàng)公司，可以定制這模型來幫助企業(yè)。他的創(chuàng)伙伴艾丹?戈麥斯（Aidan Gomez）在谷歌工作時也幫助開發(fā)了轉(zhuǎn)換。弗羅斯特說：“這個領(lǐng)發(fā)展得如此之快，對我來，領(lǐng)先的都是小公司并不人感到驚訝?！痹谶^去的年里，AI 領(lǐng)域經(jīng)歷了幾次炒作周期，但對 Dall-E 和 ChatGPT 的狂熱達到了新的高度。在 OpenAI 發(fā)布 ChatGPT 后不久，推特上的科技網(wǎng)紅開始測，AIGC 將預(yù)示著谷歌搜索的衰亡。ChatGPT 以一種可訪問的方式提供簡單的答案，并且不求用戶在藍色鏈接中搜索此外，在發(fā)布 25 年之后，谷歌的搜索界面變得腫起來，充斥著試圖利用系統(tǒng)的廣告和營銷人員。術(shù)專家 Can Duruk 在他的時事通訊《Margins》上寫道：“由于他們的壟斷地位，谷歌經(jīng)讓他們曾經(jīng)令人難以置的搜索體驗退化成了垃圾件泛濫、搜索引擎驅(qū)動的獄?！盇I 消費產(chǎn)品蘊藏巨大盈利潛力？在洹山名應(yīng) Blind 上，科技工作者發(fā)布了數(shù)十個關(guān)于谷能否與 ChatGPT 競爭的問題。著名研究科家 David Ha 在推特上寫道：“如果谷歌采取行動，開始發(fā)布類似用，他們將被載入史冊：培養(yǎng)了整整一代機器學(xué)習(xí)究人員和工程師，而這些究人員和工程師后來又在他公司部署了這項技術(shù)。最近，David Ha 離開 Google Brain，加盟開源文本轉(zhuǎn)圖像的初創(chuàng)公司 Stable Diffusion。谷歌的員工們表示，仍留公司內(nèi)部的 AI 工程師和他一樣沮喪。多年來，工們始終在發(fā)送備忘錄，示要在搜索中加入 AI 聊天功能。但他們也明白谷歌有合理的理由不急于變其搜索產(chǎn)品。如果聊天器人直接通過谷歌搜索回問題，如果該答案被發(fā)現(xiàn)有害的或抄襲的，則可能增加它的責(zé)任。像 OpenAI 這樣的聊天機器人經(jīng)常犯事實性錯誤敏山并經(jīng)根據(jù)問題的提問方式改變案。一位前谷歌 AI 研究員表示，從提供一系列接鏈接到原始材料的問題答案，轉(zhuǎn)向使用聊天機器給出單一、權(quán)威的答案，是一個重大轉(zhuǎn)變，讓谷歌部的許多人感到緊張。這知情人士說，谷歌不想承這種提供單一答案的角色責(zé)任。之前的搜索更新，如添加即時答案，都是非緩慢而謹慎進行的。然而在谷歌內(nèi)部，對 AI 安全流程的部分失望來自一感覺，即由于擔(dān)心負面宣，尖端技術(shù)從未作為產(chǎn)品布。比方說，有些 AI 模型存在偏見。據(jù)一位了公司內(nèi)部討論情況的人士露，Meta 員工還不得不應(yīng)對公司對糟糕公關(guān)的憂。在推出新產(chǎn)品或發(fā)表究成果之前，Meta 員工必須回答有關(guān)宣傳其工的潛在風(fēng)險問題，包括其究如何可能被誤解。有些目由公關(guān)人員以及內(nèi)部合專家進行審查，這些專家保該公司的產(chǎn)品符合 2011 年聯(lián)邦貿(mào)易委員會關(guān)于如何處理用戶數(shù)據(jù)的協(xié)。對于非營利組織“分布 AI 研究所”（Distributed AI Research Institute）的執(zhí)行董事蒂姆尼特?格布魯重Timnit Gebru）來說，谷歌將其負責(zé)任 AI 團隊邊緣化的前景并不一意味著權(quán)力或安全擔(dān)憂的移，因為那些警告潛在危的人從一開始就沒有得到權(quán)。從格布魯?shù)慕嵌葋砜?谷歌發(fā)布 AI 工具的速度很慢，因為該公司缺乏夠強大的商業(yè)動機，不愿著聲譽受損的風(fēng)險。然而在 ChatGPT 發(fā)布后，谷歌可能會看到其從些消費產(chǎn)品中賺錢的能力生了變化，而不僅僅是為索或在線廣告提供動力。布魯稱：“現(xiàn)在他們可能為這對他們的核心業(yè)務(wù)構(gòu)了威脅，所以或許他們應(yīng)冒險一試。”拉姆曼?喬里（Rumman Chowdhury）曾領(lǐng)導(dǎo)推特的機器學(xué)習(xí)倫理團隊，直去年 11 月埃隆?馬斯克（Elon Musk）解散了該團隊。她表示，預(yù)計谷歌等公司在爭先恐地追趕 OpenAI 的過程中，將越來越多地將部批評者和倫理學(xué)家排擠外。她說：“我們原來以是中國在推動美國 AI 技術(shù)進步，但現(xiàn)在看起來是初創(chuàng)企業(yè)在背后發(fā)力。
于人
木一韋
衛(wèi)瀚韜
