全人类最担心的AI 安全 害奥特曼最终失业
好萊塢諜戰(zhàn)片，都不敢這么拍。
當(dāng)?shù)貢r間 11 月 17 日，在一個視頻會議上，OpenAI 的董事會突然宣布，聯(lián)合創(chuàng)始人兼 CEO Sam Altman 即刻離職，ChatGPT 開發(fā)的關(guān)鍵人物 Greg Brockman 也被罷免，公司 CTO Mira Murati 則被任命為臨時 CEO。
在一篇發(fā)表在 X 上的帖子中，Sam Altman 表示「我熱愛在 OpenAI 的時光」，并且他將「稍后有更多關(guān)于未來的話要說」。
Greg Brockman 則表示「Sam 和我對董事會今天的做法感到震驚和悲傷」「我們會沒事的。更偉大的事情即將到來。」
現(xiàn)在，大家都在猜，OpenAI 究竟發(fā)生了什么？為什么要解雇 Sam Altman 和罷免 Greg Brockman？
OpenAI 的董事會由 OpenAI 首席科學(xué)家 Ilya Sutskever、Quora 首席執(zhí)行官 Adam D'Angelo、科技企業(yè)家 Tasha McCauley 和喬治敦安全和新興技術(shù)中心的戰(zhàn)略總監(jiān) Helen Toner 組成。
就在 OpenAI 宣布解職 Sam Altman 之前，Ilya 曾經(jīng)給 Sam 發(fā)過一條短信，通知他 17 日上午加入視頻會議。后來的事情大家都知道了。
從目前的信息來看，解雇一事是由董事會成員 Ilya Sutskever 通知的，這個人領(lǐng)導(dǎo)了一個AI安全團(tuán)隊，而臨時CEO Mira Murati 也是提前知情的。
而導(dǎo)致 Sam Altman 最終被踢走，可能并非首席科學(xué)家 llya 的「宮斗」，而是整個 AI 行業(yè)都在談?wù)摚沧屓虮O(jiān)管最擔(dān)心的，「安全」問題。
「安全」分歧
在 Sam Altman 被解雇前，OpenAI 內(nèi)部關(guān)于AI安全性的分歧和爭論一直存在。
今年夏天，OpenAI 成立了一個安全團(tuán)隊，致力于尋找防止 AI 失控的技術(shù)解決方案，了解和限制 AI 對社會的危害，如濫用、經(jīng)濟混亂、虛假信息、偏見和歧視、成癮和過度依賴等，并稱要將公司獲得的 20% 的算力用于這項工作。
領(lǐng)導(dǎo)該安全團(tuán)隊的其中一個人，是OpenAI的聯(lián)合創(chuàng)始人、首席科學(xué)家兼董事會成員 Ilya Sutskever，也正是這個人，對 Sam Altman 下了解雇通牒。
Sam Altman 和 Ilya Sutskever（右）在特拉維夫一個活動上｜qz.com
根據(jù) Greg Brockman 的說法，美國時間 11 月 16 日晚上，Sam 收到了 Ilya 的一條短信，要求周五中午談話。Sam 加入了一個會議，除了 Greg 外，整個董事會都在那里。Ilya 告訴 Sam 他被解雇了，消息很快就會發(fā)布。
11 月 17 日中午，Greg 收到 Ilya 的一條短信，要求進(jìn)行一次快速通話。Ilya 發(fā)送了一個會議鏈接，Greg 隨后被告知他將被從董事會移除，但公司將保留他的角色。
Greg 是 OpenAI 最早的幾名員工之一，花了大量時間編寫軟件，是開發(fā) ChatGPT 和其他核心產(chǎn)品的關(guān)鍵人物，持有公司股權(quán)，在董事會解雇 Sam Altman 幾小時后，他選擇辭職，或許因為他是 Sam Altman 的親密盟友。
大約在同一時間，OpenAI 發(fā)布了一篇博客文章。稱「Altman 先生的離職是在董事會進(jìn)行審議審查過程后得出的結(jié)論，他在與董事會的溝通中始終不坦誠，這阻礙了其履行職責(zé)的能力。董事會對他繼續(xù)領(lǐng)導(dǎo) OpenAI 的能力不再有信心。」
大家都在質(zhì)疑，這是否是發(fā)生在 OpenAI 的一場惡意的「政變」。被解雇的 Sam Altman 得到一大片支持和惋惜之聲。
前谷歌CEO 埃里克·施密特 Eric Schmidt 直接稱 Sam Altman 是英雄，贊他將 OpenAI 從無到有轉(zhuǎn)變 900 億美元的非凡估值。Airbnb 首席執(zhí)行官 Brian Chesky 也加入了對 Sam Altman 的贊揚行列，稱他是這一代人中最優(yōu)秀的創(chuàng)始人之一。
在解雇 Sam Altman 后臨時召開的全員會議上，面對「政變」的指控，Ilya 的回應(yīng)據(jù)稱是，「你可以這樣說」「但我不同意」，他認(rèn)為「這是董事會履行其非營利組織使命的責(zé)任，即確保OpenAI構(gòu)建造福整個人類的 AGI」。
在發(fā)給員工的內(nèi)部備忘錄中，臨時 CEO Mira Murati 提到「我們的使命和共同開發(fā)安全有益的 AGI 的能力」。她稱 OpenAI 有三個支柱，包括「最大程度地推進(jìn)我們的研究計劃，我們的安全和對齊工作——特別是我們在科學(xué)上的預(yù)測能力和風(fēng)險方面的能力，以及以有益于所有人的方式與世界分享我們的技術(shù)。」
Ilya Sutskever、Sam Altman、Mira Murati、Greg Brockman｜Wired
OpenAI 成立于 2015 年，成立之初就定位為一家非營利組織。然而，在 2019 年，OpenAI 進(jìn)行了重組，Sam Altman 成為 OpenAI 首席執(zhí)行官，他幫助創(chuàng)建了一家名為 OpenAI LP 的營利性子公司，以便從微軟等外部投資者那里籌集資本，用于訓(xùn)練 AI。而 OpenAI 本身仍然是一個由董事會管理的非營利組織。
Altman 在籌集資金方面發(fā)揮了關(guān)鍵作用，包括從微軟那里獲得的 100 億美元。盡管 OpenAI 給投資者設(shè)定了一個利潤上限，OpenAI 的估值如今已經(jīng)達(dá)到 850 億美元，據(jù) Sam Altman 最近告訴員工，OpenAI 正在產(chǎn)生 13 億美元的年化收入。
另一邊，對于 AI 安全性的擔(dān)憂，以及 OpenAI 的商業(yè)化，也分裂了 OpenAI 內(nèi)部的管理層。就在 2020 年底，OpenAI 的一幫員工離開了公司，創(chuàng)立了 AI 公司 Anthropic，這家公司以安全為賣點，創(chuàng)始人還直接對外表示離開是因為對 OpenAI 商業(yè)化和戰(zhàn)略的不滿。
Ilya 也一直擔(dān)心未來幾年強大 AGI 的危險，此前，在 OpenAI 的一篇博客文章中，他寫道「巨大的超級智能力量可能非常危險，并可能導(dǎo)致人類被剝奪權(quán)力甚至人類滅絕。」
在解雇 Sam Altman 后，OpenAI 董事會在一份聲明中續(xù)稱，「OpenAI 旨在推進(jìn)我們的使命：確保人工智能造福全人類。董事會仍然完全致力于為這項任務(wù)服務(wù)。」
到底哪里「不坦誠」？
除了「安全」問題，OpenAI 董事會所說的 Sam Altman「不坦誠」方面，從現(xiàn)有消息看，Sam Altman 是否隱瞞了支出也存在質(zhì)疑。
11 月 15 日，就在 Sam Altman 被解雇的前兩天，OpenAI 頗具爭議地宣布將停止 ChatGPT Plus（每月 20 美元的高級版本）的新注冊。這在一定程度上凸顯了成本和營收的問題。
內(nèi)部消息人士稱，OpenAI 在每個 ChatGPT Plus 用戶身上都在虧損，并且需要時間來增強服務(wù)器容量。
這與 Sam Altman 被解雇的時間太過重合，以至于部分人士猜測，Sam Altman 是否向董事會歪曲了財務(wù)數(shù)據(jù)、用戶數(shù)量或云計算成本？支出是否高于預(yù)期？或者他是否阻礙了董事會獲取相關(guān)信息？
另一個側(cè)面的證實聯(lián)系是，董事會還解除了 OpenAI 聯(lián)合創(chuàng)始人兼首席技術(shù)官 Greg Brockman 的董事長職務(wù)，因為 Greg 可能會關(guān)注運行 OpenAI 系統(tǒng)的技術(shù)成本。他是這家初創(chuàng)公司最有影響力的人物之一，在從產(chǎn)品決策到為工程團(tuán)隊設(shè)定方向的一切事務(wù)中具備發(fā)言權(quán)。如果支出脫軌，兩位管理者便可能是同謀。
另外，有關(guān) Sam Altman 的離職還涉及到一些不尋常的因素，有消息稱，Sam Altman 計劃將 OpenAI 技術(shù)用于 Worldcoin，這也引發(fā)了一些道德危險的擔(dān)憂。
OpenAI 開發(fā)者大會上 Sam Altman 和薩提亞開了個小玩笑｜OpenAI
作為 OpenAI 的「金主」，微軟的態(tài)度如何？據(jù)了解此事的人士稱，在 Sam Altman 被解雇的消息公開前，微軟領(lǐng)導(dǎo)層只從 OpenAI 那里得到了 5 到 10 分鐘的提前通知。OpenAI 臨時 CEO Mira Murati 在周五的一次全公司會議上告訴員工，他們與微軟的關(guān)系保持穩(wěn)定。
就在前不久，微軟于 11 月 9 日曾短暫屏蔽員工在公司設(shè)備上訪問 ChatGPT，并警告員工，給出的理由是存在安全擔(dān)憂。
距離 OpenAI 的開發(fā)者大會僅過去 10 天，彼時 Sam Altman 還與微軟高管談笑風(fēng)生，甚至還在 15 日參加了他與微軟基礎(chǔ)設(shè)施高管的定期會議。
「今天在很多方面都是一次奇怪的經(jīng)歷。」Sam Altman 在 X 的帖子上坦言。
他曾表示 GPT-5 的終極目標(biāo)是創(chuàng)造相當(dāng)于人腦的超級 AI，但 AI 的發(fā)展是否已經(jīng)出現(xiàn)安全問題，最終導(dǎo)致了這場快速的內(nèi)部「政變」？
被踢出 OpenAI 后，Sam Altman 的下一步又會是什么？
OpenAI 解雇 Sam Altman 事件時間表
2023 年 11 月 6 日：OpenAI 舉行開發(fā)者大會，推出了「自定義 ChatGPT」功能。
2023 年 11 月 9 日：微軟發(fā)出警告，要求其員工停止使用 ChatGPT，因為存在安全問題。
2023 年 11 月 15 日：OpenAI 暫停了 ChatGPT Plus 的注冊。微軟 CEO 薩提亞·納德拉在 Ignite 大會上宣布，OpenAI 所有創(chuàng)新都將用在微軟的 Azure 云服務(wù)上。
2023 年 11 月 16 日：Sam Altman 收到 llya 短信，通知周五中午談話。
2023 年 11 月 17 日：OpenAI 的董事會突然宣布，聯(lián)合創(chuàng)始人兼 CEO Sam Altman 即刻離職。董事會在一次審查后得出結(jié)論，認(rèn)為 Altman 在與董事會的溝通中不夠坦誠，妨礙了董事會執(zhí)行其職責(zé)的能力。董事會對他繼續(xù)領(lǐng)導(dǎo) OpenAI 失去了信心。同日，Altman 在 X 平臺（前 Twitter）上發(fā)表了關(guān)于他離職的聲明。
2023 年 11 月 17 日晚些時候：OpenAI 聯(lián)合創(chuàng)始人和前董事會主席 Greg Brockman 宣布他也將離開公司。這是在董事會要求 Brockman 辭去董事會主席職務(wù)但保留在公司的角色后發(fā)生的。
2023 年 11 月 17 日：OpenAI 任命公司首席技術(shù)官 Mira Murati 為臨時首席執(zhí)行官。
總結(jié)
以上是生活随笔為你收集整理的全人类最担心的AI 安全 害奥特曼最终失业的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 车钥匙拧不动是怎么回事
- 下一篇： 116亿元！全球第四大车企收购零跑汽车股