OpenAI的鬧劇讓我對其中的主要人物升起了好感。我的一大感想是:只有在美國才會發生這樣的事情。在中國絕無可能。而這正是中國的悲哀。
OpenAI在4天之內換了4個CEO。最後的結果是起初被突然解僱的CEO Sam Altman又被請回來復職。這場鬧劇的核心是為什麼Sam Altman會被解僱,他又為什麼被復職?
這裡面有一個重要人物是Ilya Sutskever。 他是OpenAI的首席科學家,公司的聯合創始人之一,以及董事會成員。他是參與解僱Sam Altman的重要人物之一。因為就是他通知Altman參加公司會議的人,會上就宣布解僱了Altman。
有報導說,他之所以要把Altman搞掉,是因為他和Altman在AI發展理念上出現了巨大分歧。Sutskever非常強調AI的安全性。OpenAI的員工對他的描述是,Sutskever聚焦在兩個問題上。首先,如何讓人工智能可以实现人类水平的思维,也被称为人工通用智能(AGI)。其次,如果AGI和人类价值观 發生衝突,那么它们将是危险的。
大家覺得他的這兩個聚焦矛盾,是吧?其實一點不矛盾。因為研究AGI是科技的潮流。他不做也會有別人做。與其別人先發展出來,不如他們自己先發展出來。這樣他們還有控制它和塑造它的餘地。《華爾街日報》的一篇報導說,他底下的一位科學家在向Sutskever匯報自己工作進展的時候,Sutskever說,很好,繼續。但是你應該花更多時間來研究如何把人工智能愛人類這件事用程序固定下來。
有媒體報導說,他在人工智能的安全性方面和CEO Sam Altman發生了矛盾。他想讓AI變得更安全,而Altman在努力推進AI快速發展,以此為公司帶來更大利益。因為這個矛盾,Sutskever就發起了這次公司“政變”。
但事實很可能並非如此。因為在這幾天中,其中一位被短暫任命為CEO的人發推說,她發現董事會解僱Altman的理由根本不是因為AI的安全性問題。因此,她對擔任新CEO這件事沒有興趣。也就是說,她也是在意AI安全性的。她以為Altman被解僱是因為他不顧安全性。但後來她發現不是。所以,她並不想參與這件事。
那麼,Altman到底為什麼被解僱呢?有媒體透露,是因為Altman最近非常積極的接觸中東的投資人,要發展一些新的業務。例如,他想讓openAI自己做芯片,這樣就不依賴於NVIDIA。現在高級AI的芯片基本上都是NVIDIA造的。這樣就使openAI的發展受制於NVIDIA。 而Altman想讓發展AI和AGI的核心掌握在自己公司手中。但是,他的這些新的做法可能引起了董事會的不滿。他們說他行為不透明。也許是他沒有和董事會溝通好這些事。這是他被解僱的真正原因。
那麼,Sutskever為什麼在3天以後突然反悔,又支持Altman重返CEO的職位呢?我猜想是因為他也發現Altman在AI安全上和他並無什麼分歧。事實上openAI最初的創始人就是Altman和Elon Musk。而這間非營利組織的目的就是研究如何讓AI的發展不威脅人類的安全。所以Altman和他是一條心的。大家在下面這個視頻裡面就能看到Altman自己親口說出來的證據。
下面我說點感想。這件事總體上讓我感覺不壞。因為如果鬧劇的起因是這些跑在AI發展最前面的科學家,CEO因為擔心AI的安全而做出的有點歇斯底里的舉動的話,我覺得這不是壞事。它讓我對人性更有信心。搞出這種鬧劇,起碼比不問AI對人類的危害,眾志成城的悶聲發大財強。而這種事情,只有在像美國這樣有思想自由的國家才能發生。在中國絕無可能。
有人說,如果美國科學家對AI發展限制,而中共不限制,那不是更糟糕嗎?其實不然。中國因為政治體制的原因,對AI發展的限制更多。在發展人工通用智能方面,中共沒有可能超越西方。因為他們從根本上不允許AI自由思考。他們也不允許科學家自由思考。所以他們造不出來。在一些特殊領域,比如圖像識別等方面,中共有一些可能超越其他國家,因為他們收集的數據多。但是,因為AI現在算法的改變,數據量已經不起決定作用了。
最後,我想用底下這個片子說明一下我對人工智能是否真能取代人腦,是否會產生真正的創造力的看法。這是我非營利組織西湖製作公司製作的節目:https://t.co/mDETv2dFk9