Smart自學網
  • Smart自學網 財經好讀 好生活:進修充電 OpenAI宮鬥劇暫歇,雙方為何而戰?一窺「開發派」與「安全派」的理念之爭
    好生活 > 進修充電

    OpenAI宮鬥劇暫歇,雙方為何而戰?一窺「開發派」與「安全派」的理念之爭

    撰文者:中央社 更新時間:2023-11-23
    如果您喜歡這篇文章,請幫我們按個讚:

    關鍵字:

    中央社 執行長 OpenAI ChatGPT

    OpenAI公司開除後又迎回執行長阿特曼(Sam Altman),反映出盡速開發人工智慧AI改變世界與衡量AI對社會影響的兩大陣營在安全、廣泛選擇方面的基本差異。

    被視為ChatGPT之父的OpenAI執行長阿特曼17日遭公司開除,震撼科技界,隨即引來包含科技巨擘微軟(Microsoft)在內一些最大投資方遊說讓阿特曼回歸,經過一番角力後,OpenAI22日宣布阿特曼回任執行長。

    ChatGPT去年11月推出後,引來對AI公司的瘋狂投資,包括微軟(Microsoft)投資100億美元至OpenAI,以及Alphabet和亞馬遜(Amazon.com)等巨額投資其他新創公司。

    路透社報導,像阿特曼這派人認為AI應快速發展供大眾使用、如同由公眾進行壓力測試讓產品臻於完善;另一派則如開除阿特曼的OpenAI董事會成員,認為最安全的前進之路首推在實驗室完善測試AI後再對外發表,以確保使用安全無虞。

    有些人警告超高智慧軟體可能會變得無法控制,終致釀災,這也是信奉「有效利他主義」科技工作者憂慮之處,認為發展AI應讓人類受惠。這類較看重安全的人就包含OpenAI首席科學家,同時也是開除阿特曼的董事會一員蘇茨克維(Ilya Sutskever)。

    AI控制的自駕車開發圈也有類似爭執。一派認為必須在密集的城市街道上行駛才能充分了解車輛功能和缺點,另一派則呼籲要更審慎,擔心這項技術會帶來不可預知風險。

    對能根據簡單提示衍生出連貫內容的生成式AI憂心,隨這次阿特曼遭開除而白熱化。OpenAI的ChatGPT過去一年廣受歡迎,加速關於如何監管和開發這項軟體的爭論。簡而言之,這次OpenAI宮鬥劇的核心是「開發派」與「安全派」的理念之爭。

    ConjectureAI公司執行長雷希(Connor Leahy)屬安全派,他說問題在於AI究竟是只像社群媒體或加密貨幣等這類一般產品,還是一種有超越人類能力並變得不可控的技術,「之後的未來會屬於機器嗎」。

    據報導,蘇茨克維覺得阿特曼太快將OpenAI的軟體推行到用戶端,這恐危害安全。

    蘇茨克維和一位副手7月在部落格發文:「我們沒有一套引導或控制潛在超級AI的解決方案,避免它變成洪水猛獸。」「人類將無法可靠地控管比我們聰明許多的AI系統。」

    據報本月稍早,OpenAI在一場開發者活動宣布一系列新產品,包括一款ChatGPT-4軟體版本及像虛擬助理,尤其令人關切。

    在19日曾短暫獲OpenAI任命代理執行長的希爾(Emmett Shear),9月時就在社群媒體主張「放慢」AI發展腳步,稱「如果我們現在的速度是10,我認為應該把目標放在1到2之間就好」。

    然而這回OpenAI裡幾乎全體員工都站在阿特曼這邊,讓他在這場AI宮鬥最終高奏凱歌班師回朝,也使「開發派」暫時在這場拉鋸中取得上風。

    小檔案_中央社

    希望透過更好的報導與文章品質,讓台灣社會向上提昇。

    如果您想收到更多理財訊息,您可以按此: 訂閱電子報
    1 
    精選推薦
    麥克連 大盤脈動與趨勢研判 (8/24+8/31,共2堂)
    課程好學 麥克連 大盤脈動與趨勢研判 (8/24+8/31,共2堂) >>7/31前,早鳥7折!★ 快速看懂股市漲跌的超實用投資技巧!★●快速解讀行情,搭配技術指標,精準預測未來漲跌幅●技術分析不複
    麥克連 高勝率多空當沖密技 (9/21+9/28,共2堂)
    課程好學 麥克連 高勝率多空當沖密技 (9/21+9/28,共2堂) ★ 學會挑選內資為重,投信撐盤潛力股!★ ●看懂關鍵經濟指標,掌握最佳投資時機,順勢操作●當沖方式步驟化,深入淺出圖解教學以及眉
    麥克連 大盤脈動與趨勢研判 直播班 (8/24+8/31,共2堂)
    課程好學 麥克連 大盤脈動與趨勢研判 直播班 (8/24+8/31,共2堂) >>7/31前,早鳥7折!★ 快速看懂股市漲跌的超實用投資技巧!★●快速解讀行情,搭配技術指標,精準預測未來漲跌幅●技術分析不複
    麥克連 高勝率多空當沖密技 直播班 (9/21+9/28,共2堂)
    課程好學 麥克連 高勝率多空當沖密技 直播班 (9/21+9/28,共2堂) ★ 學會挑選內資為重,投信撐盤潛力股!★ ●看懂關鍵經濟指標,掌握最佳投資時機,順勢操作●當沖方式步驟化,深入淺出圖解教學以及眉
    特別企劃
    達人帶路,保單不再霧煞煞!
    達人帶路,保單不再霧煞煞! 達人帶路,保單不再霧煞煞!...
    不懼市場變動 資產穩健成長
    不懼市場變動 資產穩健成長 不懼市場變動 資產穩健成長...