1000多名精英簽名呼籲所有人工智能實驗室立即暫停比GPT 4更強大的人工智能系統的訓練至少6個月是怎麽回事兒?
簽名信地址 [https://futureoflife.org/open-letter/…]
Future of Life Institute(FLI,未來生命研究所)是一個非營利組織,成立于2014年,總部位于美國麻省劍橋市。FLI的使命是促進人工智能、生物技術等領域的發展,同時確保這些技術的安全,以最大限度地減少負面影響,並促進社會有意義的利用。FLI研究人員和專家團隊致力于探索全球重大問題,分享他們的發現,以及倡導創造性的解決方案,從而推動全球如何更好地處理技術、安全和利益之間的平衡。
簽名信寫了什麽?
人工智能可能對社會和人類帶來深刻的風險,因此有必要對其進行計劃和管理。現在的人工智能系統正在成爲人類一般任務的競爭對手,需要考慮其潛在的影響和風險。爲了確保人工智能的安全,提議各個實驗室立即暫停至少6個月訓練比GPT-4更強大的人工智能系統,並利用這個暫停的時間共同制定和實施一套共享安全協議。同時,應加快發展強有力的人工智能治理系統,包括新建和有能力的監管機構以及應對人工智能將帶來的經濟和政治巨大的破壞的機構。
伊隆·馬斯克是 Future of Life Institute(FLI)的聯合創始人和贊助者之一,他投資了 FLI 的成立和一些相關計劃。他的投資是因爲他認爲面對現代科技快速發展引發的安全和倫理等問題,各界需要采取行動,保護人類和地球不受負面影響。FLI的使命是遏制重大風險的增加,使人工智能更加友好和路徑可追,馬斯克認爲FLI能通過倡導道德,安全使用和透明的人工智能的發展來改變整個行業,並爲值得追求的未來奠定基礎。
伊隆·馬斯克最早是在2015年底投資OpenAI,成爲其創始人之一。OpenAI是由伊隆·馬斯克、Sam Altman、Greg Brockman等人聯合創建,旨在推動人工智能的發展,避免人工智能帶來的一些潛在風險。
2、musk和**Steve Wozniak的推特沒有提及簽名**
*Yann LeCun直接辟謠*
3、GPT真的是威脅麽?GPT4做了什麽?
4、我們應該怎麽面對破壞性創新?