-
MOSS
(復旦大學自然語言處理實驗室發佈的對話式大型語言模型)
鎖定
- 外文名
- MOSS
- 發佈單位
- 復旦大學自然語言處理實驗室
MOSS模型介紹
MOSS可執行對話生成、編程、事實問答等一系列任務,打通了讓生成式語言模型理解人類意圖並具有對話能力的全部技術路徑。
[1]
MOSS發展歷史
2023年2月21日,該平台發佈公告,感謝大家的關注,同時也指出,MOSS還是一個非常不成熟的模型,距離ChatGPT還有很長的路需要走。公告稱,最初的想法只是想將MOSS進行內測,以便可以進一步優化,沒有想到會引起這麼大的關注。
[2]
2024年5月,MOSS團隊成員復旦大學黃萱菁教授介紹,基於MOSS他們有幾個新進展,其中一個正在做的就是希望各類信號符號化,“目前我們正在探索多模態大模型不同的解決思路,一個思路就是把一切符號化,不管是圖片、還是音樂,都要轉變到一個統一的符號空間。”提出一個模型叫AnyGPT,能理解和推理多模態內容,如文本、語音、圖像和音樂。利用離散表徵統一處理各種模態,通過兩階段生成框架實現高效多模態對齊預訓練。給出一段語音提示,AnyGPT 能夠生成語音、圖像、音樂形式的綜合響應,給出文本 + 圖像形式提示,AnyGPT 能夠按照提示要求生成音樂
[5]
。
- 參考資料
-
- 1. 復旦團隊發佈類ChatGPT模型MOSS,邀公眾參與內測 .澎湃.2023-02-21
- 2. 團隊迴應MOSS內測:還不成熟,沒想到引起這麼大的關注 .中新網[引用日期2023-02-21]
- 3. 復旦大學邱錫鵬:若優化順利,MOSS 將於三月底開源 .IT之家.2023-02-26[引用日期2023-02-26]
- 4. 復旦MOSS升級版開源上線;馬斯克啓動TruthGPT;海康訓練出百億參數CV大模型丨AIGC大事週報 .鳳凰網.2023-04-23
- 5. 復旦MOSS團隊談最新進展:從大語言模型到多模態大模型 .第一財經百家號.2024-05-23[引用日期2024-05-23]