-
生成式人工智能
(基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術)
鎖定
生成式人工智能(GAI)是利用複雜的算法、模型和規則,從大規模數據集中學習,以創造新的原創內容的人工智能技術。這項技術能夠創造文本、圖片、聲音、視頻和代碼等多種類型的內容,全面超越了傳統軟件的數據處理和分析能力。
- 中文名
- 生成式人工智能
- 外文名
-
Generative Artificial Intelligence
Generative AI
- 外文名
- GAI
- 定 義
- 基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術
生成式人工智能詞語解讀
生成式人工智能指稱一種通過學習大規模數據集生成新的原創內容的新型人工智能,它是基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。提供生成式人工智能產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗。
《2023年十大新興技術報告》中指出生成式人工智能是一種通過學習大規模數據集生成新的原創內容的新型人工智能,在2022年底因ChatGPT發佈而引起了公眾廣泛關注。生成式人工智能將在教育和研究等多個行業引發顛覆性變革。
[7]
生成式人工智能技術簡介
生成式人工智能用途風險
用途
可用於多種活動如創建軟件代碼、促進藥物研發和有針對性的營銷。
風險
生成式人工智能數據比例
生成式人工智能管理辦法
2023年4月11日,為促進生成式人工智能技術健康發展和規範應用,國家互聯網信息辦公室就《生成式人工智能服務管理辦法(徵求意見稿)》向社會公開徵求意見。徵求意見稿提出,提供生成式人工智能產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗,禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
[2]
《徵求意見稿》要求,利用生成式人工智能產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估,並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。
[2]
2023年7月,國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公佈《生成式人工智能服務管理暫行辦法》,自2023年8月15日起施行。出台《辦法》,旨在促進生成式人工智能健康發展和規範應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。
[8]
生成式人工智能發展情況
2023年8月15日起,國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局發佈的《生成式人工智能服務管理暫行辦法》正式施行,這也是我國首個針對生成式人工智能產業的規範性政策。
[8-9]
2024年4月,從國家網信辦官網獲悉,已有117個大模型完成生成式AI服務備案,從公開信息可以看到,完成生成式人工智能服務備案的大模型包括中國移動九天、百度文心一言、阿里巴巴通義千問、華為雲盤古、騰訊混元助手、OPPO安第斯、vivo藍心等。
[16]
2024年4月,在瑞士舉行的第27屆聯合國科技大會上,世界數字技術院(WDTA)發佈了《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準,是由OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成。
[17]
生成式人工智能學者觀點
生成式人工智能的倫理法律風險受關注
2023年是世界互聯網大會烏鎮峯會第十年,全球科技行業的熱詞,非人工智能莫屬。由ChatGPT帶動的生成式人工智能、大模型熱潮,引起學界廣泛的關注和討論。
有學者指出,從醫療健康到交通運輸,從金融領域到農業生產,人工智能正引領着各個領域的變革。然而,我們也需要認識到人工智能應用所帶來的挑戰和風險。在推動人工智能技術發展的同時,我們必須確保其應用符合法律法規和倫理原則,避免潛在的負面影響。
有學者認為,生成式人工智能的廣泛運用會強化目前已經顯現的各種社會倫理問題,帶來偏見和歧視。如果用於開發人工智能算法和模型的訓練數據有偏見,算法和模型也會有偏見,從而導致生成式人工智能的迴應和建議出現歧視性的結果。還有如信息誤導、信息濫用以及對個人自主性的干預,如生成式人工智能在商業上可能被用來影響或操縱用户的行為和決策。
有學者從法律方面分析認為,人工智能的發展所產生的最大挑戰就是引發侵權風險。與傳統的侵權行為不同的是,ChatGPT引發的侵權行為,主要是侵害人格權和著作權。如生成式AI可能引發大規模隱私或者個人信息泄露問題。不法行為人有可能通過攻擊大規模語言模型,提取出訓練數據中的核心隱私和敏感個人信息,從而導致個人信息、隱私的大規模泄露,形成“大規模微型侵害”的現象。
還有學者認為,生成式人工智能的普及應用將對重複性、模板化的工作崗位帶來衝擊,催生大量“無用階層”,導致社會階層固化,將造成更為嚴重的社會及政治不平等。與人類歷史上的其他任何時期相比,這種信息技術有可能造成更大的收入差距。應高度重視科學技術對經濟社會的影響,及早做好技術創新和迭代發展的公共政策、社會政策儲備工作。
還有學者認為,隨着人工智能在國家競爭力、國家安全等方面的作用凸顯,各國都在加緊相關規劃部署和政策制定,人工智能已經成為國際競爭新的焦點所在。大模型對算力的巨大消耗也對低碳轉型目標的實現帶來新的挑戰,這些新的問題成為各國政府關注的新課題。
[12]
生成式人工智能社會影響
2024年2月,廣州互聯網法院生效了一起生成式AI服務侵犯他人著作權判決,這也是全球範圍內首例生成式AI服務侵犯他人著作權的生效判決。該案認為,被告(某人工智能公司)在提供生成式人工智能服務過程中侵犯了原告對案涉奧特曼作品所享有的複製權和改編權,並應承擔相關民事責任。
[15]
- 參考資料
-
- 1. 14個網絡熱詞,快來get!| 網詞百科 .網絡傳播[引用日期2021-12-01]
- 2. 規範生成式人工智能服務正當其時 .新浪財經.2023-04-12[引用日期2023-04-12]
- 3. 國家網信辦出手,“生成式AI”將有哪些規矩?一圖讀懂 .北京日報.2023-04-12
- 4. IBM發佈生成式AI平台Watsonx 最早將於7月推出 .新浪網.2023-05-09
- 5. 日本首都東京所有政府部門 8 月起全面引入生成式 AI .IT之家.2023-06-13[引用日期2023-06-13]
- 6. 歐洲議會批准《人工智能法案》,要求披露生成式AI訓練數據版權 .澎湃[引用日期2023-06-15]
- 7. 2023年十大新興技術出爐 生成式人工智能在列 - .自貢網 - 在這裏,讀懂鹽都[引用日期2023-06-28]
- 8. 國家網信辦等七部門聯合公佈《生成式人工智能服務管理暫行辦法》 .界面新聞.2023-07-13[引用日期2023-07-13]
- 9. 新聞1+1丨生成式AI 如何向善? .央視網.2023-08-17
- 10. 亞馬遜新品發佈會:Alexa助手加入生成式AI功能 Echo 8將於10月發貨 .新浪財經.2023-09-21[引用日期2023-09-21]
- 11. “漢語盤點”發佈2023年度中國媒體十大新詞語 .央視新聞.2023-12-16
- 12. 北京日報理論週刊 | 2023年理論視野中的十大熱點 .北京日報APP新聞[引用日期2023-12-25]
- 13. 2023年度十大科技名詞 .百家號.2023-12-26
- 14. 2023年度十大科技名詞揭曉 .術語中國[引用日期2023-12-28]
- 15. AI畫出奧特曼:中國法院作出全球首例生成式AI服務侵犯著作權的生效判決 .每經網.2024-02-26
- 16. 我國117個大模型完成生成式AI服務備案 .新華網.2024-04-11
- 17. OpenAI、螞蟻集團、谷歌、科大訊飛等聯合編制大模型安全國際標準正式發佈 .界面新聞.2024-04-17[引用日期2024-04-17]
- 收起