大模型將重塑人工智能產(chǎn)業(yè) 發(fā)展與治理同步推進

  新華網(wǎng)北京7月3日電（記者 孫云龍）人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力。以預訓練大模型引領的人工智能創(chuàng)新浪潮呼嘯而來。“大模型將重塑人工智能產(chǎn)業(yè)鏈競爭格局。”國家工業(yè)信息安全發(fā)展研究中心人工智能所副所長劉永東表示，“大模型正處于快速發(fā)展的窗口期，同時也暴露出諸多安全隱患，引發(fā)熱議和擔憂，還需不斷完善針對性的監(jiān)管政策，做到發(fā)展與治理‘同謀劃、同布局’。”


  7月2日，以“智能涌現(xiàn)，重塑未來”為主題的2023全球數(shù)字經(jīng)濟大會人工智能高峰論壇在京舉辦。劉永東在論壇間隙接受記者采訪時如此表述。

  類ChatGPT產(chǎn)品正不斷涌現(xiàn)，標志著大模型時代正在來臨。北京市經(jīng)濟和信息化局黨組書記、局長姜廣智在當日論壇致辭中表示，人工智能產(chǎn)業(yè)風頭正勁，迄今已有八十余個大模型公開發(fā)布，其中北京約占一半。大模型產(chǎn)品數(shù)量眾多，百度、騰訊、華為、阿里、商湯、科大訊飛、360等企業(yè)和清華大學、智源研究院、浦江實驗室等高校和科研機構相繼推出了大模型產(chǎn)品或解決方案。360集團創(chuàng)始人周鴻祎在論壇上表示，大模型在城市、行業(yè)、企業(yè)數(shù)字化轉型到智能化的過程中大有可為，進化迭代剛剛開始，相信未來會成為數(shù)字化系統(tǒng)的標配。未來可能不是“百模大戰(zhàn)”，而是“萬模群舞”。

  劉永東認為，以ChatGPT為代表的生成式人工智能將推動跨時代的范式變革。它提供了人工智能商業(yè)化落地新范式，可以為各個領域帶來巨大的生產(chǎn)力提升，引發(fā)行業(yè)重要升級，提振了產(chǎn)業(yè)信心。多模態(tài)預訓練大模型將成為人工智能基礎設施。“多模態(tài)大模型將成為具有泛化能力的模型底座、不同領域的共性平臺技術，成為邁向通用人工智能的重要探索，也是解決人工智能應用落地所面臨的需求碎片化、多樣化等問題的有效解決方式。”

  劉永東強調，大模型將重塑人工智能產(chǎn)業(yè)鏈競爭格局。一是開發(fā)范式變革，逐漸形成圍繞大模型結合特定領域模型微調的方式，打造垂直應用模型，科技巨頭圍繞大模型的生態(tài)競爭加劇。二是擠占技術層企業(yè)生存空間。生成式大模型的出現(xiàn)嚴重沖擊了以人工智能單一算法開發(fā)為主的初創(chuàng)企業(yè)，如圖像識別、語音識別等。

  “與此同時，我們也應關注到大模型帶來的挑戰(zhàn)。”劉永東表示，一是訓練大模型所需的算力資源被科技巨頭掌控，在新一輪競爭中筑起較高的行業(yè)壁壘。二是訓練大模型所需的高質量數(shù)據(jù)集匱乏，大模型所需的數(shù)據(jù)資源掌握在傳統(tǒng)行業(yè)巨頭和行業(yè)協(xié)會手中，需統(tǒng)籌行業(yè)力量加大開源數(shù)據(jù)集的建設力度。三是人工智能安全治理面臨的挑戰(zhàn)加劇，需不斷完善有針對性的監(jiān)管政策，做到發(fā)展與治理“同謀劃、同布局”。

  劉永東介紹，大模型具有算法不透明、數(shù)據(jù)強依賴、易被濫用等人工智能固有的風險，與其平臺性、易使用、超能力等特點相互交織，風險快速傳遞并極速放大。敏感數(shù)據(jù)泄露、虛假信息生成、漏洞攻擊加劇等安全風險頻現(xiàn)，給人工智能治理帶來新挑戰(zhàn)，引發(fā)熱議和擔憂，多個國家和地區(qū)已經(jīng)著手研究和探索應對舉措。

  “如何對具有生成式特征的大模型進行監(jiān)管，以確保其發(fā)展符合公共利益，已成為全球人工智能治理的新課題。”劉永東稱。當日論壇上，清華大學計算機系長聘教授、人工智能研究院副院長朱軍介紹，大模型在安全方面的問題表現(xiàn)為數(shù)據(jù)泄露、算法偏見、虛假信息等多個方面，需要有相應的防范措施。周鴻祎也認為，大模型產(chǎn)業(yè)化方案需要遵循安全、可信、可控的原則。

  劉永東表示，國家工業(yè)信息安全發(fā)展研究中心正聯(lián)合有關單位共同發(fā)起人工智能可信安全護航計劃，探索人工智能安全可信管理解決方案，護航大模型健康良性發(fā)展。該中心建議要明確各方責任，加強安全技術，推動行業(yè)自律，強化宣傳引導，堅持“以人為本”的初心，積極參與全球監(jiān)管規(guī)則建立。