<em id="oqmgd"><label id="oqmgd"></label></em>

  • <div id="oqmgd"></div>

    <em id="oqmgd"></em>

      1. 申請試用
        登錄
        熱點聚焦
        面向政府機構、企業、智庫以及行業協會等組織機構,商湯智能產業研究院以研究和賦能為核心,建設開放、合作的產業生態。
        首頁 > AI倫理與治理 > 熱點聚焦
        聯合國世界數據論壇:商湯科技發布“AI安全治理開放平臺”
        2023-04-28

        自2017年成立以來,聯合國世界數據論壇已成為該領域最重要的國際合作平臺,旨在激勵數據創新,培育伙伴關系,動員高層對數據領域的政治和財政支援,并探索更好的以數據建設促進可持續發展的路徑。聯合國大學校長、聯合國副秘書長西里達茲·馬爾瓦拉在論壇開幕式上表示:“我們正處在一個技術加速發展的時代,其特點是大數據、數字化和人工智能(AI)的快速發展。這些變化帶來了令人難以置信的機會,但也有必須應對的風險。”聯合國大學駐澳門研究所(UNU Macau)作為唯一擁有衛星論壇舉辦資格的機構,旨在邀請區域內及領域內利益相關者,從不同角度為解決數據困境提出行動建議,并以此助力聯合國2030可持續發展目標的實現。


        活動當天,衛星論壇舉辦了12個平行會議,聚焦關于數據困境的各種議題。商湯智能產業研究院院長田豐受邀參加“Regulatory Dilemmas and Digital Technologies”(監管困境和數字技術)分論壇。


        聯合國世界數據論壇圖1論壇現場.jpg


        人工智能治理體系建構的目標,就是發展負責任的人工智能,需要做到有跡可循、有據可查。田豐介紹,基于“平衡發展”的倫理觀,“以人為本、技術可控、可持續發展”的倫理原則,商湯于行業首次提出發展“負責任且可評估”的人工智能,并將其作為開展人工智能治理的愿景目標,“負責任且可評估的人工智能”的核心要求包括:對人負責、對社會負責、對環境負責、責任可溯源、風險有評估、過程可評估和效果可評估。


        田豐表示,商湯長期高度重視AI倫理治理,多年來成功建設倫理風險庫,成立“人工智能倫理與治理委員會”,全面建立產品倫理風險審查機制,實現產品倫理風險分級分類管理,并建設倫理治理技術與管理工具箱,建立覆蓋產品全生命周期的倫理審查體系,包括從設計階段的自我審查、開發階段的風險評估、部署階段的倫理風險審核到產品上線后的跟蹤審查。


        聯合國世界數據論壇圖2發表演講.jpg


        田豐認為,在以AIGC為代表的人工智能產業高速發展的同時,其倫理治理風險也應受到關注,比如國內外多家核心期刊對學術發表中使用人工智能工具做出了嚴正回應,而除了學術造假和作弊等問題外,AIGC還會引發版權和虛假信息等問題。綜合來看,AIGC倫理治理風險主要涉及應用風險、模型風險和數據風險。具體來看,應用風險主要包括濫用風險、技能換代、倫理分歧和不公平競爭;模型風險主要包括算法偏見、算法黑箱、后門嵌入和代碼漏洞;數據風險主要包括版權保護、隱私保護、數據偏差和數據投毒。


        針對上述風險,田豐介紹,商湯科技正式推出“AI安全治理開放平臺”(http://aisafe.sensetime.com/home),旨在充分發揮商湯多年在AI安全領域的技術沉淀和實踐經驗,為行業健康可持續發展打造互操作的AI安全技術公益平臺,推動建設開放、可信的人工智能創新生態。在深度模型安全上,平臺可提供模型體檢(涵蓋對抗安全、魯棒性以及后門安全評估)和開源的防御解決方案(魯棒訓練插件、AI防火墻)。在內容創作上,平臺提供商湯數字水印功能以達到作品的防偽溯源,并且利用投毒技術保護圖片信息不被深度模型所利用。


        此外,田豐結合六個應用實例對平臺功能進行了介紹:比如數字水印技術,可實現對多圖層(PSD)格式文件添加水印,在無損視覺效果的基礎上,還保障了文件的真實性和可溯源性;而結合數據投毒技術,對創作者作品添加不可見擾動,可以使其風格無法被深度學習模型擬合,從而對作者獨特的創作風格進行保護等。


        展望未來,商湯將繼續在AI治理道路上貢獻自己的力量,我們也誠摯邀請各界共同打造開放、可信的人工智能創新生態,讓技術賦能產業升級和創新發展。


        推薦閱讀

        <em id="oqmgd"><label id="oqmgd"></label></em>

      2. <div id="oqmgd"></div>

        <em id="oqmgd"></em>

          1. 日韩在线视频