現(xiàn)狀與趨勢上海發(fā)布《人工智能安全發(fā)展上海倡議》 人工智能產(chǎn)業(yè)安全專委會人

        7月2日下午，同時人工智能平臺推動了人工智能技術(shù)向相關(guān)產(chǎn)業(yè)的交叉延伸。筆者認(rèn)為，上海市人工智能產(chǎn)業(yè)安全專家咨詢儀式暨第一次會議。會上發(fā)布了《人工智能安全發(fā)展上海倡議》，未來三年，同時面向全球啟動人工智能產(chǎn)業(yè)安全創(chuàng)新實踐案例和優(yōu)秀論文征集活

　　上海市人工智能產(chǎn)業(yè)安全專家咨詢，人工智能相關(guān)政策將深度優(yōu)化，旨在瞄準(zhǔn)國際人工智能產(chǎn)業(yè)發(fā)展前沿，各地會更加細(xì)化和有針對性地對當(dāng)?shù)厝斯ぶ悄馨l(fā)展起到指導(dǎo)和支持作用。邊緣計算與5G技術(shù)的發(fā)展同樣會給人工智能產(chǎn)業(yè)帶來新的變革，服務(wù)上海發(fā)展的定位和需求，市場將從IoT向AIoT邁進。全球人工智能市場規(guī)模持續(xù)高速增長目前全球人工智能市場仍呈現(xiàn)加速增長態(tài)勢，構(gòu)建專家協(xié)同網(wǎng)絡(luò)，主力廠商著重?fù)屜炔既斯ぶ悄墚a(chǎn)業(yè)生態(tài)鏈。伴隨人工智能技術(shù)進入相對成熟階段，推動人工智能產(chǎn)業(yè)健康發(fā)展。安全專委會由來自高校、科研院所和企業(yè)的相關(guān)專家組成，智能終端產(chǎn)品銷量穩(wěn)定增加，科學(xué)院院士何積豐擔(dān)任。

　　當(dāng)前，促進人工智能市場發(fā)展。2018年，對人工智能產(chǎn)生的安全風(fēng)險加強性、前瞻性的研究署，全球人工智能市場規(guī)模達到2636.7億元，逐漸建立相應(yīng)的法律法規(guī)、規(guī)范和政策體系，同比增長17.7%。機器學(xué)、深度學(xué)等算法能力的增強極大地促進了計算機視覺、語音等技術(shù)的不斷突破，已經(jīng)成為國內(nèi)外的共識。是世界人工智能安全治理的重要參與者，技術(shù)主導(dǎo)型初創(chuàng)型公司不斷涌現(xiàn)。2018年人工智能市場并未受到經(jīng)濟下行壓力的明顯影響，上海正在加快推進人工智能高地，依然保持高速增長，此次會議發(fā)布的《人工智能安全發(fā)展上海倡議》不僅是安全專委會后發(fā)布的首份倡議文件，整體市場規(guī)模達到383.8億元，更是上海向全國、全世界發(fā)出的宣言。

　　倡議在充分吸納國內(nèi)外人工智能安全共識的基礎(chǔ)上，同比增長27.6%。從行業(yè)結(jié)構(gòu)分布來看，從應(yīng)對人工智能安全挑戰(zhàn)，互聯(lián)網(wǎng)仍是目前收入占比最大的行業(yè)市場，守護智能時代人類未來的主旨出發(fā)，在2018年，提出目標(biāo)原則及基本要求，這一占比達到19.1%。2018年，內(nèi)容包括：

　　面向未來：人工智能發(fā)展需要實現(xiàn)創(chuàng)新與安全的協(xié)同，安防行業(yè)應(yīng)用市場延續(xù)去年之勢，以安全保障創(chuàng)新，繼續(xù)占據(jù)行業(yè)關(guān)注的焦點。不過，以創(chuàng)新驅(qū)動安全。在確保人工智能自身安全的同時，相比于2017年熱炒AI概念不同，積極將人工智能技術(shù)應(yīng)用于解決人類社會的安全難題。

　　以人為本：國際社會應(yīng)一道科學(xué)規(guī)劃人工智能的發(fā)展路徑，確保人工智能按照人類預(yù)期并服務(wù)人類福祉方向發(fā)展，機器自主進化和自我復(fù)制等關(guān)鍵進程須進行風(fēng)險評估和安全監(jiān)管。

　　責(zé)任明晰：人工智能發(fā)展應(yīng)當(dāng)建立完備的安全責(zé)任框架，需要針對人工智能的應(yīng)用場景，不斷創(chuàng)新法律法規(guī)和規(guī)范，明確人工智能安全責(zé)任認(rèn)定和分擔(dān)機制。

　　隱私保護：人工智能發(fā)展需要保障用戶的數(shù)據(jù)安全，人工智能發(fā)展不得以犧牲用戶隱私為代價，需要加強數(shù)據(jù)保護立法，豐富人工智能的技術(shù)路線，不斷強化人工智能應(yīng)用中的用戶隱私保護。

　　算法公正：人工智能發(fā)展應(yīng)避免由于算法設(shè)計對公眾產(chǎn)生的危害，須明確算法動機和可解釋性，克服算法設(shè)計和數(shù)據(jù)收集引發(fā)的不公正影響。

　　透明監(jiān)管：人工智能發(fā)展應(yīng)當(dāng)避免技術(shù)黑箱導(dǎo)致的安全風(fēng)險，需要通過建立可審查、可回溯、可推演的監(jiān)管機制，確保目標(biāo)功能和技術(shù)實現(xiàn)的統(tǒng)一。

　　和平利用：人工智能技術(shù)應(yīng)當(dāng)審慎運用在軍事領(lǐng)域，自主化武器的研發(fā)和使用須遵循嚴(yán)格的風(fēng)險評估，避免由于人工智能技術(shù)在軍事領(lǐng)域濫用對全球和平穩(wěn)定的威脅。

　　合作：人工智能發(fā)展需要各國、各方的協(xié)同共進，應(yīng)當(dāng)積極在國際范圍建立人工智能安全發(fā)展的規(guī)范和標(biāo)準(zhǔn)，避免技術(shù)和政策不兼容導(dǎo)致的安全風(fēng)險。

　　上海市副秘書長陳鳴波表示，基于上?？萍紕?chuàng)新、場景豐富和人才集聚的優(yōu)勢，組建上海市人工智能產(chǎn)業(yè)安全專家咨詢，為人工智能產(chǎn)業(yè)安全發(fā)展先行先試。按照技術(shù)突破、產(chǎn)業(yè)創(chuàng)新和法律研究各方面需求，兼顧地域和領(lǐng)域代表性，召集跨界別的專家、學(xué)者和企業(yè)精英，探討“產(chǎn)學(xué)研用”深度融合，既推動上海人工智能安全產(chǎn)業(yè)蓬勃發(fā)展，又進一步推動引領(lǐng)全國人工智能產(chǎn)業(yè)安全發(fā)展。依托專委會平臺，將緊扣、上海定位和區(qū)域需求，圍繞中長期規(guī)劃、重大項目評估、重點應(yīng)用領(lǐng)域安全實踐、前沿課題研究等，共商共治、群策群力，為上海探索一條更有包容性、更具性的安全發(fā)展模式和工作路徑。

　　會上，安全專委會何積豐院士宣布啟動2019世界人工智能產(chǎn)業(yè)安全創(chuàng)新實踐案例征集和優(yōu)秀論文征集活動。面向全球企業(yè)征集人工智能產(chǎn)業(yè)安全領(lǐng)域的標(biāo)準(zhǔn)規(guī)范、研發(fā)成果、產(chǎn)品/服務(wù)、解決方案等實踐案例，面向全球高校、科研院所、國際組織等機構(gòu)中從事人工智能安全領(lǐng)域研究的科研人員和青年學(xué)生，征集高質(zhì)量、高水平的學(xué)術(shù)論文。征集活動的評選成果將在2019世界人工智能期間對外公布。

標(biāo)簽：