開(kāi)放 包容 創(chuàng)新 卓越
OPEN, INCLUSIVE, INNOVATIVE AND OUTSTANDING?????
在AI時(shí)代，應(yīng)急管理面臨機(jī)遇與挑戰(zhàn)。全國(guó)兩會(huì)期間，代表委員們圍繞AI賦能應(yīng)急管理建言獻(xiàn)策。AI可助力安全生產(chǎn)、風(fēng)險(xiǎn)預(yù)警、隱患排查和應(yīng)急救援，但也存在數(shù)據(jù)安全、算法倫理等問(wèn)題。代表委員們建議科學(xué)規(guī)范使用AI，提升其在應(yīng)急管理中的應(yīng)用水平，同時(shí)警惕技術(shù)依賴(lài)帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)，確保AI技術(shù)服務(wù)于公共安全目標(biāo)。
AI時(shí)代，應(yīng)急管理工作如何應(yīng)對(duì)機(jī)遇和挑戰(zhàn)？
深度挖掘風(fēng)險(xiǎn)隱患、精準(zhǔn)預(yù)警災(zāi)害風(fēng)險(xiǎn)、快速形成應(yīng)對(duì)方案、科學(xué)匹配救災(zāi)物資……當(dāng)前，人工智能（AI）飛速發(fā)展，為應(yīng)急管理事業(yè)注入新動(dòng)能。與此同時(shí)，數(shù)據(jù)安全、算法倫理、技術(shù)壁壘等問(wèn)題也日漸凸顯。在享受技術(shù)紅利的同時(shí)，如何構(gòu)建安全、可靠、透明的AI應(yīng)用體系，是全面推進(jìn)應(yīng)急管理體系和能力現(xiàn)代化進(jìn)程中的重要課題。全國(guó)兩會(huì)上，中國(guó)應(yīng)急管理報(bào)記者采訪了多位代表委員，看看他們?cè)趺凑f(shuō)。 多名代表委員支招獻(xiàn)策—— 人工智能賦能監(jiān)管 人機(jī)協(xié)同守護(hù)安全
■本報(bào)記者 羅地生
今年全國(guó)兩會(huì)期間，AI成為高頻詞。在數(shù)字化浪潮洶涌澎湃的當(dāng)下，AI憑借極高的圖文生成效率、強(qiáng)大的數(shù)據(jù)分析能力，正在以前所未有的態(tài)勢(shì)融入我們的日常生活。
如何借助AI，做好應(yīng)急管理工作？代表委員紛紛建言獻(xiàn)策。
用AI賦能安全生產(chǎn)
“做好安全生產(chǎn)工作要積極擁抱AI，這是提升安全生產(chǎn)治理能力和治理水平的有益探索?！比珖?guó)政協(xié)常委，中國(guó)安全生產(chǎn)科學(xué)研究院名譽(yù)院長(zhǎng)、首席科學(xué)家張興凱表示，AI可以助力規(guī)范執(zhí)法，“如果執(zhí)法文書(shū)與法律法規(guī)存在偏差，我們可以借助AI及時(shí)發(fā)現(xiàn)”。
AI在風(fēng)險(xiǎn)隱患分析、管道巡查、復(fù)雜區(qū)域救援等方面也能發(fā)揮積極作用。張興凱表示，未來(lái)，可以由負(fù)有安全監(jiān)管職責(zé)的部門(mén)提出集“宜人、安全、功能”為一體的需求，由相關(guān)企業(yè)研發(fā)AI產(chǎn)品。
全國(guó)政協(xié)委員、中國(guó)礦業(yè)大學(xué)（北京）原副校長(zhǎng)姜耀東認(rèn)為，用AI賦能安全監(jiān)管，可以提升安全性。
華為盤(pán)古大模型已在礦山監(jiān)管中取得實(shí)效，特別是在多繩摩擦提升系統(tǒng)中，它解決了人工巡檢精度低、實(shí)時(shí)性差的問(wèn)題。在立井提升井底堆煤監(jiān)測(cè)中，AI能根據(jù)堆煤情況分級(jí)預(yù)警，提醒員工及時(shí)清運(yùn)，有效避免相關(guān)安全隱患。
在工業(yè)領(lǐng)域，通鼎互聯(lián)智慧安監(jiān)系統(tǒng)結(jié)合百度深度學(xué)習(xí)技術(shù)，實(shí)現(xiàn)對(duì)儀表、人員行為和著裝的實(shí)時(shí)監(jiān)控，并能夠智能分析監(jiān)控畫(huà)面，一旦發(fā)現(xiàn)隱患或危險(xiǎn)行為，可實(shí)時(shí)報(bào)警?！癆I的應(yīng)用不僅減少了用工成本，還提升了監(jiān)管效率?！苯珫|說(shuō)。
全國(guó)政協(xié)委員、甘肅省工業(yè)和信息化廳副廳長(zhǎng)黃寶榮表示，AI還能開(kāi)展自動(dòng)化巡檢與應(yīng)急處置，替代員工進(jìn)入高危區(qū)域執(zhí)行巡檢任務(wù)。
以AI推動(dòng)事前預(yù)防
根據(jù)企業(yè)用電情況，判斷其是否違規(guī)生產(chǎn)，是應(yīng)急管理部門(mén)打擊違法違規(guī)行為的重要手段。全國(guó)政協(xié)委員、民建廣東省委會(huì)副主委姚建明認(rèn)為，相關(guān)部門(mén)可利用AI對(duì)燃?xì)庠O(shè)備設(shè)施運(yùn)行等數(shù)據(jù)，以及涉企執(zhí)法、事故隱患等情況進(jìn)行分析，以發(fā)現(xiàn)潛在風(fēng)險(xiǎn)，推動(dòng)公共安全治理從“亡羊補(bǔ)牢”向“未雨綢繆”轉(zhuǎn)變。
全國(guó)政協(xié)委員、西安交通大學(xué)公共政策與管理學(xué)院教授杜海峰表示，可以利用AI“學(xué)習(xí)”安全監(jiān)管相關(guān)案例，總結(jié)規(guī)律，為預(yù)防同類(lèi)事故提供決策支撐?！氨热?，利用AI構(gòu)建孿生數(shù)字系統(tǒng)，讓?xiě)?yīng)急管理、安全監(jiān)管具體工作變得‘?dāng)?shù)字化’，通過(guò)更真實(shí)的系統(tǒng)模擬孿生、總結(jié)分析隱患機(jī)理、風(fēng)險(xiǎn)原因、事故規(guī)律，將結(jié)果和現(xiàn)實(shí)發(fā)展變化進(jìn)行動(dòng)態(tài)比對(duì)，從而找到更恰當(dāng)?shù)慕鉀Q辦法，使應(yīng)急管理、安全監(jiān)管工作更‘智能’。”杜海峰指出。
“AI在災(zāi)害監(jiān)測(cè)領(lǐng)域同樣潛力巨大?！比珖?guó)人大代表、河南理工大學(xué)學(xué)術(shù)副校長(zhǎng)金雙根說(shuō)，在地質(zhì)災(zāi)害防治中，“北斗+AI”邊坡監(jiān)測(cè)系統(tǒng)可捕捉0.1毫米級(jí)的巖體位移，使預(yù)警響應(yīng)時(shí)間縮短至3分鐘以內(nèi)；在防汛抗洪中，相關(guān)部門(mén)可通過(guò)AI分析實(shí)時(shí)水位、降水量等信息，預(yù)測(cè)洪水漫延路徑和受災(zāi)范圍，提前轉(zhuǎn)移群眾，調(diào)配應(yīng)急資源……“面對(duì)森林草原火災(zāi)、氣象災(zāi)害等，我們也能利用AI，打足預(yù)報(bào)預(yù)警的提前量，提升精準(zhǔn)度?！苯痣p根告訴記者。
科學(xué)規(guī)范使用AI
“AI再先進(jìn)，也只是一種工具。我們要規(guī)范、科學(xué)使用，趨其利、避其害?！睆埮d凱認(rèn)為，現(xiàn)實(shí)的安全監(jiān)管情況很復(fù)雜，而AI只能遵循設(shè)定的流程，因此我們還不能只靠AI來(lái)生成執(zhí)法文書(shū)或提出整改建議，其提出的措施也未必適合企業(yè)。
隱患是動(dòng)態(tài)的，風(fēng)險(xiǎn)是變化的，特別是針對(duì)新領(lǐng)域、新業(yè)態(tài)，AI可能缺乏足夠的數(shù)據(jù)，導(dǎo)致判斷不準(zhǔn)或無(wú)法識(shí)別風(fēng)險(xiǎn)。“在安全生產(chǎn)這樣人命關(guān)天的大事上，不可完全信奉A(yù)I。”張興凱提醒，雖然AI有時(shí)很“準(zhǔn)”，但安全生產(chǎn)復(fù)雜性、事故偶然性等因素決定我們必須依靠人的豐富經(jīng)驗(yàn)、敏銳洞察力來(lái)作出決策。
杜海峰表示，安全監(jiān)管人員要提升駕馭AI的能力，“若一味依賴(lài)AI，忽視自身的學(xué)習(xí)提升和實(shí)踐總結(jié)，可能在面對(duì)復(fù)雜情況時(shí)手足無(wú)措”。他建議，相關(guān)人員要加強(qiáng)事故災(zāi)害風(fēng)險(xiǎn)研判，將一些規(guī)律性、特殊性質(zhì)的內(nèi)容提供給AI“學(xué)習(xí)”，并從技術(shù)層面改進(jìn)AI，讓其越來(lái)越“聰明”，成為防范風(fēng)險(xiǎn)、消除隱患的好幫手。
如何利用AI應(yīng)對(duì)新型安全風(fēng)險(xiǎn)？姜耀東表示，要不斷促使AI“學(xué)習(xí)”新的安全標(biāo)準(zhǔn)和風(fēng)險(xiǎn)特征，為避免AI變成“數(shù)據(jù)孤島”，須統(tǒng)一系統(tǒng)間的數(shù)據(jù)格式，以實(shí)現(xiàn)跨領(lǐng)域數(shù)據(jù)整合和協(xié)同監(jiān)管。
由于AI是基于互聯(lián)網(wǎng)現(xiàn)有的內(nèi)容來(lái)進(jìn)行深度學(xué)習(xí)與內(nèi)容生成的，若其獲取的信息存在問(wèn)題，生成的內(nèi)容也會(huì)不準(zhǔn)確，甚至?xí)霈F(xiàn)監(jiān)控畫(huà)面被偽造或數(shù)據(jù)被篡改的情況?！绊毚_保AI的透明性和可解釋性，避免因算法偏見(jiàn)或數(shù)據(jù)質(zhì)量問(wèn)題導(dǎo)致誤判?！苯珫|強(qiáng)調(diào)。
對(duì)此，黃寶榮也建議，要提升算法精度，優(yōu)化其可靠性，提高復(fù)雜場(chǎng)景下的識(shí)別準(zhǔn)確率，降低誤報(bào)漏報(bào)風(fēng)險(xiǎn)；明確人機(jī)協(xié)同邊界，明確AI預(yù)警與人工處置的職責(zé)劃分，例如異常情況監(jiān)測(cè)可由AI負(fù)責(zé)，但高風(fēng)險(xiǎn)決策仍需由人工來(lái)確認(rèn)。
全國(guó)政協(xié)委員、農(nóng)業(yè)和農(nóng)村委員會(huì)委員周?chē)?guó)平—— 建立適用模型 助力提升基層應(yīng)急救援能力
■本報(bào)記者 肖艷鵬
AI憑借強(qiáng)大的數(shù)據(jù)處理、分析預(yù)測(cè)和智能決策能力，為提升基層應(yīng)急救援能力開(kāi)辟了新路徑、帶來(lái)了新機(jī)遇?！搬槍?duì)基層現(xiàn)存問(wèn)題，相關(guān)部門(mén)單位可以探索應(yīng)用AI來(lái)補(bǔ)短板、強(qiáng)弱項(xiàng)，建立適用模型，為提升基層應(yīng)急救援能力賦能?！比珖?guó)政協(xié)委員、農(nóng)業(yè)和農(nóng)村委員會(huì)委員周?chē)?guó)平表示。
基層仍存短板弱項(xiàng)
周?chē)?guó)平在調(diào)研中發(fā)現(xiàn)，在應(yīng)急救援方面，基層目前還存在一些短板弱項(xiàng)，特別是在AI技術(shù)應(yīng)用方面尚顯不足。
基層應(yīng)急救援意識(shí)不強(qiáng)、常識(shí)不足?；鶎尤罕姾筒糠謶?yīng)急管理人員對(duì)災(zāi)害事故風(fēng)險(xiǎn)的認(rèn)知主要來(lái)自傳統(tǒng)媒體、宣傳手冊(cè)等。基層鮮少使用AI等新技術(shù)開(kāi)展科普宣傳，而傳統(tǒng)科普方式覆蓋面有限、互動(dòng)性較差?！盎鶎釉趹?yīng)急管理、災(zāi)害防治、人工智能等方面，也普遍缺乏專(zhuān)業(yè)人才，不利于工作開(kāi)展?！敝?chē)?guó)平說(shuō)。
“應(yīng)急預(yù)案數(shù)字化程度相對(duì)偏低。”周?chē)?guó)平表示，應(yīng)急預(yù)案需投入人力資源進(jìn)行編制，其效果受編制者經(jīng)驗(yàn)多少、專(zhuān)業(yè)水平高低等因素影響?，F(xiàn)有的基層應(yīng)急預(yù)案多是紙質(zhì)文檔，難以實(shí)現(xiàn)動(dòng)態(tài)更新、快速調(diào)用，影響實(shí)際應(yīng)用效果。
周?chē)?guó)平表示，實(shí)戰(zhàn)化演練常需要模擬真實(shí)的災(zāi)害事故場(chǎng)景，往往涉及多個(gè)部門(mén)和單位，資金投入大、協(xié)調(diào)難度大，演練中也存在一定的安全風(fēng)險(xiǎn)。而部分基層單位支撐保障能力不足，導(dǎo)致實(shí)戰(zhàn)化演練難以有效開(kāi)展，使得基層的真實(shí)應(yīng)急救援能力無(wú)法得到及時(shí)檢驗(yàn)和提升。
借助AI提質(zhì)強(qiáng)能
周?chē)?guó)平認(rèn)為，可以充分利用AI，建立科普、預(yù)案、演練等模型，并加大支持力度，進(jìn)一步提升基層應(yīng)急救援能力。
建立科普模型，提升基層應(yīng)急救援基本能力。相關(guān)部門(mén)可利用AI構(gòu)建多領(lǐng)域融合的應(yīng)急知識(shí)科普模型，建設(shè)適用于基層的法律法規(guī)庫(kù)、典型案例庫(kù)、防災(zāi)減災(zāi)救災(zāi)知識(shí)庫(kù)、專(zhuān)家咨詢庫(kù)等數(shù)據(jù)庫(kù)，助力基層開(kāi)展應(yīng)急科普、預(yù)警“叫應(yīng)”、風(fēng)險(xiǎn)評(píng)估和決策等?！癆I具備圖像識(shí)別功能，可開(kāi)展智能巡檢并自動(dòng)識(shí)別風(fēng)險(xiǎn)隱患，深度挖掘歷史災(zāi)害數(shù)據(jù)，為基層人員提供風(fēng)險(xiǎn)評(píng)估和決策支撐。”周?chē)?guó)平說(shuō)。
建立預(yù)案模型，增強(qiáng)基層應(yīng)急預(yù)案精準(zhǔn)性。各地各部門(mén)應(yīng)抓緊學(xué)習(xí)《國(guó)家突發(fā)事件總體應(yīng)急預(yù)案》，借助AI建立應(yīng)急預(yù)案模型，實(shí)現(xiàn)在系統(tǒng)中輸入相關(guān)條件，即可快速查詢和獲取所需信息，助力基層編制標(biāo)準(zhǔn)化的應(yīng)急預(yù)案。此外，可建立多部門(mén)協(xié)同編制預(yù)案模塊，以自動(dòng)審核應(yīng)急預(yù)案的邏輯合理性、內(nèi)容完整性等，從而提高應(yīng)急預(yù)案質(zhì)量。
建立演練模型，解決基層演練組織難問(wèn)題。周?chē)?guó)平表示，可以集成課程庫(kù)、腳本庫(kù)、情景庫(kù)、評(píng)估庫(kù)等資源，開(kāi)發(fā)桌面推演系統(tǒng)，以此引導(dǎo)相關(guān)人員按流程實(shí)施演練，降低演練成本和安全風(fēng)險(xiǎn)。在開(kāi)展演練和災(zāi)害應(yīng)對(duì)中，推演系統(tǒng)可根據(jù)實(shí)時(shí)獲取的災(zāi)害信息、資源狀況等數(shù)據(jù)，快速生成決策建議。相關(guān)部門(mén)單位還可以據(jù)此建立“學(xué)、練、考、評(píng)”一體化智能培訓(xùn)體系，為基層應(yīng)急救援人員提供豐富多樣的培訓(xùn)課程，推送個(gè)性化練習(xí)和模擬演練任務(wù)，全程進(jìn)行考核評(píng)估，并生成針對(duì)性提升方案，從而不斷提高基層應(yīng)急救援實(shí)戰(zhàn)能力。
“要加大對(duì)AI的應(yīng)用支持力度，出臺(tái)相關(guān)政策法規(guī)，培養(yǎng)一批既懂應(yīng)急管理又懂AI應(yīng)用的復(fù)合型人才。”周?chē)?guó)平表示。
全國(guó)人大代表、河南理工大學(xué)學(xué)術(shù)副校長(zhǎng)金雙根—— 警惕技術(shù)依賴(lài)導(dǎo)致系統(tǒng)性風(fēng)險(xiǎn)
■本報(bào)記者 肖艷鵬
隨著AI快速發(fā)展，其在災(zāi)害監(jiān)測(cè)領(lǐng)域已展現(xiàn)出巨大潛力?！敖Y(jié)合地震波監(jiān)測(cè)數(shù)據(jù)構(gòu)建的AI模型，可實(shí)現(xiàn)秒級(jí)地震預(yù)警；通過(guò)衛(wèi)星遙感圖像智能分析系統(tǒng)，可實(shí)時(shí)識(shí)別災(zāi)害前兆?！苯?，在談及AI在防災(zāi)減災(zāi)方面的應(yīng)用時(shí)，全國(guó)人大代表、河南理工大學(xué)學(xué)術(shù)副校長(zhǎng)金雙根說(shuō)。
金雙根舉例說(shuō)，在地震風(fēng)險(xiǎn)智能預(yù)警方面，AI可以利用歷史地震數(shù)據(jù)，構(gòu)建更精準(zhǔn)的三維地質(zhì)模型，以提前預(yù)警破壞性地震；在氣象災(zāi)害動(dòng)態(tài)感知方面，AI可以實(shí)時(shí)監(jiān)測(cè)氣象變化，幫助相關(guān)機(jī)構(gòu)快速有效開(kāi)展數(shù)據(jù)分析和處理，例如日本氣象廳融合衛(wèi)星云圖、海洋溫度、大氣壓等多源數(shù)據(jù)，構(gòu)建臺(tái)風(fēng)路徑預(yù)測(cè)模型，使臺(tái)風(fēng)路徑預(yù)測(cè)誤差得以進(jìn)一步縮小。
金雙根指出，AI在應(yīng)用過(guò)程中需注意以下幾個(gè)關(guān)鍵問(wèn)題：
一是數(shù)據(jù)質(zhì)量與多樣性面臨挑戰(zhàn)。監(jiān)測(cè)系統(tǒng)過(guò)度依賴(lài)單一數(shù)據(jù)源易造成誤判?！?020年，某地山火預(yù)警系統(tǒng)因未整合氣象數(shù)據(jù)，導(dǎo)致漏報(bào)率達(dá)15%?！苯痣p根舉例說(shuō)，相關(guān)部門(mén)需建立多模態(tài)數(shù)據(jù)融合機(jī)制，整合衛(wèi)星、傳感器等多維度觀測(cè)信息，以進(jìn)一步提升AI監(jiān)測(cè)效能。
二是模型可解釋性與可靠性存疑。“AI算法黑箱可能隱藏關(guān)鍵決策邏輯，導(dǎo)致決策結(jié)果和可靠性存疑?！苯痣p根說(shuō)，美國(guó)地質(zhì)調(diào)查局在開(kāi)發(fā)地震預(yù)測(cè)模型時(shí)，要求算法須通過(guò)地質(zhì)學(xué)原理驗(yàn)證。他建議，可采用可解釋性AI框架，確保相關(guān)模型決策過(guò)程透明、可追溯。
三是隱私保護(hù)與倫理邊界需注意。金雙根介紹，使用無(wú)人機(jī)和攝像頭進(jìn)行災(zāi)情監(jiān)測(cè)時(shí)，需遵循我國(guó)相關(guān)法律法規(guī)要求，對(duì)涉及公民個(gè)人的圖像數(shù)據(jù)實(shí)施去標(biāo)識(shí)化處理。
四是人機(jī)協(xié)同機(jī)制建設(shè)有待加強(qiáng)。“過(guò)度依賴(lài)AI可能導(dǎo)致應(yīng)急響應(yīng)能力退化。”金雙根坦言。如何解決這一問(wèn)題？他表示，德國(guó)應(yīng)急管理部門(mén)規(guī)定，AI預(yù)警必須經(jīng)人工復(fù)核后方可發(fā)布，并定期組織無(wú)AI參與的應(yīng)急演練，這一做法或可借鑒。
金雙根表示，在利用AI提升災(zāi)害監(jiān)測(cè)效率的同時(shí)，需警惕技術(shù)依賴(lài)導(dǎo)致的系統(tǒng)性風(fēng)險(xiǎn)。他建議，構(gòu)建“監(jiān)測(cè)—預(yù)警—決策”三級(jí)智能系統(tǒng)架構(gòu)，在數(shù)據(jù)采集層可應(yīng)用聯(lián)邦學(xué)習(xí)技術(shù)保障隱私，在預(yù)警層采用混合專(zhuān)家模型提升準(zhǔn)確性，在決策層保留人工干預(yù)通道。
“技術(shù)創(chuàng)新應(yīng)與制度建設(shè)同步推進(jìn)，建議制定智能監(jiān)測(cè)系統(tǒng)安全標(biāo)準(zhǔn)，建立AI倫理審查委員會(huì)，確保技術(shù)應(yīng)用始終服務(wù)于公共安全目標(biāo)?！苯痣p根說(shuō)。
全國(guó)政協(xié)委員、北方工業(yè)大學(xué)副校長(zhǎng)李全明—— 不斷迭代升級(jí) 增強(qiáng)數(shù)據(jù)真實(shí)性可靠性
■本報(bào)記者 肖艷鵬
