電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析
摘 要:人工智能技術(shù)是當(dāng)今世界最具變革性的新興技術(shù)之一,以 ChatGPT 掀起的人工智能大模型發(fā)展浪潮引領(lǐng)了人工智能技術(shù)發(fā)展的范式變革,呈現(xiàn)出更加智能化、自動(dòng)化、高效化和可靠化的發(fā)展趨勢(shì),在電力行業(yè)得到了廣泛深入的應(yīng)用,有力推動(dòng)了電網(wǎng)企業(yè)數(shù)字化發(fā)展。但人工智能技術(shù)的應(yīng)用是一把“雙刃劍”,存在數(shù)據(jù)安全、網(wǎng)絡(luò)攻擊、技術(shù)缺陷和社會(huì)工程學(xué)風(fēng)險(xiǎn),需要采取全面安全可靠的防護(hù)措施,更好地發(fā)揮人工智能技術(shù)的優(yōu)勢(shì)和價(jià)值,助推電力行業(yè)發(fā)展。
內(nèi)容目錄:
1 人工智能技術(shù)發(fā)展現(xiàn)狀及趨勢(shì)
1.1 學(xué)習(xí)更加智能化
1.2 感知更加自動(dòng)化
1.3 處理更加高效化
2 人工智能技術(shù)應(yīng)用安全風(fēng)險(xiǎn)分析
2.1 人工智能技術(shù)自身的安全風(fēng)險(xiǎn)
2.2 人工智能應(yīng)用帶來的安全風(fēng)險(xiǎn)
3 人工智能技術(shù)在電力行業(yè)的主要應(yīng)用
3.1 電力設(shè)備故障診斷及運(yùn)維管理
3.2 電力負(fù)荷預(yù)測(cè)
3.3 電力市場(chǎng)分析及營銷服務(wù)
3.4 電力安全管控
4 電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)
4.1 數(shù)據(jù)安全風(fēng)險(xiǎn)
4.2 網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)
4.3 技術(shù)本身風(fēng)險(xiǎn)
4.4 社會(huì)工程學(xué)風(fēng)險(xiǎn)
5 電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防范策略
5.1 健全政策法規(guī),強(qiáng)化人工智能應(yīng)用保障機(jī)制
5.2 加強(qiáng)自主可控,夯實(shí)安全與創(chuàng)新發(fā)展的基礎(chǔ)
5.3 優(yōu)化防護(hù)策略,完善安全技術(shù)防護(hù)體系
5.4 強(qiáng)化宣傳培訓(xùn),提升安全防范意識(shí)水平
6 結(jié) 語
當(dāng)今時(shí)代,數(shù)字技術(shù)、數(shù)字經(jīng)濟(jì)成為世界科技革命和產(chǎn)業(yè)變革的先機(jī)。黨的二十大報(bào)告指出,要加快建設(shè)網(wǎng)絡(luò)強(qiáng)國、數(shù)字中國,進(jìn)一步將以人工智能(Artificial Intelligence,AI)為代表的數(shù)字技術(shù)創(chuàng)新和應(yīng)用提到戰(zhàn)略性高度,推動(dòng)人工智能技術(shù)對(duì)各行各業(yè)產(chǎn)生深遠(yuǎn)影響。其中,電力行業(yè)的人工智能戰(zhàn)略布局和推廣應(yīng)用得到顯著發(fā)展,有力推動(dòng)了電力企業(yè)的數(shù)字化轉(zhuǎn)型,為國家能源數(shù)字化、智能化發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。當(dāng)前對(duì)電力行業(yè)人工智能技術(shù)的研究主要聚焦于技術(shù)創(chuàng)新、管理變革、價(jià)值創(chuàng)造等正面效應(yīng)上,但是人工智能技術(shù)的應(yīng)用也存在“雙刃劍”效應(yīng),面臨著數(shù)據(jù)安全、網(wǎng)絡(luò)攻擊等各類風(fēng)險(xiǎn)挑戰(zhàn),將會(huì)影響電力安全保供,因此本文在介紹人工智能技術(shù)發(fā)展趨勢(shì)及在電力行業(yè)應(yīng)用的基礎(chǔ)上,聚焦技術(shù)本身和應(yīng)用管理等方面,指出電力行業(yè)人工智能技術(shù)應(yīng)用中主要存在的 4 類風(fēng)險(xiǎn),并提出風(fēng)險(xiǎn)防范策略,以更全面、更健康地推動(dòng)人工智能技術(shù)的應(yīng)用。
1
人工智能技術(shù)發(fā)展現(xiàn)狀及趨勢(shì)
人工智能技術(shù)是當(dāng)今世界最具變革性的新興技術(shù)之一,并作為核心主導(dǎo)技術(shù)驅(qū)動(dòng)著科學(xué)技術(shù)進(jìn)步和經(jīng)濟(jì)社會(huì)發(fā)展,深刻影響著人類生活的方方面面。人工智能技術(shù)歷經(jīng) 60 余年的發(fā)展壯大,順應(yīng)互聯(lián)網(wǎng)技術(shù)迅速規(guī)?;瘧?yīng)用的潮流,在自然語言處理、計(jì)算機(jī)視覺、語音識(shí)別、機(jī)器學(xué)習(xí)等領(lǐng)域已經(jīng)取得了顯著成果,被廣泛應(yīng)用于各種生產(chǎn)和生活場(chǎng)景,如智能家居、自動(dòng)駕駛汽車、醫(yī)療保健、智慧教育等,賦能智慧城市和數(shù)字中國建設(shè)。
以 ChatGPT(Chat Generative Pre-trained Transformer)為代表掀起的人工智能大模型發(fā)展浪潮引領(lǐng)了人工智能技術(shù)發(fā)展的范式變革,正在重塑產(chǎn)業(yè)鏈上下游,全球范圍內(nèi)的新一輪科技革命已經(jīng)到來 ,未來人工智能技術(shù)的發(fā)展將更加智能化、自動(dòng)化、高效化和可靠化。主要趨勢(shì)體現(xiàn)在以下幾個(gè)方面。
1.1 學(xué)習(xí)更加智能化
人工智能的核心技術(shù)是內(nèi)生的學(xué)習(xí)能力,包括深度學(xué)習(xí)、增強(qiáng)學(xué)習(xí)、機(jī)器學(xué)習(xí)、多模態(tài)學(xué)習(xí)、自適應(yīng)學(xué)習(xí)等方面。深度學(xué)習(xí)可以幫助人工智能系統(tǒng)更好地理解和處理復(fù)雜的數(shù)據(jù),包括圖像、語音和自然語言;增強(qiáng)學(xué)習(xí)是一種能夠讓計(jì)算機(jī)通過試錯(cuò)學(xué)習(xí)的方法,幫助計(jì)算機(jī)實(shí)現(xiàn)對(duì)環(huán)境的感知和控制,實(shí)現(xiàn)智能化決策;機(jī)器學(xué)習(xí)可以通過對(duì)大量數(shù)據(jù)進(jìn)行分析和學(xué)習(xí),實(shí)現(xiàn)對(duì)模式的識(shí)別和預(yù)測(cè);多模態(tài)學(xué)習(xí)可以通過多種數(shù)據(jù)源(如圖像、聲音、文本等)進(jìn)行學(xué)習(xí)和預(yù)測(cè),實(shí)現(xiàn)對(duì)真實(shí)世界更加準(zhǔn)確地理解、映射和預(yù)測(cè);自適應(yīng)學(xué)習(xí)可以讓人工智能系統(tǒng)根據(jù)環(huán)境和任務(wù)的變化,自主地調(diào)整學(xué)習(xí)策略和模型結(jié)構(gòu),實(shí)現(xiàn)對(duì)不同環(huán)境、不同任務(wù)的自主適應(yīng)。
1.2 感知更加自動(dòng)化
邊緣計(jì)算技術(shù)的發(fā)展為人工智能技術(shù)快速響應(yīng)用戶需求提供了可靠的基礎(chǔ)支撐,將計(jì)算和存儲(chǔ)資源放置在離用戶更近的地方,使得人工智能系統(tǒng)的運(yùn)轉(zhuǎn)擁有充足的調(diào)取資源,提高計(jì)算速度和響應(yīng)時(shí)間。人工智能技術(shù)與物聯(lián)網(wǎng)技術(shù)的融合發(fā)展,可幫助物聯(lián)網(wǎng)設(shè)備傳感器自動(dòng)感知收集數(shù)據(jù),并及時(shí)進(jìn)行分析處理得到需要的結(jié)果。例如在制造業(yè)、物流和交通等領(lǐng)域,人工智能技術(shù)可以幫助實(shí)現(xiàn)更高效的自動(dòng)化過程。
1.3 處理更加高效化
人工智能最核心的能力和特征之一是對(duì)輸入信息做出判斷或預(yù)測(cè),自然語言處理可以幫助系統(tǒng)更好地理解和處理人類的自然語言,實(shí)現(xiàn)人機(jī)交互。隨著自然語言處理技術(shù)的不斷發(fā)展,計(jì)算機(jī)對(duì)人類語言的理解和處理能力也在不斷提高,將成為人類應(yīng)用更廣的智能輔助工具。
1.4 決策更加可靠化
人工智能技術(shù)在感知、處理的技術(shù)上輸出使用者需要的結(jié)果,從而達(dá)到智能決策的目的??山忉屝匀斯ぶ悄芟到y(tǒng)可以向使用者解釋自己的決策和推理過程,使得人類可以更好地理解和信任人工智能系統(tǒng)的決策。同時(shí),隨著應(yīng)用主體、領(lǐng)域和場(chǎng)景的擴(kuò)展,數(shù)據(jù)隱私和數(shù)據(jù)保護(hù)也將成為人工智能技術(shù)越來越重要的問題,各種安全防護(hù)技術(shù)和措施也將同步發(fā)展。
2人工智能技術(shù)應(yīng)用安全風(fēng)險(xiǎn)分析
人工智能技術(shù)是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的關(guān)鍵技術(shù),其在推動(dòng)科學(xué)技術(shù)進(jìn)步、傳統(tǒng)產(chǎn)業(yè)優(yōu)化升級(jí)、經(jīng)濟(jì)高質(zhì)量發(fā)展等方面發(fā)揮了重要作用,與此同時(shí)也會(huì)帶來前所未有的安全風(fēng)險(xiǎn)。
2.1 人工智能技術(shù)自身的安全風(fēng)險(xiǎn)
人工智能技術(shù)主要由大數(shù)據(jù)、算法模型、基礎(chǔ)設(shè)施、產(chǎn)品服務(wù)和行業(yè)應(yīng)用等部分組成,攻擊者會(huì)針對(duì)這些組成部分制定針對(duì)性的特定攻擊,如投毒攻擊、對(duì)抗樣本攻擊、供應(yīng)鏈風(fēng)險(xiǎn)等。
2.1.1 投毒攻擊
攻擊者將惡意數(shù)據(jù)注入從而污染和篡改訓(xùn)練好的模型,傳統(tǒng)機(jī)器學(xué)習(xí)方法認(rèn)為輸入模型的數(shù)據(jù)可信,攻擊者可以通過注入大量惡意數(shù)據(jù)來攪亂數(shù)據(jù)的分布,調(diào)教大模型輸出他們所期望的值,讓 ChatGPT 等人工智能應(yīng)用產(chǎn)生錯(cuò)誤的預(yù)測(cè)結(jié)果,特別是在圖像識(shí)別、生物特征識(shí)別中,此類攻擊威脅很大。
2.1.2 對(duì)抗樣本攻擊
對(duì)抗樣本是一種能夠讓模型產(chǎn)生錯(cuò)誤判斷的數(shù)據(jù)樣本,對(duì)抗樣本攻擊不會(huì)改變模型本身。研究者發(fā)現(xiàn)在某些人工智能模型的輸入上增加少量人為無法分辨區(qū)別的“干擾”,可使模型對(duì)輸入的分類結(jié)果做出錯(cuò)誤判斷。利用對(duì)抗樣本可方便攻擊者在很多應(yīng)用場(chǎng)景對(duì)人工智能模型發(fā)起攻擊,而由于人工智能模型在業(yè)務(wù)系統(tǒng)中往往處于核心決策地位,因此與以往的網(wǎng)絡(luò)安全攻擊相比,這類攻擊對(duì)實(shí)際業(yè)務(wù)運(yùn)行造成的后果往往更加嚴(yán)重。
2.1.3 供應(yīng)鏈安全風(fēng)險(xiǎn)
人工智能應(yīng)用是系統(tǒng)、網(wǎng)絡(luò)、軟件、硬件的結(jié)合,在供應(yīng)鏈方面也存在通用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn),如算法后門嵌入、代碼安全漏洞等,存在可信、可控、可靠的安全風(fēng)險(xiǎn)。此外,高端芯片是 ChatGPT 等系統(tǒng)所用的大型語言模型研發(fā)的“剛需”,在高端芯片領(lǐng)域受美國出口管制的國家,可能因高端芯片供給不足導(dǎo)致供應(yīng)鏈存在被“卡脖子”的風(fēng)險(xiǎn)。
2.2 人工智能應(yīng)用帶來的安全風(fēng)險(xiǎn)
人工智能技術(shù)已經(jīng)滲透到我們的日常生活中,以 ChatGTP 為代表的 AI 應(yīng)用,若被不當(dāng)使用或?yàn)E用,很有可能影響到國家安全、政治安全、社會(huì)穩(wěn)定、企業(yè)利益和個(gè)人用戶權(quán)益等諸多方面。
2.2.1 數(shù)據(jù)泄露問題
在許多 AI 應(yīng)用中,需要使用大量的用戶數(shù)據(jù)進(jìn)行訓(xùn)練和學(xué)習(xí),若用戶在輸入請(qǐng)求時(shí),所輸入的個(gè)人相關(guān)信息、業(yè)務(wù)數(shù)據(jù)或涉及商業(yè)秘密等內(nèi)容沒有得到很好的保護(hù),就可能被黑客攻擊者竊取,從而導(dǎo)致用戶數(shù)據(jù)泄露和隱私問題。
2.2.2 網(wǎng)絡(luò)安全問題
隨著 AI 技術(shù)在網(wǎng)絡(luò)安全方面的應(yīng)用受到廣泛關(guān)注,當(dāng)安全專家嘗試用最新的算法加強(qiáng)安全防御時(shí),越來越多的攻擊者同樣使用人工智能和機(jī)器學(xué)習(xí)技術(shù)來提高攻擊速度。例如,攻擊者正在使用 ChatGPT 來改進(jìn)惡意軟件、批量制作個(gè)性化網(wǎng)絡(luò)釣魚電子郵件,并竊取算法優(yōu)化攻擊過程。
2.2.3 技術(shù)濫用問題
在 ChatGPT 等 AI 應(yīng)用迅速發(fā)展的同時(shí),也同樣面臨對(duì) AI 技術(shù)的濫用問題。一是違法、不良信息傳播。AI 應(yīng)用雖然對(duì)交互內(nèi)容采取了過濾策略,但由于多媒體內(nèi)容識(shí)別技術(shù)不足、監(jiān)控策略不完善、無法對(duì)生成內(nèi)容進(jìn)行“前置審核”等原因使得過濾機(jī)制被繞過,造成交互或傳播內(nèi)容中存在涉及政治、詐騙、身份偽造、涉黃等不良信息,從而影響公眾輿論,惡意影響用戶認(rèn)知。二是引發(fā)內(nèi)容知識(shí)產(chǎn)權(quán)問題。利用 ChatGPT 等 AI 應(yīng)用完成文本創(chuàng)作、代碼編寫、代寫論文等,可能會(huì)影響正常的社會(huì)秩序。
3人工智能技術(shù)在電力行業(yè)的主要應(yīng)用
國家高度重視人工智能發(fā)展,早在 2016 年,“人工智能”就被列入國家“十三五”規(guī)劃綱要,2017 年首次寫入政府工作報(bào)告,同年國務(wù)院正式印發(fā)《新一代人工智能發(fā)展規(guī)劃》,為加強(qiáng)技術(shù)創(chuàng)新,搶占人工智能關(guān)鍵核心技術(shù)制高點(diǎn)提供了重要方向。能源電力領(lǐng)域是國之重器,電力行業(yè)應(yīng)積極響應(yīng)國家號(hào)召,加速人工智能戰(zhàn)略布局和推廣應(yīng)用。在國家政策支持驅(qū)動(dòng)下,我國在電力系統(tǒng)的人工智能應(yīng)用方面與國外處于并跑階段,國內(nèi)電力行業(yè)人工智能的應(yīng)用涉及發(fā)、輸、變、配、用全環(huán)節(jié),如基于深度強(qiáng)化學(xué)習(xí)的優(yōu)化調(diào)度、基于生成對(duì)抗學(xué)習(xí)的場(chǎng)景生成、基于深度學(xué)習(xí)的故障連鎖辨識(shí)、基于卷積神經(jīng)網(wǎng)絡(luò)的巡檢圖像識(shí)別等。電力系統(tǒng)是一個(gè)復(fù)雜的動(dòng)態(tài)系統(tǒng),目前國內(nèi)電力行業(yè)人工智能技術(shù)應(yīng)用主要集中在以下幾個(gè)方面。
3.1 電力設(shè)備故障診斷及運(yùn)維管理
通過構(gòu)建圖像識(shí)別技術(shù),對(duì)設(shè)備傳感器數(shù)據(jù)進(jìn)行分析和建模,實(shí)現(xiàn)對(duì)電力設(shè)備的故障診斷和預(yù)警,以便電網(wǎng)部門及時(shí)采取措施維護(hù)設(shè)備。其中,利用無人機(jī)、智能傳感器等技術(shù),能夠降低巡線人員工作負(fù)擔(dān),實(shí)現(xiàn)對(duì)輸電線路的全天候?qū)崟r(shí)狀態(tài)監(jiān)測(cè),自動(dòng)識(shí)別輸電線路及通道環(huán)境中的潛在缺陷,有效避免和減少停電損失。
3.2 電力負(fù)荷預(yù)測(cè)
通過對(duì)歷史負(fù)荷數(shù)據(jù)的分析和建模,預(yù)測(cè)未來的負(fù)荷變化趨勢(shì),以便電網(wǎng)部門做出相應(yīng)的調(diào)度決策。其中,為提高供電可靠性,越來越多的配電作業(yè)機(jī)器人得到大規(guī)模應(yīng)用,既降低了作業(yè)人員工作強(qiáng)度,也保障了人身安全。
3.3 電力市場(chǎng)分析及營銷服務(wù)
通過對(duì)電力市場(chǎng)數(shù)據(jù)的分析和建模,預(yù)測(cè)市場(chǎng)價(jià)格變化趨勢(shì),以便電力企業(yè)做出相應(yīng)的市場(chǎng)決策。將人工智能深度學(xué)習(xí)與語音識(shí)別、圖像識(shí)別、流程自動(dòng)化等技術(shù)融合,利用海量業(yè)務(wù)信息和數(shù)據(jù),通過不斷的訓(xùn)練,構(gòu)建供電指揮服務(wù)虛擬指揮員、虛擬客服坐席,實(shí)現(xiàn)精準(zhǔn)輔助決策和全流程智能化業(yè)務(wù)處理。同時(shí),營業(yè)廳智能問答機(jī)器人、交互實(shí)體機(jī)器人也越來越成為常態(tài)化配置。
3.4 電力安全管控
通過應(yīng)用人工智能技術(shù),開展現(xiàn)場(chǎng)作業(yè)人員、作業(yè)關(guān)鍵環(huán)節(jié)、作業(yè)全過程安全管控,輔助調(diào)度人員快速定位和處置故障,實(shí)現(xiàn)故障處置全流程在線管控,減少資源浪費(fèi),保障電力系統(tǒng)的安全性。
今年以來,中共中央、國務(wù)院印發(fā)了《數(shù)字中國建設(shè)整體布局規(guī)劃》,國家能源局印發(fā)了《關(guān)于加快推進(jìn)能源數(shù)字化智能化發(fā)展的若干意見》,人工智能技術(shù)將在能源數(shù)字化智能化發(fā)展,以及新型電力系統(tǒng)建設(shè)和新型能源體系構(gòu)建中發(fā)揮更大的價(jià)值和作用。
4
電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)
能源是經(jīng)濟(jì)發(fā)展的命脈,是國民經(jīng)濟(jì)發(fā)展和人民美好生活的重要保障,在社會(huì)經(jīng)濟(jì)體系中占據(jù)著重要的地位。習(xí)近平總書記提出了“四個(gè)革命、一個(gè)合作”的能源安全新戰(zhàn)略,其中,“能源技術(shù)革命”提出以綠色低碳為方向,推動(dòng)技術(shù)創(chuàng)新、產(chǎn)業(yè)創(chuàng)新、商業(yè)模式創(chuàng)新,因此人工智能技術(shù)在電力行業(yè)得到了迅速而廣泛的應(yīng)用。但是人工智能也是一把“雙刃劍”,在享受其帶來的極大便利和價(jià)值的同時(shí),仍需清醒認(rèn)識(shí)到存在的風(fēng)險(xiǎn)。一方面,其不斷沖擊著人類工作、生活,帶來了各種社會(huì)輿論關(guān)注的焦點(diǎn)問題;另一方面,其技術(shù)本身仍存在不可避免的各種內(nèi)生和衍生的安全風(fēng)險(xiǎn)。電力企業(yè)承擔(dān)著重大的保供電責(zé)任,保證電力系統(tǒng)的安全穩(wěn)定運(yùn)行是首要任務(wù),因此在應(yīng)用人工智能技術(shù)的時(shí)候,要特別注意當(dāng)中的網(wǎng)絡(luò)安全方面的風(fēng)險(xiǎn)。
4.1 數(shù)據(jù)安全風(fēng)險(xiǎn)
數(shù)字時(shí)代,數(shù)據(jù)的價(jià)值越來越被人們重視,是數(shù)字技術(shù)應(yīng)用的核心資源。在人工智能技術(shù)應(yīng)用中,為了達(dá)到智能化、自動(dòng)化的效果,需要海量數(shù)據(jù)分析作為基礎(chǔ)進(jìn)行模型構(gòu)建,并通過用戶側(cè)的不斷訓(xùn)練和學(xué)習(xí),使模型更加滿足使用需求。電力系統(tǒng)涵蓋發(fā)、輸、變、配、用各環(huán)節(jié),涉及的電力設(shè)備數(shù)據(jù)、電量數(shù)據(jù)、電力負(fù)荷數(shù)據(jù)、用電客戶信息等都是關(guān)鍵敏感數(shù)據(jù),在人工智能系統(tǒng)建設(shè)過程中,從數(shù)據(jù)收集、存儲(chǔ)、傳輸、處理、分析,到模型構(gòu)建、結(jié)果輸出和規(guī)?;瘧?yīng)用,這一系列的環(huán)節(jié)都存在技術(shù)上和人為操作上的數(shù)據(jù)泄露、數(shù)據(jù)竊取風(fēng)險(xiǎn),不僅對(duì)電力系統(tǒng)的安全運(yùn)行造成不利影響,還會(huì)涉及用戶的家庭地址、身份等隱私信息泄露,嚴(yán)重影響社會(huì)秩序。
4.2 網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)
當(dāng)前國家級(jí)網(wǎng)絡(luò)對(duì)抗不斷升級(jí),電力、水利、交通、能源等國家關(guān)鍵信息基礎(chǔ)設(shè)施已成為黑客重點(diǎn)攻擊的對(duì)象,同時(shí)人工智能等數(shù)字新技術(shù)的深入應(yīng)用,使得電力系統(tǒng)與互聯(lián)網(wǎng)連接更緊密更廣泛,無形之中所暴露的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)逐步增加,面臨的網(wǎng)絡(luò)威脅日益嚴(yán)峻。攻擊方通過篡改、擾亂等手段影響人工智能系統(tǒng)的學(xué)習(xí)、控制和反應(yīng)過程,從而獲得系統(tǒng)的支配權(quán),破壞模型的正常運(yùn)行,這可能會(huì)導(dǎo)致電力設(shè)備損壞、電力負(fù)荷過載等問題,嚴(yán)重時(shí)甚至導(dǎo)致電力系統(tǒng)癱瘓和停電事故。國外已發(fā)生過通過網(wǎng)絡(luò)攻擊造成停電事件的情況,這也為國內(nèi)電力企業(yè)敲響了警鐘。
4.3 技術(shù)本身風(fēng)險(xiǎn)
“人工智能的本質(zhì)是處理、匹配、決策和生成等任務(wù)”,系統(tǒng)的學(xué)習(xí)、反應(yīng)和決策主要基于模型、數(shù)據(jù)和算法,不可避免地存在因數(shù)據(jù)質(zhì)量問題、算法偏差、模型不健全等內(nèi)生技術(shù)風(fēng)險(xiǎn)而出現(xiàn)誤判的情況,導(dǎo)致電力設(shè)備、系統(tǒng)的錯(cuò)誤操作,從而影響電力系統(tǒng)的正常運(yùn)行。此外,電力行業(yè)的人工智能系統(tǒng)依然存在供應(yīng)商研發(fā)而非自主可控的情形,所以系統(tǒng)后門、超級(jí)權(quán)限等安全隱患依然存在,如果供應(yīng)商系統(tǒng)或者整個(gè)供應(yīng)鏈存在安全漏洞或違規(guī)行為,同樣會(huì)對(duì)電力系統(tǒng)的安全運(yùn)行造成威脅。
4.4 社會(huì)工程學(xué)風(fēng)險(xiǎn)
社會(huì)工程學(xué)(Social Engineering)入侵是指利用人的弱點(diǎn)而不是計(jì)算機(jī)系統(tǒng)漏洞來突破信息安全防御措施的入侵手段。如果說以上 3 種風(fēng)險(xiǎn)是可預(yù)防、可預(yù)警的,那么社會(huì)工程學(xué)風(fēng)險(xiǎn)則存在很大的不可控和不可預(yù)見性,因?yàn)樗饕扇说男睦砗托袨闆Q定,“人”是“整個(gè)安全鏈中最薄弱的一環(huán)”。社會(huì)工程學(xué)攻擊的過程包括目標(biāo)確認(rèn)、信息收集、信任建立、陷阱設(shè)置和利益獲取。人工智能系統(tǒng)的操作對(duì)人員的要求較高,如果人員存在安全意識(shí)不強(qiáng)、操作不當(dāng)?shù)惹闆r,則會(huì)很容易被別有用心之人利用,通過釣魚攻擊(最常見的是釣魚郵件,通過使用自然語言處理技術(shù)生成偽造的電子郵件或者消息)、等價(jià)交換、誘餌計(jì)劃、主動(dòng)提供技術(shù)支持等社會(huì)工程學(xué)手段攻擊,從而造成敏感信息泄露、被勒索詐騙等后果,影響電力生產(chǎn)環(huán)境的安全和電力系統(tǒng)的安全穩(wěn)定運(yùn)行。
5電力行業(yè)人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防范策略
為了減少和避免人工智能技術(shù)應(yīng)用給電力行業(yè)帶來的網(wǎng)絡(luò)安全風(fēng)險(xiǎn),需要強(qiáng)化統(tǒng)籌安全與發(fā)展,從而更好地發(fā)揮人工智能技術(shù)的優(yōu)勢(shì)和價(jià)值,助推電力行業(yè)的數(shù)字化轉(zhuǎn)型。
5.1 健全政策法規(guī),強(qiáng)化人工智能應(yīng)用保障機(jī)制
一是推進(jìn)現(xiàn)有網(wǎng)絡(luò)安全法律法規(guī)向人工智能領(lǐng)域延伸適用,國家及電力行業(yè)主管部門應(yīng)結(jié)合《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī)出臺(tái)人工智能行業(yè)應(yīng)用新的監(jiān)管要求,為人工智能在電力行業(yè)應(yīng)用“保駕護(hù)航”。二是結(jié)合國家發(fā)展改革委 2014 年第14 號(hào)令《電力監(jiān)控系統(tǒng)安全防護(hù)規(guī)定》等電力行業(yè)網(wǎng)絡(luò)安全監(jiān)管要求,完善電力行業(yè)人工智能領(lǐng)域法規(guī)體系,重點(diǎn)對(duì)電力生產(chǎn)安全、數(shù)據(jù)安全、個(gè)人隱私保護(hù)、算法規(guī)范應(yīng)用等方面加強(qiáng)監(jiān)管,強(qiáng)化對(duì)人工智能技術(shù)應(yīng)用的法律約束。三是依據(jù)國家頂層人工智能發(fā)展戰(zhàn)略,結(jié)合“十四五”規(guī)劃和黨的二十大報(bào)告里面提到的人工智能發(fā)展規(guī)劃,研究制定電力行業(yè)發(fā)展規(guī)劃,充分考慮人工智能在電力行業(yè)應(yīng)用的可靠性、穩(wěn)定性和安全性,落實(shí)人工智能國家戰(zhàn)略,以應(yīng)對(duì)日趨激烈的國際競(jìng)爭(zhēng)。
5.2 加強(qiáng)自主可控,夯實(shí)安全與創(chuàng)新發(fā)展的基礎(chǔ)
為保障人工智能技術(shù)在電力行業(yè)的可靠應(yīng)用,國家應(yīng)加大政策扶持力度,推進(jìn)電力人工智能系統(tǒng)基礎(chǔ)設(shè)備安全自主可控。一是推進(jìn)核心技術(shù)研發(fā)攻關(guān),提升軟硬件實(shí)力。主要包括智能芯片、智能服務(wù)器、智能傳感器及配套的智能操作系統(tǒng)、軟件框架、第三方庫等,保障軟硬件供應(yīng)鏈安全可信、可控、可靠,實(shí)現(xiàn)人工智能高端基礎(chǔ)設(shè)備不被“卡脖子”。二是強(qiáng)化電力行業(yè)人工智能大模型發(fā)展。作為人工智能的核心,可靠、可控、安全的人工智能模型需要以海量優(yōu)質(zhì)數(shù)據(jù)和強(qiáng)大的算力作為支撐, 進(jìn) 行 反 復(fù) 訓(xùn) 練、 不 斷 迭 代。我 國 應(yīng) 充 分發(fā)揮自身在大算力方面的優(yōu)勢(shì),結(jié)合電力大數(shù)據(jù),實(shí)現(xiàn)電力行業(yè)人工智能核心能力的自主可控 。
5.3 優(yōu)化防護(hù)策略,完善安全技術(shù)防護(hù)體系
從風(fēng)險(xiǎn)的精準(zhǔn)化解到安全漏洞的全面填補(bǔ),應(yīng)從風(fēng)險(xiǎn)產(chǎn)生的技術(shù)源頭出發(fā),實(shí)現(xiàn)對(duì)新一代人工智能失本、失新、失控、失權(quán)、失管 5 大風(fēng)險(xiǎn)的精準(zhǔn)聚焦。因此,在技術(shù)本質(zhì)層面,要加強(qiáng)數(shù)據(jù)加密、權(quán)限管控、模型監(jiān)控、攻擊檢測(cè)、實(shí)戰(zhàn)攻防演練、應(yīng)急演練等技術(shù)防護(hù)手段的應(yīng)用。一是電力行業(yè)應(yīng)根據(jù)電力監(jiān)控系統(tǒng)安全防護(hù)“十六字”方針,即“安全分區(qū)、網(wǎng)絡(luò)專用、橫向隔離、縱向認(rèn)證”,結(jié)合人工智能應(yīng)用情況,制定新的安全防護(hù)策略,編制行業(yè)標(biāo)準(zhǔn)規(guī)范與技術(shù)指南。二是針對(duì)人工智能在發(fā)、輸、變、配、用各環(huán)節(jié)的應(yīng)用,完善網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法安全等安全防護(hù)技術(shù)手段,常態(tài)化開展攻防演練,為人工智能應(yīng)用提供充足的安全防護(hù)。三是堅(jiān)持電力人工智能系統(tǒng)建設(shè)與網(wǎng)絡(luò)安全防護(hù)建設(shè)同步規(guī)劃、同步建設(shè)、同步使用,讓網(wǎng)絡(luò)安全防護(hù)理念貫穿人工智能系統(tǒng)全生命周期。
5.4 強(qiáng)化宣傳培訓(xùn),提升安全防范意識(shí)水平
一是強(qiáng)化人工智能技術(shù)應(yīng)用的網(wǎng)絡(luò)安全宣傳和教育培訓(xùn),重點(diǎn)針對(duì)電力行業(yè)涉密數(shù)據(jù)、關(guān)鍵信息、模型算法邏輯等開展保密教育,尤其是面對(duì)新型社會(huì)工程學(xué)攻擊手段,需要結(jié)合實(shí)際案例開展學(xué)習(xí)宣貫,同時(shí)常態(tài)化開展演習(xí),提升員工的風(fēng)險(xiǎn)識(shí)別和處理能力。二是發(fā)揮考核指揮棒作用,在人工智能技術(shù)應(yīng)用的重大生產(chǎn)和管理活動(dòng)中,應(yīng)將網(wǎng)絡(luò)安全納入具體的考核體系,進(jìn)一步嚴(yán)格管理,或制定專項(xiàng)的防護(hù)策略,強(qiáng)化網(wǎng)絡(luò)安全的紅線意識(shí)和底線思維。
6結(jié) 語
電力行業(yè)人工智能技術(shù)的應(yīng)用是順應(yīng)國家數(shù)字中國建設(shè)、加快推進(jìn)能源數(shù)字化智能化發(fā)展的必然選擇和重要舉措,也是能源企業(yè)加快數(shù)字化轉(zhuǎn)型、構(gòu)建新型能源體系的必然趨勢(shì)和重要支撐。能源安全關(guān)乎國家安全,電力行業(yè)人工智能技術(shù)的應(yīng)用需要以安全為前提和基礎(chǔ),要清醒認(rèn)識(shí)到人工智能技術(shù)自身的不足與局限,全面梳理人工智能系統(tǒng)或產(chǎn)品的全生命周期中的安全風(fēng)險(xiǎn),從技術(shù)和管理上加強(qiáng)安全風(fēng)險(xiǎn)識(shí)別和防范,有效地化解人工智能應(yīng)用的網(wǎng)絡(luò)安全風(fēng)險(xiǎn),統(tǒng)籌人工智能發(fā)展與安全,為人工智能技術(shù)在電力行業(yè)的創(chuàng)新應(yīng)用護(hù)航。由于人工智能技術(shù)尚處于蓬勃發(fā)展階段,在電力行業(yè)的應(yīng)用也正處于規(guī)?;A段,因此本文對(duì)電力行業(yè)人工智能應(yīng)用存在的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析還存在局限,在應(yīng)對(duì)安全風(fēng)險(xiǎn)的防范策略研究上還存在不足,后續(xù)將持續(xù)關(guān)注人工智能技術(shù)在電力行業(yè)的應(yīng)用,加強(qiáng)研究分析,以取得更全面、深入的研究成果。
作者:向 英、韓 玄
來源:選自《信息安全與通信保密》2023年第10期