通信網(wǎng)banner.jpg)
近年來(lái)，隨著AI的發(fā)展，網(wǎng)絡(luò)空間迎來(lái)新的安全風(fēng)險(xiǎn)，包括數(shù)據(jù)泄露、技術(shù)濫用等。因此，建立AI安全風(fēng)險(xiǎn)管理體系，具有劃時(shí)代的重要性。為強(qiáng)化“AI+安全”的實(shí)際落地應(yīng)用，中國(guó)電信多角度發(fā)力，努力在AI時(shí)代當(dāng)好網(wǎng)絡(luò)安全的守護(hù)者。
如何平衡AI業(yè)內(nèi)的“攻守道”
AI 在現(xiàn)代社會(huì)中具有多方面落地應(yīng)用的需求，既能在主動(dòng)型應(yīng)用領(lǐng)域發(fā)揮作用，也能在服務(wù)型應(yīng)用領(lǐng)域提供支持，反映了AI進(jìn)可攻、退可守的雙屬性。
隨著AI技術(shù)的迭代，網(wǎng)絡(luò)“矛盾”對(duì)抗已進(jìn)入新階段。正如深信服副總裁、研發(fā)體系總經(jīng)理梁景波所言，有攻擊者已經(jīng)開始利用大模型技術(shù)來(lái)提升攻擊能力，例如通過大模型生成的高對(duì)抗樣本能夠繞過現(xiàn)有安全設(shè)備。另一方面，AI技術(shù)也被用于安全運(yùn)營(yíng)，幫助提升運(yùn)營(yíng)效率和響應(yīng)速度。
業(yè)內(nèi)專家普遍認(rèn)為，應(yīng)盡快發(fā)揮AI賦能網(wǎng)絡(luò)安全的積極作用，讓穩(wěn)固的“盾”抵御尖銳的“茅”。
加快推進(jìn)人工智能安全治理
在日前舉辦的世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（WAIC 2024）上，中國(guó)科學(xué)院院士姚期智表示，隨著 AI 能力的出現(xiàn)，數(shù)據(jù)和網(wǎng)絡(luò)安全的困難放大了 100 倍。
面對(duì)人工智能時(shí)代新的網(wǎng)絡(luò)安全態(tài)勢(shì)，各方都在呼吁提高對(duì)網(wǎng)絡(luò)安全態(tài)勢(shì)的重視水平，強(qiáng)化體系化安全能力建設(shè)。
國(guó)內(nèi)政策方面，2023年8月實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》標(biāo)志著我國(guó)在生成式大模型領(lǐng)域的立法領(lǐng)先地位。2023年10月，我國(guó)還提出《全球人工智能治理倡議》，旨在加強(qiáng)國(guó)際合作，推動(dòng)建立公平、公正的國(guó)際治理體系。2024年7月4日，上海向全球發(fā)布了《人工智能全球治理上海宣言》，充分反映了對(duì)人工智能安全治理方面的訴求。
從國(guó)際角度看，近年來(lái)，已形成了各國(guó)政府主導(dǎo)、國(guó)際組織積極推進(jìn)、科技企業(yè)協(xié)同治理的多方參與格局。聯(lián)合國(guó)秘書長(zhǎng)古特雷斯在出席聯(lián)合國(guó)安理會(huì)人工智能與安全問題高級(jí)別公開會(huì)上就呼吁，管控人工智能技術(shù)風(fēng)險(xiǎn)，并成立新的聯(lián)合國(guó)機(jī)構(gòu)強(qiáng)化人工智能全球治理。
中國(guó)電信強(qiáng)化“AI+安全”應(yīng)用
中國(guó)電信董事長(zhǎng)柯瑞文近日在中國(guó)電信星辰人工智能生態(tài)論壇上提到，中國(guó)電信將聯(lián)合多方共同制定產(chǎn)業(yè)規(guī)則、制度和技術(shù)標(biāo)準(zhǔn)，共同應(yīng)對(duì)人工智能領(lǐng)域深度偽造、倫理安全、數(shù)字鴻溝等風(fēng)險(xiǎn)和不足。
縱觀中國(guó)電信在強(qiáng)化“AI+安全”應(yīng)用方面的努力，主要體現(xiàn)在以下幾個(gè)方面。
首先，中國(guó)電信構(gòu)建了四級(jí)算力布局體系，總智算規(guī)模達(dá)到16EFLOPS，這一強(qiáng)大的計(jì)算能力為各種AI應(yīng)用提供了堅(jiān)實(shí)的基礎(chǔ)。
其次，中國(guó)電信還研發(fā)了星河AI平臺(tái)，依托四級(jí)算力，在20省部署核心算法，算法日均調(diào)用量達(dá)3.3億次。這一平臺(tái)不僅能夠?yàn)橛脩籼峁┲悄芑姆⻊?wù)，還能夠通過算法的優(yōu)化和升級(jí)，不斷提升服務(wù)的質(zhì)量和效率。
此外，中國(guó)電信發(fā)布了見微安全大模型2.0等產(chǎn)品，專注于數(shù)據(jù)安全和人工智能安全，其通過深度嵌入實(shí)際的安全運(yùn)營(yíng)流程，增加了運(yùn)營(yíng)數(shù)據(jù)的積累，并擴(kuò)展了場(chǎng)景應(yīng)用驅(qū)動(dòng)的采集源和RAG數(shù)據(jù)，為客戶提供高質(zhì)量的安全服務(wù)支持。
在未來(lái)，隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的不斷拓展，中國(guó)電信將繼續(xù)加大在“AI+安全”領(lǐng)域的投入和創(chuàng)新，為用戶提供更加優(yōu)質(zhì)、安全的服務(wù)體驗(yàn)。
