原標(biāo)題：辛識(shí)平：讓安全成為人工智能發(fā)展的基因——人工智能大潮激蕩的時(shí)代思考

來(lái)源：新華網(wǎng)

原標(biāo)題：辛識(shí)平：讓安全成為人工智能發(fā)展的基因——人工智能大潮激蕩的時(shí)代思考

來(lái)源：新華網(wǎng)

新華社北京4月10日電 題：讓安全成為人工智能發(fā)展的基因——人工智能大潮激蕩的時(shí)代思考

辛識(shí)平

“擁抱AI，如何兼顧發(fā)展與安全？”在博鰲亞洲論壇2025年年會(huì)多場(chǎng)人工智能相關(guān)活動(dòng)中，與會(huì)嘉賓普遍認(rèn)為，隨著人工智能能力越來(lái)越強(qiáng)，AI不可控、被濫用等風(fēng)險(xiǎn)會(huì)越來(lái)越高，在推廣應(yīng)用中要加固“安全護(hù)欄”。

近年來(lái)，人工智能不斷給人們帶來(lái)驚喜的同時(shí)，也帶來(lái)一些問(wèn)題和困擾：“AI擬聲換臉”詐騙案件層出不窮；大模型有時(shí)混淆事實(shí)和虛構(gòu)，“一本正經(jīng)胡說(shuō)八道”令人防不勝防；AI數(shù)據(jù)搜集對(duì)個(gè)人隱私帶來(lái)泄露風(fēng)險(xiǎn)……有數(shù)據(jù)顯示，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件，超過(guò)30%與利用AI進(jìn)行深度偽造相關(guān)。今天，人工智能在快速發(fā)展的同時(shí)，也產(chǎn)生一系列安全隱患和問(wèn)題。如何統(tǒng)籌好發(fā)展和安全，讓安全如基因般融入人工智能的發(fā)展鏈條，已經(jīng)成為迫切而重要的課題。

縱觀人類(lèi)科技發(fā)展史，從蒸汽機(jī)轟鳴打破田園牧歌，到互聯(lián)網(wǎng)重塑人際關(guān)系邊界，每一次重大創(chuàng)新都伴隨著爭(zhēng)議與陣痛。人工智能帶來(lái)的挑戰(zhàn)，不過(guò)是技術(shù)演進(jìn)長(zhǎng)卷中的新篇章。一直以來(lái)，技術(shù)進(jìn)步與風(fēng)險(xiǎn)治理相互促進(jìn)，在破解現(xiàn)實(shí)問(wèn)題中螺旋式上升。以發(fā)展的眼光看，今天人工智能領(lǐng)域面臨的新問(wèn)題，正是催生治理創(chuàng)新的契機(jī)。

破解安全難題，關(guān)鍵在于讓治理跑在風(fēng)險(xiǎn)前面。新技術(shù)發(fā)展不能成為脫韁的野馬，必須用法律和制度的“韁繩”把好方向、因勢(shì)利導(dǎo)。2023年，我國(guó)在全球范圍內(nèi)率先開(kāi)展立法，發(fā)布《生成式人工智能服務(wù)管理暫行辦法》；不久前出臺(tái)的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，旨在防范利用生成合成內(nèi)容傳播虛假信息、實(shí)施電信詐騙等風(fēng)險(xiǎn)行為……多部新規(guī)的出臺(tái)，持續(xù)推動(dòng)人工智能由生成到傳播各環(huán)節(jié)的全流程安全管理。全國(guó)多地互聯(lián)網(wǎng)法院審理人工智能著作權(quán)案，為技術(shù)應(yīng)用劃出法律紅線。加強(qiáng)源頭治理，從“事后滅火”變?yōu)椤笆虑爸獭保苿?dòng)人工智能健康發(fā)展和規(guī)范應(yīng)用，是著眼長(zhǎng)遠(yuǎn)的治本之策。

筑牢安全防護(hù)網(wǎng)，需要全社會(huì)共同努力。由AI創(chuàng)作劇本的反詐情景劇幫助老人識(shí)破騙局；打造職工人工智能學(xué)習(xí)云課堂，提供AI入門(mén)到進(jìn)階全服務(wù)；全國(guó)多所高校將人工智能列為通識(shí)必修課，讓“以人為本、智能向善”的理念引領(lǐng)學(xué)子的成長(zhǎng)……技術(shù)進(jìn)步永無(wú)止境，學(xué)習(xí)運(yùn)用也永無(wú)止境。加強(qiáng)教育和引導(dǎo)，通過(guò)各種方式不斷提升公民和全社會(huì)的數(shù)字素養(yǎng)和風(fēng)險(xiǎn)應(yīng)對(duì)能力，智能時(shí)代的安全基石就會(huì)更加穩(wěn)固。

人工智能安全沒(méi)有國(guó)界，防范風(fēng)險(xiǎn)需要共筑防線。越是面對(duì)新領(lǐng)域新問(wèn)題，越應(yīng)該匯聚眾智，在深入交流、加強(qiáng)合作中謀求有效治理。中國(guó)提出并遵循《全球人工智能治理倡議》，同各方積極開(kāi)展對(duì)話合作、分享最佳操作實(shí)踐，正是為了堅(jiān)持發(fā)展和安全并重，平衡推進(jìn)應(yīng)用和治理，確保人工智能技術(shù)安全、可靠、可控、公平。

“道路千萬(wàn)條，安全第一條”。在通往未來(lái)的道路上，守護(hù)安全、推動(dòng)發(fā)展，人人都是受益者，也是行動(dòng)者。把好方向盤(pán)，走穩(wěn)創(chuàng)新路，人工智能發(fā)展的廣闊未來(lái)可期，科技創(chuàng)造的美好生活可期。

想爆料？請(qǐng)登錄《陽(yáng)光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網(wǎng)官方微博（@齊魯網(wǎng)）提供新聞線索。齊魯網(wǎng)廣告熱線0531-81695052，誠(chéng)邀合作伙伴。