本報記者 李喬宇

    “人工智能大模型應(yīng)用在各行各業(yè)迎來大爆發(fā)，新興場景層出不窮，帶來無限生產(chǎn)力、創(chuàng)造力，同時也帶來巨大安全風(fēng)險。”4月29日至4月30日，第八屆數(shù)字中國建設(shè)峰會在福建福州舉辦，會議期間，奇安信科技集團股份有限公司（以下簡稱“奇安信”）在接受《證券日報》等媒體記者采訪時表示。

    齊向東強調(diào)，第一，“小數(shù)據(jù)”“一失萬無”。他告訴記者，“小數(shù)據(jù)安全”成為數(shù)字經(jīng)濟時代的核心關(guān)切點。數(shù)據(jù)是驅(qū)動數(shù)字經(jīng)濟發(fā)展的“石油”，人工智能是“發(fā)動機”。“過去，提到數(shù)據(jù)我們想到的都是大數(shù)據(jù)，規(guī)模大，但碎片化、質(zhì)量參差不齊，數(shù)據(jù)價值挖掘和變現(xiàn)難。現(xiàn)在有了人工智能，尤其是大模型，傳統(tǒng)企業(yè)開始把所積累的設(shè)計數(shù)據(jù)、生產(chǎn)數(shù)據(jù)、安裝調(diào)試數(shù)據(jù)等通過去粗取精、去重整合、分類標(biāo)注等加工處理，形成精華小數(shù)據(jù)。對企業(yè)而言，一旦精華小數(shù)據(jù)被竊取、被泄露、被篡改，企業(yè)常年積累的核心競爭力會瞬間崩塌。”他表示。

    第二，大模型融通百業(yè)，“裸奔”上線極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C。齊向東援引數(shù)據(jù)表示，奇安信資產(chǎn)測繪鷹圖平臺監(jiān)測發(fā)現(xiàn)，8971個Ollama大模型服務(wù)器中，有6449個活躍服務(wù)器，其中近九成都在“裸奔”，“導(dǎo)致任何人，不需要任何認證就可隨意調(diào)用、在未經(jīng)授權(quán)的情況下訪問服務(wù)。”

    第三，部分企業(yè)對AI過度依賴，一旦大模型決策失準(zhǔn)會引發(fā)“蝴蝶效應(yīng)”。從外部攻擊視角看，黑客可以通過漏洞利用、數(shù)據(jù)投毒等方式，干擾大模型的決策，披著大模型的外衣作惡。從內(nèi)部運營視角看，如果內(nèi)部員工在更新知識庫時，引入錯誤信息會污染模型學(xué)習(xí)環(huán)境，使其輸出錯誤結(jié)論。

    為了應(yīng)對這些風(fēng)險，奇安信針對AI大模型的垂直新場景，創(chuàng)新研發(fā)安全產(chǎn)品，護航千行百業(yè)踏實地向人工智能要生產(chǎn)力；同時把AI技術(shù)深度集成到安全產(chǎn)品中，促進安全防護提質(zhì)增效。

    “我們圍繞大模型應(yīng)用，推出了大模型安全空間、奇安天界大模型安全一體機，為基于大模型的智能業(yè)務(wù)應(yīng)用保駕護航。”齊向東表示。

    “在數(shù)字經(jīng)濟發(fā)展過程中，網(wǎng)絡(luò)安全是底線根基和上限支撐，是價值創(chuàng)造的強勁引擎。”齊向東強調(diào)，數(shù)據(jù)要素流通、人工智能應(yīng)用、算力網(wǎng)絡(luò)構(gòu)建出更繁復(fù)的新興場景，這些場景的落地必須以網(wǎng)絡(luò)和數(shù)據(jù)安全為前提，否則所有創(chuàng)新成果都可能因為漏洞而化為泡影。同時全球科技博弈日益加劇，以人工智能為核心的新技術(shù)成為大國角力戰(zhàn)場，倒逼著網(wǎng)絡(luò)安全持續(xù)創(chuàng)新，實現(xiàn)技術(shù)自主可控，為數(shù)字經(jīng)濟構(gòu)建安全護城河。

（編輯 張偉）