本報(bào)訊 （記者謝嵐）近年來(lái)，大模型在帶來(lái)服務(wù)、營(yíng)銷、產(chǎn)品等領(lǐng)域的全面革新的同時(shí)，也伴生出模型漏洞、對(duì)抗攻擊、數(shù)據(jù)泄露等風(fēng)險(xiǎn)。諸如DeepSeek遭受大規(guī)模惡意攻擊、ChatGPT用戶聊天數(shù)據(jù)泄露等事件，一再凸顯大模型安全問(wèn)題的嚴(yán)峻性。

    為了應(yīng)對(duì)大模型安全挑戰(zhàn)，日前，網(wǎng)宿科技股份有限公司（以下簡(jiǎn)稱“網(wǎng)宿科技”）旗下網(wǎng)宿安全正式推出業(yè)內(nèi)首個(gè)基于專家深度測(cè)試的大模型安全評(píng)估服務(wù)。該服務(wù)通過(guò)模擬攻擊測(cè)試、安全審計(jì)與合規(guī)審查，提供覆蓋模型開發(fā)、部署和應(yīng)用全周期的安全檢測(cè)與加固方案，可以系統(tǒng)性提升模型與模型應(yīng)用的安全性、穩(wěn)健性及合規(guī)能力。

    網(wǎng)宿科技安全事業(yè)部高級(jí)技術(shù)總監(jiān)胡鋼偉表示，安全是AI產(chǎn)業(yè)發(fā)展的根基，網(wǎng)宿安全依托深厚的安全攻防能力以及對(duì)AI應(yīng)用場(chǎng)景的理解，推出大模型安全評(píng)估服務(wù)，將助力企業(yè)降低AI創(chuàng)新中的安全風(fēng)險(xiǎn)，使其更專注于業(yè)務(wù)發(fā)展。

    大模型安全困境：亟需全面評(píng)估方法破局

    日前，來(lái)自中美英德等8個(gè)國(guó)家的AI安全領(lǐng)域?qū)W者聯(lián)合發(fā)布的一篇系統(tǒng)性技術(shù)綜述論文指出，大模型安全領(lǐng)域面臨的主要挑戰(zhàn)之一便是當(dāng)前評(píng)估方法存在顯著不足。

    在專家看來(lái)，單一參考攻擊成功率無(wú)法全面衡量模型安全性，基于靜態(tài)數(shù)據(jù)集的基準(zhǔn)評(píng)測(cè)難以應(yīng)對(duì)各類攻擊。盡管對(duì)抗性評(píng)測(cè)不可或缺，但在實(shí)際環(huán)境中，其全面性、準(zhǔn)確性和動(dòng)態(tài)性仍需提升。

    網(wǎng)宿安全此次推出的大模型安全評(píng)估服務(wù)，則采用最新的AI對(duì)抗攻擊檢測(cè)技術(shù)，結(jié)合自動(dòng)化檢測(cè)與專家滲透測(cè)試，能夠確保評(píng)估效率和精準(zhǔn)度，并從數(shù)據(jù)安全、算法安全、模型輸出安全等維度進(jìn)行全方位評(píng)估，確保評(píng)估結(jié)果的全面性和準(zhǔn)確性。

    具體來(lái)看，該服務(wù)通過(guò)模擬攻擊測(cè)試，可以增強(qiáng)模型的魯棒性和安全性，提升模型對(duì)外部攻擊的防御能力；通過(guò)數(shù)據(jù)隱私評(píng)估，能夠確保數(shù)據(jù)安全與合規(guī)，防止敏感信息泄露；通過(guò)倫理與合規(guī)性檢查，能夠確保模型輸出內(nèi)容符合倫理、法規(guī)標(biāo)準(zhǔn)；并且，通過(guò)模型的可解釋性與透明度評(píng)估，確保模型在實(shí)際應(yīng)用中可被監(jiān)控和審計(jì)，提升模型決策的可解釋性，避免黑箱操作風(fēng)險(xiǎn)。

    “通過(guò)全面、專業(yè)的風(fēng)險(xiǎn)評(píng)估，我們能夠幫助企業(yè)洞悉不管是大模型自身的風(fēng)險(xiǎn)還是外部的攻擊風(fēng)險(xiǎn)，并且在大模型應(yīng)用的過(guò)程中始終保障數(shù)據(jù)安全與合規(guī)。”胡鋼偉表示。

    網(wǎng)宿安全深入企業(yè)場(chǎng)景

    提供定制化服務(wù)

    根據(jù)世界經(jīng)濟(jì)論壇（WEF）與埃森哲最新發(fā)布的一項(xiàng)報(bào)告，65%的組織在至少一個(gè)職能中使用了生成式AI。電信、金融服務(wù)和消費(fèi)品行業(yè)在AI采用方面走在前列，而醫(yī)療保健、金融服務(wù)和媒體娛樂(lè)、體育等行業(yè)在生成式AI支出方面領(lǐng)先。

    值得注意的是，大模型在各行業(yè)的應(yīng)用場(chǎng)景不一，其面臨風(fēng)險(xiǎn)也各不相同。對(duì)于醫(yī)療、金融等對(duì)數(shù)據(jù)隱私和安全性要求極高的行業(yè)，定制化、專業(yè)性的安全評(píng)估將至關(guān)重要。

    據(jù)介紹，網(wǎng)宿安全大模型安全評(píng)估服務(wù)的優(yōu)勢(shì)在于更貼合業(yè)務(wù)場(chǎng)景。網(wǎng)宿安全擁有一支由AI安全專家、數(shù)據(jù)隱私專家組成的團(tuán)隊(duì)，深刻理解技術(shù)細(xì)節(jié)與國(guó)內(nèi)外合規(guī)政策，能夠針對(duì)細(xì)分的業(yè)務(wù)場(chǎng)景，提供涵蓋需求診斷、專業(yè)評(píng)估到協(xié)助加固的一站式定制化服務(wù)，顯著提升大模型在垂直領(lǐng)域應(yīng)用的安全性。

    據(jù)悉，目前網(wǎng)宿安全已經(jīng)為醫(yī)療、教育、制造等行業(yè)客戶提供大模型安全評(píng)估服務(wù)。比如，某國(guó)際醫(yī)療公司自研了一款A(yù)I問(wèn)答的大模型應(yīng)用，網(wǎng)宿安全對(duì)其進(jìn)行了全面的大模型應(yīng)用安全測(cè)試評(píng)估，發(fā)現(xiàn)其存在的安全缺陷，并予以安全加固，為該公司大模型應(yīng)用安全提供了有力支撐。

    可以預(yù)見(jiàn)的是，伴隨大模型開源、算力成本的降低，AI大模型應(yīng)用將走向普惠。Gartner預(yù)測(cè)，到2029年，中國(guó)60%的企業(yè)將把AI融入其主要產(chǎn)品和服務(wù)中，并且這些AI功能將成為收入增長(zhǎng)的主要驅(qū)動(dòng)力。

    “隨著大模型的滲透和深入，大模型安全服務(wù)將成為剛需。不過(guò)，安全的核心要義始終不變，網(wǎng)宿安全將著眼于攻防研究，以持續(xù)的技術(shù)和服務(wù)創(chuàng)新，為AI時(shí)代的安全保駕護(hù)航。”胡鋼偉表示。

（編輯 張昕）