斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀(du)次數：1468 編輯：系統管理(li)員發布(bu)時間：2025-12-05 15:01

[字體：大中小]

想(xiang)象這(zhe)樣一(yi)個畫面，在一(yi)個普(pu)通的(de)工作日，你坐(zuo)進了心愛的(de)座駕，隨口問到(dao)：“今(jin)日有什(shen)么新(xin)聞？”車(che)載(zai)AI立馬啟動(dong)，下一(yi)秒，它(ta)開始娓娓道來(lai)——上到(dao)事關國計民生的(de)政策，下到(dao)市井俚俗的(de)民生八卦，流暢、自(zi)然、像(xiang)朋友(you)聊天(tian)一(yi)樣貼心。但如果這(zhe)番溝通中暗含著什(shen)么不該說的(de)內(nei)容？比如敏(min)感話題、虛假信息(xi)、甚至來(lai)自(zi)釣魚網站的(de)惡(e)意廣告......

這(zhe)不是(shi)科幻片的(de)(de)橋段，在智能(neng)(neng)座艙加速邁向(xiang)“AI原生(sheng)”的(de)(de)今天，每一輛(liang)搭載(zai)AI模(mo)型的(de)(de)智能(neng)(neng)座駕(jia)都(dou)必須面對的(de)(de)現(xian)實(shi)考題。

作為智(zhi)能座艙(cang)領域(yu)的(de)(de)先(xian)行(xing)者，斑馬智(zhi)行(xing)聯合阿里(li)(li)云(yun)共同打(da)造面向智(zhi)能座艙(cang)場景的(de)(de)AI安全(quan)(quan)審核方案，通(tong)過阿里(li)(li)云(yun)AI安全(quan)(quan)護欄的(de)(de)能力(li)加(jia)持和(he)云(yun)基礎設(she)施強調(diao)的(de)(de)彈性吞吐力(li)，該方案已經(jing)成功應(ying)用于多個頭部(bu)品(pin)牌(pai)車(che)型(xing)中，日均支(zhi)撐千(qian)萬級大(da)模型(xing)安全(quan)(quan)審核調(diao)用，為行(xing)業樹(shu)立了大(da)模型(xing)內容安全(quan)(quan)與用戶體驗兼顧的(de)(de)新標桿。

斑馬智行(xing)安(an)(an)全(quan)負責人評(ping)價到(dao)：“我們與阿里云共同打造的(de)(de)這套安(an)(an)全(quan)護欄方(fang)案，不僅滿足了國(guo)家級合規要求，更在(zai)真實量產場(chang)景中驗證了其(qi)高(gao)性能、高(gao)可(ke)靠、可(ke)擴展的(de)(de)工程價值。這不僅是(shi)技術方(fang)案的(de)(de)勝利(li)，更是(shi)AI安(an)(an)全(quan)治(zhi)理體系在(zai)汽車行(xing)業的(de)(de)成功落(luo)地。”

當(dang)大(da)模型成(cheng)為汽車標配(pei)

千人(ren)千面背(bei)后(hou)的安全隱患

回(hui)到(dao)文(wen)章最初(chu)的(de)(de)場(chang)景，隨著大模(mo)型和AI Agent的(de)(de)迅速(su)發展，智能(neng)座艙里的(de)(de)安(an)全(quan)助手，早已不(bu)再是只會(hui)導(dao)航(hang)、會(hui)放歌的(de)(de)“工具(ju)人”，在Multi-Agent技術(shu)的(de)(de)加(jia)持下，它不(bu)僅能(neng)聯網(wang)搜索，能(neng)多輪對話，還能(neng)一鍵幫你定制行程(cheng)、分析新聞......但每一次看似普通的(de)(de)交互(hu)背后，都隱(yin)藏著不(bu)容忽視的(de)(de)安(an)全(quan)風險：

用戶隨(sui)口(kou)一句“講個刺激的歷史故(gu)事(shi)”，會不會觸發不當內容(rong)？
AI從網上抓取的(de)信息，是(shi)否(fou)混進(jin)了(le)賭博(bo)、色情或釣(diao)魚鏈接？
聯網(wang)搜索功能加持下(xia)，用戶輸入是否會觸(chu)發對惡意網(wang)站的直接(jie)調用？

國家(jia)《信息安(an)全(quan)(quan)技術生成式人工智能(neng)服務安(an)全(quan)(quan)基本要求》（TC260-003）中明確要求，需對風(feng)險進行識(shi)別與(yu)攔截。熟悉安(an)全(quan)(quan)的朋友(you)可(ke)能(neng)會疑(yi)惑，內容安(an)全(quan)(quan)審(shen)核技術已(yi)經發展(zhan)了數十年，難(nan)道(dao)沒有直接(jie)可(ke)用的成熟解決方(fang)案嗎？實(shi)際(ji)上：

一方面，為了保證用戶與模(mo)型交互過(guo)程的(de)流暢性(xing)，一句(ju)話往(wang)往(wang)被(bei)拆(chai)成十幾段流式輸(shu)出，傳統基于關鍵詞和規則的(de)專家模(mo)型，面對(dui)這類語義復雜、上下文強(qiang)依(yi)賴的(de)模(mo)型輸(shu)出時，最終(zhong)結果(guo)往(wang)往(wang)是(shi)“看得(de)見字(zi)，但不懂意”；
另一方面，如果全部(bu)依賴大模型審核(he)，雖(sui)然理解(jie)能(neng)力強，但因推理耗(hao)時長且成本高，難(nan)以滿(man)足車載場景對實時性的(de)嚴(yan)苛要(yao)求；

“既要(yao)快，又要(yao)準”——這正是斑馬智行與阿(a)里云聯合攻堅的核心命題(ti)。

阿里云AI安全護欄：

三大技術突破，重新定(ding)義車載AI安全(quan)標(biao)準

阿里云(yun)AI安(an)全(quan)護(hu)欄（AI Guardrails）是云(yun)安(an)全(quan)團(tuan)隊為人工智能(neng)系(xi)統設計(ji)的安(an)全(quan)防(fang)護(hu)產品，防(fang)護(hu)對象(xiang)覆蓋(gai)預(yu)訓練大模型、AI服(fu)務和(he)AI Agent等不(bu)同業務形(xing)態(tai)。在智能(neng)座艙場景(jing)，AI安(an)全(quan)護(hu)欄為斑(ban)馬智行提供了精準的風險檢測與(yu)主動(dong)防(fang)御能(neng)力，同時(shi)滿足車載場景(jing)對效率(lv)和(he)效果的要求(qiu)。

1.雙引擎協同架構：毫秒級(ji)審核響應(ying)

不同于單(dan)一的審(shen)核(he)策略，阿里云AI安全(quan)護欄(lan)采用“規(gui)則引擎+小模(mo)型(xing)+大(da)模(mo)型(xing)”協同審(shen)核(he)策略：

所有輸(shu)入/輸(shu)出文本實(shi)時切片(pian)后，由輕量級(ji)專家模(mo)型并(bing)行(xing)執行(xing)毫(hao)秒級(ji)初篩，快速攔截(jie)明顯風險；

同時，重新編排(pai)大模型深度(du)(du)審核(he)鏈路，利用多線程(cheng)智能(neng)化調度(du)(du)；

最終(zhong)融合雙(shuang)引擎結果，在不(bu)犧牲召(zhao)回率的(de)(de)前(qian)提下，有效降低了端到端審核延的(de)(de)響應時(shi)間(jian)，完(wan)美適配車載用戶實時(shi)交互的(de)(de)流暢體驗，用戶感覺(jue)不(bu)到“檢查”的(de)(de)存在，安全卻始(shi)終(zhong)在線。

2.流式上(shang)下文關聯審核：短文本(ben)不再“裸(luo)奔(ben)”

為了保障(zhang)與(yu)客戶溝(gou)通的(de)實時性(xing)，大模(mo)(mo)型內容生(sheng)成(cheng)大多采用(yong)“邊生(sheng)成(cheng)，邊輸(shu)入(ru)”的(de)流(liu)式(shi)模(mo)(mo)式(shi)，一段回答(da)可(ke)(ke)能會分為10次(ci)推送(song)，單(dan)次(ci)切片可(ke)(ke)能僅10-20字，傳統審(shen)核模(mo)(mo)型因(yin)缺(que)乏上(shang)下(xia)文，面對這種“碎片化表達”，極易(yi)漏判。阿里云AI安全護(hu)欄采用(yong)“大模(mo)(mo)型流(liu)式(shi)審(shen)核方案(an)”：

通過唯一標識關聯一次完整對話；
安全護欄自動聚合(he)同一會話中的所有切片，進行跨片段語義理(li)解；
即使敏(min)感(gan)內容分散在多輪輸出(chu)中(zhong)，也(ye)能(neng)精準識別并攔截；

實(shi)測顯(xian)示，該(gai)方(fang)案將短文本(ben)場景下的風險內容召回率提升至98%以上，遠超傳統方(fang)案。

3.聯網檢索(suo)風險(xian)實時攔截(jie)：堵(du)住Agent的“后門”

在(zai)支持聯網搜索的Agent場景中，用戶提問可(ke)能(neng)觸發對(dui)第三(san)方網頁的抓取，例如：

用戶問一句：“幫我找(zhao)附(fu)近評分最高的(de)酒(jiu)(jiu)吧(ba)”，AI所搜索(suo)到(dao)的(de)目標(biao)站點可(ke)能(neng)是(shi)某個偽裝成(cheng)酒(jiu)(jiu)吧(ba)推薦網(wang)頁的(de)釣魚、賭(du)博或色情網(wang)站，將直接(jie)污染(ran)大模型的(de)輸入。阿里云AI安全(quan)所具有的(de)“URL風險檢測”模塊，則能(neng)快速(su)應對(dui)：

對(dui)所(suo)有聯網(wang)請求中(zhong)的第三(san)方(fang)鏈接(jie)進行(xing)實時掃描；
精準識(shi)別色(se)情信(xin)息(xi)、非法賭博(bo)、釣魚網站、虛假營銷(xiao)等風險(xian)類型：
一旦命(ming)中高風險標簽，立即終止(zhi)任務，防止(zhi)有害信息流入大(da)模型。

目前該能(neng)力已覆蓋智能(neng)搜(sou)索(suo)、資(zi)訊推薦等多個高頻(pin)場(chang)景。

云(yun)基礎設(she)施彈(dan)性保障(zhang)：安全(quan)能力“隨(sui)需調用”

對于各(ge)大車企，定期的促銷、活動、新車上市......往往都伴隨著(zhu)流量激增。尤其在(zai)智能駕駛、智能座艙等新興(xing)領域(yu)，首發熱(re)度動輒帶來數倍于日常的調(diao)用量，這(zhe)對任何產品都是一次“壓力(li)測試”，如果(guo)安(an)全審(shen)核扛不住(zhu)，輕則(ze)延遲卡頓、重則(ze)全面宕機。

阿里云(yun)AI安全護欄(lan)依托于阿里云(yun)強(qiang)大的(de)基(ji)礎設施，為(wei)客戶(hu)提供(gong)可彈(dan)性拓展的(de)安全防護力(li)，支(zhi)持客戶(hu)按(an)需購(gou)買(mai)QPS彈(dan)性擴(kuo)展包，最短7天起(qi)訂，已(yi)驗證可支(zhi)持單(dan)項目峰值600 QPS的(de)穩定運行。

無(wu)論(lun)是平日通(tong)勤，還(huan)是發布(bu)會(hui)后的“搶車潮”，安全能(neng)力始(shi)終絲滑在線。(斑(ban)馬智(zhi)行(xing))

掃(sao)一掃(sao)在手(shou)機打開當前頁(ye)

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

香港免费手机看A片,午夜少妇一级一级福利,影音先锋色AV网站,中美日韩欧美一级视频www,国际偷拍2019,国产精品丝袜,光棍天堂在线观看微电影,天涯爆佟丽娅,国产z拍在线播放,偷玩人妻

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿