央廣網(wǎng)上海7月29日消息（記者郭振丹）當大模型技術(shù)在智能體、多模態(tài)等方面不斷邁進(jìn)，哪些是全球大模型創(chuàng )新的共同方向與趨勢？當大模型產(chǎn)業(yè)應用進(jìn)入深水區，又將如何重塑全球產(chǎn)業(yè)格局與生態(tài)？

7月28日，2025世界人工智能大會(huì )期間，大模型智塑全球產(chǎn)業(yè)新秩序論壇于上海市徐匯區舉行。論壇發(fā)布了業(yè)內首份系統性探討終端智能體安全研究報告，啟動(dòng)了國內首個(gè)地方性人工智能大模型產(chǎn)融合作平臺試運行，并向全球發(fā)出“大模型開(kāi)源安全倡議”。同時(shí)，現場(chǎng)50余位全球AI專(zhuān)家學(xué)者聚焦大模型前沿產(chǎn)業(yè)突破與垂直領(lǐng)域應用實(shí)踐建言獻策，全景展現大模型技術(shù)演進(jìn)的新趨勢與驅動(dòng)產(chǎn)業(yè)變革的新藍圖。

《終端智能體安全（2025）》發(fā)布（央廣網(wǎng)發(fā) 受訪(fǎng)者供圖）

論壇現場(chǎng)，業(yè)內首份系統性探討終端智能體安全的研究報告——《終端智能體安全（2025）》（以下簡(jiǎn)稱(chēng)“報告”）正式發(fā)布。在終端智能體應用落地加速發(fā)展的關(guān)鍵發(fā)展時(shí)期，報告從技術(shù)、產(chǎn)業(yè)、生態(tài)展開(kāi)前瞻研究，率先提出全方位、多層次的終端智能體安全防護體系，旨在推動(dòng)智能體應用持續創(chuàng )新與安全發(fā)展。

報告指出，當前智能體正在向更多終端延伸，輕量型終端智能體可在手機、穿戴設備等日常終端直接運行，具備自主推理、快速交互能力，增強了貼近性與個(gè)性化服務(wù)。當輕量型終端智能體由原本功能簡(jiǎn)單的智能模塊演化為具備感知、決策與執行能力的本地 “自主實(shí)體”，其安全邊界不再只是“數據泄露”這么簡(jiǎn)單，而是向模型行為、身份偽造、環(huán)境感知誤導，甚至算法倫理等深層問(wèn)題蔓延。

針對這些挑戰，報告認為，終端智能體發(fā)展亟待構建“數據共享、能力協(xié)同、 標準互認”的安全生態(tài)共建體系，通過(guò)多方參與、資源整合與技術(shù)協(xié)同為終端智能體安全可持續發(fā)展筑牢根基，并通過(guò)數據、技術(shù)、應用的三方聯(lián)動(dòng)構建終端智能體的安全共同體。

因此，報告首次提出終端智能體安全體系，在技術(shù)生態(tài)體系的支撐下，單智能體安全技術(shù)包括安全護欄、數據去毒、基座對齊和柔性管理；多智能體可信互連技術(shù)包括可信數據流轉、可信服務(wù)流轉、可信身份認證和可信記憶共享；AI終端安全技術(shù)包括可信隱私沙箱、跨設備可信連接等，共同支撐AI/AR眼鏡、智能手機助手、智能座駕等行業(yè)應用。

論壇現場(chǎng)，國內首個(gè)地方性人工智能大模型產(chǎn)融合作平臺正式啟動(dòng)試運行。該平臺打造構建“匯數據、匯資源、匯政策”的一體化服務(wù)體系，集成智能推薦、風(fēng)險評估、產(chǎn)業(yè)鏈跟蹤等工具，為人工智能產(chǎn)業(yè)創(chuàng )新、蓬勃發(fā)展筑牢基礎服務(wù)平臺。

此外，面對開(kāi)源大模型大規模應用帶來(lái)的更多安全風(fēng)險，論壇面向全球重磅發(fā)布“大模型開(kāi)源安全倡議”：一、堅持規范有序，構建安全標準體系；二、堅持開(kāi)放協(xié)同，保障開(kāi)源要素安全；三、堅持智能向善，共建開(kāi)源安全生態(tài)；四、堅持多元包容，凝聚開(kāi)源安全國際共識。