《環(huán)球時(shí)報(bào)》采訪全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎：智能體或改變網(wǎng)絡(luò)安全格局

“十五五”規(guī)劃建議作出了“推進(jìn)全國(guó)一體化算力網(wǎng)等建設(shè)和集約高效利用”“搶占人工智能（AI）產(chǎn)業(yè)應(yīng)用制高點(diǎn)”等一系列重要部署，前瞻布局了我國(guó)AI發(fā)展需要的基礎(chǔ)設(shè)施，并指明了AI技術(shù)應(yīng)用方向。如今AI與社會(huì)生活的關(guān)系日益緊密，但它帶來(lái)的安全風(fēng)險(xiǎn)也越來(lái)越受到關(guān)注。全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在今年全國(guó)兩會(huì)期間重點(diǎn)關(guān)注了智能體公共服務(wù)平臺(tái)建設(shè)以及安全智能體規(guī)模應(yīng)用等方向。接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)，周鴻祎明確表示，隨著技術(shù)發(fā)展，AI自身風(fēng)險(xiǎn)加劇，一旦與業(yè)務(wù)系統(tǒng)深度結(jié)合，可能帶來(lái)更復(fù)雜的安全隱患等問題，因此需要“以AI對(duì)抗AI”。

推理算力的重要性日益凸顯

近年來(lái)，全球越來(lái)越多的AI業(yè)內(nèi)人士承認(rèn)，由于大模型訓(xùn)練和使用會(huì)產(chǎn)生巨大的電力消耗，因此電力供應(yīng)成為制約AI發(fā)展的關(guān)鍵因素。在周鴻祎看來(lái)，中國(guó)的電力優(yōu)勢(shì)正持續(xù)轉(zhuǎn)化為通用算力。通用算力分為訓(xùn)練算力和推理算力，但算力本身并不直接創(chuàng)造產(chǎn)業(yè)價(jià)值。只有消耗推理算力運(yùn)行的智能體，才能將通用模型能力轉(zhuǎn)化為懂行業(yè)、懂場(chǎng)景的“專用智力”，再由“懂AI又懂業(yè)務(wù)”的專業(yè)人才進(jìn)行規(guī)劃與治理，并在安全能力護(hù)航下運(yùn)行，最終形成穩(wěn)定、可持續(xù)的生產(chǎn)力。在這一轉(zhuǎn)化鏈條中，智能體成為連接各要素、推動(dòng)生產(chǎn)力形成的關(guān)鍵引擎。

周鴻祎尤其關(guān)注的是推理算力的發(fā)展。推理算力是指AI大模型在實(shí)際應(yīng)用中響應(yīng)用戶請(qǐng)求的計(jì)算能力，其核心需求是低延遲、高實(shí)時(shí)性、隱私保護(hù)。與集中式、高能耗、長(zhǎng)周期的訓(xùn)練算力不同，推理算力更強(qiáng)調(diào)“實(shí)時(shí)響應(yīng)”——當(dāng)用戶通過終端（如手機(jī)、機(jī)器人等）發(fā)起請(qǐng)求時(shí)，可快速完成數(shù)據(jù)處理與結(jié)果輸出。

隨著百億級(jí)智能體進(jìn)入產(chǎn)業(yè)場(chǎng)景，推理算力的重要性日益凸顯。當(dāng)前我國(guó)訓(xùn)練算力穩(wěn)步提升，但面向推理任務(wù)的專用集群仍存在結(jié)構(gòu)性缺口，專用推理芯片能力亟需突破。周鴻祎表示，幾年前行業(yè)重視訓(xùn)練算力是合理的，因?yàn)楫?dāng)時(shí)大模型還沒有訓(xùn)練好，出現(xiàn)了“百模大戰(zhàn)”現(xiàn)象，訓(xùn)練算力在此階段變得很重要。但從去年開始，國(guó)產(chǎn)大模型的性能過了及格線，基座模型的能力足夠了，就不用再重復(fù)訓(xùn)練模型。如今AI進(jìn)入到雙線進(jìn)化時(shí)代，一方面是大模型的進(jìn)化，一方面是智能體的進(jìn)化，其中智能體就需要用到大量的推理算力。

周鴻祎認(rèn)為，從趨勢(shì)上看，推理算力的需求已從“云端集中”轉(zhuǎn)向“邊緣分布”。將來(lái)很多智能硬件需要依靠邊緣計(jì)算進(jìn)行預(yù)處理，不但減少了海量數(shù)據(jù)傳輸?shù)膸�寬消耗，而且降低了敏感信息泄露的風(fēng)險(xiǎn)。例如機(jī)器人依靠本地算力處理日常事務(wù)，只有復(fù)雜的任務(wù)才交給云端算力。推理算力與邊緣計(jì)算的結(jié)合，對(duì)于智慧城市、智能工廠的加速建設(shè)以及對(duì)于機(jī)器人產(chǎn)業(yè)、自動(dòng)駕駛產(chǎn)業(yè)都有重要的戰(zhàn)略意義。

周鴻祎就此建議，應(yīng)在全國(guó)一體化算力體系框架下出臺(tái)推理算力布局指導(dǎo)政策，建立“全國(guó)統(tǒng)籌+區(qū)域細(xì)化”的布局體系，在重點(diǎn)產(chǎn)業(yè)區(qū)域建設(shè)低時(shí)延、高密度的推理算力集群，通過調(diào)度機(jī)制提升資源利用效率。同時(shí)鼓勵(lì)專用推理芯片國(guó)產(chǎn)化發(fā)展，實(shí)現(xiàn)產(chǎn)業(yè)鏈自主可控，支撐智能體技術(shù)的深度應(yīng)用。

安全領(lǐng)域需要“以AI對(duì)抗AI”

周鴻祎認(rèn)為，當(dāng)前網(wǎng)絡(luò)安全領(lǐng)域面臨三方面挑戰(zhàn)：一是傳統(tǒng)安全措施與運(yùn)營(yíng)智能化不足。網(wǎng)絡(luò)安全從漏洞防護(hù)、模擬攻擊滲透等防御環(huán)節(jié)，到安全報(bào)警、分析、溯源等運(yùn)營(yíng)環(huán)節(jié)，都需要加快智能化升級(jí)。例如，面對(duì)海量代碼，傳統(tǒng)的漏洞檢測(cè)手段主要靠“規(guī)則匹配”“人工審查”，難以智能化識(shí)別隱蔽性強(qiáng)的高危漏洞，安全漏洞“發(fā)現(xiàn)難、修復(fù)慢”。

二是“黑客智能體”威脅加劇。利用黑客經(jīng)驗(yàn)和能力打造“黑客智能體”，只要有算力就可以批量復(fù)制、不眠不休、自動(dòng)攻擊。從全球網(wǎng)絡(luò)安全監(jiān)測(cè)情況來(lái)看，“黑客智能體”已成為網(wǎng)絡(luò)攻擊的重要手段，這讓安全從過去的“人和人”對(duì)抗，升級(jí)為“人和機(jī)器”的不對(duì)稱對(duì)抗。

三是AI自身存在安全問題。AI自身存在漏洞、價(jià)值觀對(duì)齊等問題。大模型出錯(cuò)，可能導(dǎo)致內(nèi)容錯(cuò)誤、價(jià)值觀幻覺，而智能體一旦出錯(cuò)會(huì)帶來(lái)嚴(yán)重后果，甚至借助汽車、機(jī)器人、無(wú)人機(jī)等，讓威脅從數(shù)字世界延伸到物理世界。

面對(duì)這些挑戰(zhàn)，周鴻祎建議加快推行“以模治�！�，用AI治理AI。他表示，包括360集團(tuán)在內(nèi)，國(guó)內(nèi)外安全企業(yè)都已經(jīng)廣泛使用大模型和智能體協(xié)助強(qiáng)化網(wǎng)絡(luò)安全防護(hù)，甚至可能產(chǎn)生根本性變革。他舉例說，經(jīng)過專門訓(xùn)練的智能體，對(duì)于尋找程序的各種漏洞、后門和弱口令（例如密碼是12345）等缺陷的效率遠(yuǎn)高于人類。此前尋找漏洞和安全滲透的人才都很稀缺，但專門培訓(xùn)的大模型和智能體“能夠7×24小時(shí)不睡覺地在重要機(jī)關(guān)單位的程序中尋找各種漏洞和后門，以及是否存在弱口令的問題，進(jìn)而協(xié)助改進(jìn)”。

需訓(xùn)練發(fā)現(xiàn)程序漏洞的智能體

周鴻祎判斷，隨著AI編程水平的快速發(fā)展，“未來(lái)人類可能會(huì)徹底放棄對(duì)代碼的管理權(quán)，全部由AI編寫、AI管理、AI維護(hù)”。因?yàn)锳I編寫的代碼數(shù)量之多、速度之快，遠(yuǎn)遠(yuǎn)超過了人類的維護(hù)能力。但AI編寫的程序也存在漏洞，完全依靠人類專家在AI編寫的海量程序里挖掘漏洞，顯然不可行�！斑@種局面必須解決，否則海量的代碼里充滿了沒人能懂、沒人能維護(hù)的漏洞，萬(wàn)一AI編寫的代碼爆出一個(gè)大雷，人類后悔都來(lái)不及了。想要解決這個(gè)問題，就需要專門訓(xùn)練用來(lái)發(fā)現(xiàn)程序漏洞的智能體�！�

這些專門用于發(fā)現(xiàn)程序漏洞的智能體得到廣泛應(yīng)用之后，可能對(duì)整個(gè)網(wǎng)絡(luò)安全領(lǐng)域產(chǎn)生革命性的影響。周鴻祎解釋稱，網(wǎng)絡(luò)安全業(yè)內(nèi)原本的共識(shí)是，大型程序動(dòng)輒是由數(shù)百萬(wàn)行甚至更多代碼構(gòu)成，涉及多模塊、多組件的協(xié)同交互，其邏輯復(fù)雜度遠(yuǎn)超人類可完全掌控的范圍，因此“程序里的漏洞是不可避免、不可能完全消除的”，所有安全公司的思路都是“黑客利用漏洞攻進(jìn)來(lái)之后如何防守”。但專門發(fā)現(xiàn)程序漏洞的智能體得到廣泛應(yīng)用后，它們可以以遠(yuǎn)超人類專家的效率發(fā)掘新編寫的與舊程序中的大量漏洞，“如果確實(shí)通過AI把程序漏洞的數(shù)量減少了一半，剩下的一半如果AI挖不出來(lái)，黑客也不一定能挖得出來(lái)，這樣網(wǎng)絡(luò)安全的格局就完全不一樣了”。

如何更好地利用AI

周鴻祎認(rèn)為，隨著智能體能力的提升，它可能會(huì)代替App成為新的服務(wù)核心入口。通俗地說，大模型像“知識(shí)豐富的大腦”，能回答問題、寫文章、編代碼，但不會(huì)“動(dòng)手”做具體的事。智能體是用大模型當(dāng)“大腦”，通過調(diào)用App、控制機(jī)器人，自己完成“從想法到行動(dòng)”的全流程。比如下達(dá)“幫我訂杯咖啡”的指令，大模型會(huì)提醒“打開外賣App下單”，但不會(huì)自己打開App、選咖啡、付錢。而智能體會(huì)自動(dòng)拆解步驟，完成打開外賣App，選常喝的口味、填寫地址并支付，全程不用人類自己動(dòng)手。周鴻祎表示，OpenClaw等智能體不但能調(diào)用電腦上的所有工具，還可以根據(jù)任務(wù)需要下載新工具，而且所有的文件都會(huì)存在電腦上，“能在電腦上建立起個(gè)人的數(shù)據(jù)記憶，使用越多，將來(lái)智能體可能就越有機(jī)會(huì)改進(jìn)得更好、更符合個(gè)人習(xí)慣”。

很多人目前還停留在將AI助手當(dāng)個(gè)聊天機(jī)器人的程度。周鴻祎認(rèn)為，想要用好AI，可以嘗試用“角色扮演”的方式。他舉例說，如果問AI：公司業(yè)務(wù)應(yīng)該怎么發(fā)展？通常給出的答案都是泛泛而談�！叭绻�先告訴AI，你對(duì)企業(yè)商業(yè)模式特別有研究，這樣AI在尋找訓(xùn)練數(shù)據(jù)的時(shí)候，就會(huì)圍繞著企業(yè)發(fā)展和企業(yè)商業(yè)模式搜集相關(guān)材料，答案的思考深度明顯提升�！彼�解釋說，這是因?yàn)榇竽Ｐ鸵鸦�本學(xué)到了全球絕大部分知識(shí)，但如果不約束到專業(yè)方向，AI給出答案時(shí)就會(huì)什么知識(shí)都試圖加一點(diǎn)，顯得平淡無(wú)奇。使用者通過“角色扮演”，AI才會(huì)更高效地去尋找相關(guān)專業(yè)的訓(xùn)練數(shù)據(jù)。