Arm 控股有限公司（納斯達克股票代碼：ARM，以下簡稱 “Arm”）今日宣布將Arm® Kleidi技術擴展到汽車市場。Arm Kleidi是一項廣泛的軟件及軟件社區(qū)參與計劃，旨在加速人工智能 (AI) 的發(fā)展。通過 Arm Kleidi，合作伙伴將能夠充分挖掘下一代特定應用 AI 模型在汽車中的優(yōu)勢，并加快其部署速度。
Arm 汽車事業(yè)部產(chǎn)品和解決方案副總裁 Suraj Gajendra 表示：“在汽車行業(yè)中，AI 通常被稱為自動駕駛汽車的核心——聽起來頗具未來感，距離其大規(guī)模量產(chǎn)上路還有數(shù)年時間。然而，實際的情況是，當下新車型中的很多應用和功能，從自適應巡航控制、個性化車載信息娛樂系統(tǒng)到駕駛員和乘客監(jiān)控系統(tǒng)，都已經(jīng)在使用 AI 技術，并且這些特定應用的模型和工作負載已在 Arm 平臺上高效運行。這歸功于 Arm 計算平臺卓越的靈活性、性能、能效和可擴展性，使其成為整個汽車行業(yè)中開發(fā)者的首選平臺�！�
然而，隨著這些汽車應用與功能日益精進，對更多的 AI 功能與日益復雜的工作負載的需求不斷提高，汽車行業(yè)正面臨著一系列獨特的挑戰(zhàn)，包括：
·相較于其他行業(yè)，汽車行業(yè)擁有龐大而復雜的軟件系統(tǒng)，使得開發(fā)環(huán)境極為復雜。
· 需要一個強大的從云端到車端的軟件開發(fā)和驗證基礎設施，以便將云端開發(fā)的應用無縫部署到汽車中。
·軟件必須符合嚴格的汽車功能安全和信息安全方面的行業(yè)標準和法規(guī)。
· 汽車的使用周期較長，這意味著軟件必須具備升級能力，以適應未來不斷新增的功能和更新（類似于在最新軟件版本發(fā)布時對智能手機進行同步更新，但汽車的產(chǎn)品周期要更長）。
Arm 通過領先的汽車增強型 (AE) 技術和在汽車生態(tài)系統(tǒng)中的合作，應對這些獨特的挑戰(zhàn)。這些合作涵蓋了虛擬平臺和基于標準的軟件解決方案，通過面向嵌入式邊緣側(cè)的可擴展開放架構(gòu) (SOAFEE) 來加速汽車開發(fā)周期。所有這些解決方案都為開發(fā)人員提供了工具，使他們能夠通過應用廣泛的Arm計算平臺無縫獲取更高的性能，并加快其產(chǎn)品的上市時間。
利用 Arm Kleidi 實現(xiàn)性能自動優(yōu)化
Arm Kleidi 于 2024 年推出，旨在為Arm CPU 上運行的 AI 推理工作負載提供軟件性能優(yōu)化，開發(fā)者無需進行任何額外的工作，目前該軟件庫已應用于移動端、云和數(shù)據(jù)中心等關鍵領域，包括 Kleidi 已被集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等熱門 AI 框架的最新版本中，開發(fā)者只需開始構(gòu)建應用程序，即可在基于 Arm 架構(gòu)的平臺上自動獲取性能的顯著提升。
Kleidi的性能優(yōu)化特性已引入汽車市場，領先的科技公司已經(jīng)在他們的汽車軟件中體驗到了一系列新應用的性能提升。從車載聊天機器人、個性化駕駛員建議，到圖像和運動增強以輔助用戶、診斷和解決問題，Kleidi庫與關鍵的開發(fā)者框架的集成正在加速AI應用的開發(fā)，為用戶提供更快、更高效的車載體驗。
· AWS Automotive將車載聊天機器人的響應速度提高了 10 倍
利用 Arm 與 Corellium 聯(lián)合開發(fā)的虛擬平臺，亞馬遜云科技 (AWS) 為軟件定義汽車 (SDV) 打造了一款全新的概念驗證 (proof-of-concept) AI 聊天機器人，允許駕駛員直接與汽車進行互動，提出問題或詢問儀表盤警報，而無需翻閱汽車用戶手冊。借助集成了 KleidiAI 的最新版 Llama.cpp 開發(fā)聊天機器人，AWS 實現(xiàn)了其聊天機器人性能的顯著提升，響應時間縮短至一到三秒，性能提升達 10 倍。由于開發(fā)者無需在底層軟件優(yōu)化花費心力，KleidiAI 為聊天機器人的開發(fā)節(jié)省了六周時間。
· VicOne 加快了對汽車網(wǎng)絡安全威脅的應對速度
VicOne 面向 SDV 的 xCarbon 車載解決方案能使車輛學習和識別網(wǎng)絡安全威脅，減少對云端技術的依賴，進而降低成本并更好地保護數(shù)據(jù)安全。借助 TinyLlama-1 1B 模型，VicOne 解決方案的性能實現(xiàn)了顯著提升，預填充提示速度翻倍，詞元生成速度提升了 60% 以上，從而縮短了車輛檢測網(wǎng)絡安全威脅的響應時間。Kleidi 實現(xiàn)的性能優(yōu)化使 VicOne 能夠在無需額外開發(fā)工作的情況下，為用戶帶來更安全、更可靠的駕駛體驗。
·Sonatus 專為 OEM 打造的AI Technician Builder平臺，能夠無縫運行于基于 Arm 架構(gòu)的 AWS Graviton CPU
Sonatus 的 AI Technician Builder 是一個從云到邊緣側(cè)的平臺，可幫助OEM 廠商創(chuàng)建客戶服務代理，以迅速響應用戶對汽車的問詢，進而改善駕駛體驗。該平臺最初運行于云端環(huán)境的 GPU，而通過引入Kleidi 優(yōu)化框架，它現(xiàn)可輕松移植到搭載 Arm 架構(gòu)的 AWS Graviton EC2 云實例上運行。這不僅確保了用戶所需的性價比和響應時間，還為在基于 Arm 架構(gòu)的汽車計算平臺上運行邊緣 AI 工作負載鋪平道路。
在 Arm 平臺上推動汽車及其他領域的 AI 創(chuàng)新
如今，全球 94% 的車廠都在其最新車型中使用了 Arm 技術。Arm 計算平臺在汽車領域的廣泛應用，表明其在推動關鍵車載 AI 應用實現(xiàn)顯著性能優(yōu)化方面具備得天獨厚的優(yōu)勢，AWS、VicOne 和 Sonatus 的成功實踐便是很好的例證。將 Kleidi 集成到現(xiàn)有的軟件堆棧中，推動了更高效、更先進的 AI 應用場景的實現(xiàn)，并為那些分秒必爭的關鍵汽車應用提供了更快的響應速遞。 這賦予了開發(fā)者超能力，使他們能夠在 Arm CPU 上優(yōu)化并運行新的特定應用的 AI 模型和工作負載，而無需額外的成本或開發(fā)工作量。
通過將 Kleidi 擴展到汽車領域，Arm 持續(xù)兌現(xiàn)其承諾——為包括從云到邊緣側(cè)的各個 Arm 應用市場的 AI 開發(fā)者提供無縫的性能加速，助其打造有吸引力的全新用戶體驗，不斷挖掘 AI 變革的潛力。
