ArmKleidi積極進軍汽車市場，開啟車載AI性能加速飛躍新篇章

Arm 控股有限公司正式宣布將 Arm? Kleidi 技術拓展至汽車市場。Arm Kleidi 是一項涉及廣泛軟件及軟件社區(qū)參與的計劃，旨在大力推動人工智能(AI)發(fā)展。借助這一技術，合作伙伴能夠深入挖掘下一代特定應用 AI 模型在汽車領域的優(yōu)勢，并且加快其部署進程。

Arm 汽車事業(yè)部產品和解決方案副總裁 Suraj Gajendra 指出，在汽車行業(yè)，AI 常被視為自動駕駛汽車的核心，看似頗具未來感，距大規(guī)模量產上路仿佛還有數年之遙。但實際情況是，如今新車型的諸多應用和功能，如自適應巡航控制、個性化車載信息娛樂系統(tǒng)、駕駛員和乘客監(jiān)控系統(tǒng)等，早已運用 AI 技術，且這些特定應用模型和工作負載已在 Arm 平臺高效運行。這得益于 Arm 計算平臺卓越的靈活性、性能、能效和可擴展性，使其成為汽車行業(yè)開發(fā)者的首選。

不過，隨著汽車應用與功能的不斷升級，對更多 AI 功能和復雜工作負載的需求持續(xù)攀升，汽車行業(yè)也面臨一系列獨特挑戰(zhàn)。例如，汽車行業(yè)擁有龐大復雜的軟件系統(tǒng)，開發(fā)環(huán)境極為繁雜;需要強大的從云端到車端的軟件開發(fā)和驗證基礎設施，以便將云端應用無縫部署到汽車中;軟件必須符合嚴格的汽車功能安全和信息安全行業(yè)標準與法規(guī);汽車使用周期長，軟件需具備升級能力以適應未來新增功能和更新。

Arm 憑借領先的汽車增強型技術以及在汽車生態(tài)系統(tǒng)中的合作來應對這些挑戰(zhàn)。合作涉及虛擬平臺和基于標準的軟件解決方案，通過面向嵌入式邊緣側的可擴展開放架構(SOAFEE)加速汽車開發(fā)周期。這些解決方案為開發(fā)者提供工具，使其能借助廣泛應用的 Arm 計算平臺無縫獲取更高性能，加快產品上市。

Arm Kleidi 于 2024 年推出，旨在為 Arm CPU 上運行的 AI 推理工作負載進行軟件性能優(yōu)化，開發(fā)者無需額外操作。目前該軟件庫已應用于移動端、云和數據中心等領域，且已集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等熱門 AI 框架的最新版本中，開發(fā)者構建應用程序時，在基于 Arm 架構的平臺上可自動獲得顯著性能提升。如今，Kleidi 的性能優(yōu)化特性已引入汽車市場。例如，AWS Automotive 借助 Arm 與 Corellium 聯合開發(fā)的虛擬平臺，為軟件定義汽車打造全新概念驗證 AI 聊天機器人，集成 Kleidi 的最新版 Llama.cpp 使其聊天機器人響應速度提高 10 倍，響應時間縮短至 1 - 3 秒，還節(jié)省了六周開發(fā)時間。VicOne 的 xCarbon 車載解決方案借助 TinyLlama - 1 1B 模型，在 Kleidi 幫助下，預填充提示速度翻倍，詞元生成速度提升超 60%，縮短了檢測網絡安全威脅的響應時間。Sonatus 的 AI Technician Builder 平臺最初在云端 GPU 運行，引入 Kleidi 優(yōu)化框架后，可輕松移植到搭載 Arm 架構的 AWS Graviton EC2 云實例上，為在 Arm 架構汽車計算平臺運行邊緣 AI 工作負載奠定基礎。全球 94% 的車廠在最新車型中采用 Arm 技術，其在車載 AI 應用性能優(yōu)化方面優(yōu)勢顯著。將 Kleidi 集成到現有軟件堆棧，推動了更高效先進的 AI 應用場景實現，為關鍵汽車應用提供更快響應速度，助力開發(fā)者在 Arm CPU 上優(yōu)化并運行新的特定應用 AI 模型和工作負載 。