【導(dǎo)讀】邊緣AI的落地，取決于算力、功耗與成本的平衡。隨著中小模型能力快速提升，硬件平臺能否跟上成為關(guān)鍵。8月25日，NVIDIA發(fā)布Jetson Orin Nano 2，在相同尺寸下推理性能翻倍，同性能下功耗降低40%，目標(biāo)很明確：讓數(shù)百萬開發(fā)者手中的機(jī)器人、無人機(jī)等物理AI設(shè)備，能以更低門檻運(yùn)行主流生成式AI模型。
隨著 AI 模型變得更小及更高效，越來越多的邊緣設(shè)備正演進(jìn)為能夠理解上下文、解析語言和圖像，并實(shí)時采取響應(yīng)的自主系統(tǒng)。為了將這些能力應(yīng)用于機(jī)器人、配送和巡檢無人機(jī)以及視覺 AI 系統(tǒng)等實(shí)體機(jī)器中，開發(fā)者需要專為邊緣 AI 打造的緊湊且高能效機(jī)器人計算機(jī)。
NVIDIA 機(jī)器人與邊緣 AI 副總裁 Deepu Talla 表示：“如今，中小型前沿模型的準(zhǔn)確率已經(jīng)達(dá)到去年最大型前沿模型的水平，為邊緣設(shè)備實(shí)現(xiàn)實(shí)時智能提供了可能。Jetson Orin Nano 2 計算機(jī)讓這一突破性能力惠及數(shù)百萬開發(fā)者，并為在邊緣端實(shí)現(xiàn)實(shí)時推理提供所需的性能和高能效。”
康耐視、斗山山貓和 Matic 已率先采用 Jetson Orin Nano 2 并展開相關(guān)探索。
入門級邊緣 AI 的重大飛躍
Jetson Orin Nano 2 擁有 78 TOPS 的 AI 算力、8GB 內(nèi)存和 8 核 Arm CPU，在兼顧成本效益和能效的系統(tǒng)中，在 AI 和視頻處理性能方面實(shí)現(xiàn)了大幅提升。
通過改進(jìn)的 Tensor Core 和更高的內(nèi)存帶寬，Jetson Orin Nano 2 在保持相同緊湊尺寸的前提下，推理性能較 Jetson Orin Nano Super 實(shí)現(xiàn)翻倍。在 15 瓦功耗模式下，Jetson Orin Nano 2 在實(shí)現(xiàn)與前代產(chǎn)品相同性能表現(xiàn)的同時，功耗降低 40%。
依托 NVIDIA 開放軟件棧、NVIDIA Jetson? 智能體技能以及豐富的 AI 生態(tài)系統(tǒng)，Jetson Orin Nano 2 可幫助開發(fā)者運(yùn)行專為高能效邊緣推理優(yōu)化的最新大語言模型和視覺語言模型——包括 NVIDIA Cosmos?、NVIDIA Nemotron?、Gemma 4、Qwen 3 等開放模型——從而快速構(gòu)建先進(jìn)的 AI 應(yīng)用。
合作伙伴生態(tài)系統(tǒng)與數(shù)百萬機(jī)器人開發(fā)者基于 Jetson 開發(fā)
目前，已有超過 300 萬名開發(fā)者基于 NVIDIA 機(jī)器人技術(shù)棧進(jìn)行開發(fā)。借助 Jetson Orin Nano 2，康耐視、斗山山貓、Matic 和 Wing 等合作伙伴正在將現(xiàn)實(shí)世界的邊緣 AI 應(yīng)用引入緊湊型設(shè)備，涵蓋家用機(jī)器人、視覺 AI 系統(tǒng)、配送和巡檢無人機(jī)、載板、硬件系統(tǒng)以及參考解決方案。
Alphabet 旗下領(lǐng)先的無人機(jī)配送公司 Wing，正在其配送無人機(jī)機(jī)隊(duì)中使用 Jetson Orin Nano Super 和 NVIDIA 軟件棧。同時，該公司正計劃評估 Jetson Orin Nano 2，以進(jìn)一步提升實(shí)時 AI 感知和推理能力，從而為本地商家及居民提供更快速、更安全的配送服務(wù)。
Wing 感知負(fù)責(zé)人 Dinuka Abeywardena 表示：“無人機(jī)配送需要 AI 快速并可靠地理解現(xiàn)實(shí)環(huán)境。Wing 正在探索 Jetson Orin Nano 2，希望借此打造響應(yīng)更迅速且能效更高的無人機(jī)，為客戶提供更快捷、更可靠的配送服務(wù)。”
先進(jìn)的消費(fèi)級機(jī)器人公司 Matic Robots 正在采用 Jetson Orin Nano 2，為其家用清潔機(jī)器人打造更直觀的交互體驗(yàn)，賦能機(jī)器人實(shí)現(xiàn)對話式 AI、手勢識別，并能通過精準(zhǔn)建圖和語義理解更深入地理解家庭環(huán)境，實(shí)現(xiàn)自主清潔。
Matic Robotics 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Navneet Dalal 表示：“家用機(jī)器人需要理解用戶的意圖、精準(zhǔn)繪制空間地圖、掌握物體和空間的布局，并在動態(tài)且不斷變化的環(huán)境中自主完成清潔。借助 Jetson Orin Nano 2，Matic 可以在專為實(shí)時感知、交互和導(dǎo)航打造的緊湊型家用機(jī)器人平臺上運(yùn)行最前沿的邊緣 AI 模型。”
研揚(yáng)科技、凌華科技、研華科技、安提國際、Antmicro、Aptiv、Auvidea、圓剛科技、Chuanglebo、Connect Tech、ForeCR、智微智能、Neurealm、Plink、Realtimes、RidgeRun、RS、矽遞科技、Tauro Tech、Twowin和 YUAN 等 Jetson 合作伙伴，正在打造載板、硬件系統(tǒng)、定制化 AI 軟件和參考解決方案，幫助客戶加快產(chǎn)品上市進(jìn)程。
上市時間
NVIDIA Jetson Orin Nano 2 模組和開發(fā)者套件預(yù)計將于 2027 年上半年上市。
結(jié)論
從康耐視、Matic到Wing，先行者的選擇說明Jetson Orin Nano 2的價值不在于峰值算力，而在于讓高能效邊緣推理變得可規(guī)模化。三百多萬開發(fā)者生態(tài)與十多家合作伙伴的配套方案，縮短了從評估到量產(chǎn)的距離。當(dāng)開放模型能在緊湊功耗下順暢運(yùn)行，邊緣設(shè)備從“感知”走向“理解”就有了更實(shí)在的硬件支點(diǎn)，一批此前止步于概念的機(jī)器人應(yīng)用，有望真正進(jìn)入開發(fā)和部署階段。
