/朝聞通/邊緣人工智能處理器領域的芯片制造商Hailo近日宣布,其第二代具備生成式人工智能功能的人工智能加速器Hailo-10H現已正式投入商用。自即日起,全球客戶可從Hailo官方網站下載相關軟件,并訂購Hailo-10H。此舉标志着首款原生支持邊緣生成式人工智能工作負載、開放市場采購的獨立人工智能處理器正式問世,這一成果備受業界期待。
基于公司第一代人工智能加速器Hailo-8的成功經驗,Hailo-10H在視覺人工智能任務中展現出行業領先性能,同時新增了生成式人工智能能力,并首次實現在設備端完全運行大型語言模型(LLMs)、視覺語言模型(VLMs)以及其他生成式人工智能模型,無需依賴雲端連接。這一功能上的重大突破,憑借成本效益和能效優勢,将強大的生成式人工智能引入邊緣設備,使Hailo-10H成為個人電腦、汽車、電信、零售、安防等多個領域産品開發者的變革性解決方案。
Hailo聯合創始人兼首席執行官Orr Danon表示:“随着Hailo-10H開啟訂購,我們向‘讓人工智能觸手可及’的使命又邁出了重要一步。這是首款将真正的生成式人工智能性能引入邊緣的獨立人工智能處理器,集高效性能、經濟成本和強大的軟件生态系統于一身。”
Hailo-10H與Hailo成熟且廣泛應用的軟件棧實現全面兼容,同時得到每月超1萬活躍用戶的全球開發者社區全力支持。借助這些優勢,它使開發者能夠在邊緣設備上直接運行先進的視覺和生成式人工智能模型,實現超低延遲的實時響應效果。
借助本地數據處理的模式,個人身份信息始終留存于設備端,Hailo-10H能夠提供強有力的數據隐私保護。與此同時,它通過削減雲端帶寬使用,降低對高成本雲端人工智能服務訂閱的依賴,大幅降低了整體系統成本。尤為關鍵的是,該人工智能可在無需雲端連接的情況下獨立運行,即便處于互聯網接入受限或無互聯網接入的環境中,也能确保持續可用。
Hailo-10H專為消費者、企業和汽車市場的邊緣設備設計,其應用範疇涵蓋媒體中心、家庭網關和汽車座艙系統等。該産品能夠支持自然語言人機交互、視覺感知和多模态人工智能等高級應用,在典型邊緣環境的功耗和成本限制條件下,實現無縫流暢運行。
在性能測試中,Hailo-10H在生成式工作負載方面表現出色。以多種擁有20億參數的語言和視覺語言模型為例,其首次生成token(詞元)的延遲低于1秒,且每秒能夠生成超過10個token(詞元)。在視頻分析領域,Hailo-10H支持在實時4K視頻流上運行先進的物體檢測算法(如YOLOv11m)。所有這些功能均在僅2.5瓦的功耗條件下實現,這使其成為緊湊、高效人工智能系統的理想選擇。此外,Hailo-10H已通過AEC-Q100 2級标準認證,适用于2026年起投入生産的汽車設計。
随着Hailo-10H正式開啟訂購,Hailo将持續引領邊緣人工智能領域的發展,重新定義智能計算的未來,讓智能計算觸手可及。若您有意向将Hailo-10H集成至下一代産品中,敬請訪問Hailo官網網站。
關于
專注于人工智能的芯片制造商Hailo正在開發能夠在邊緣設備上實現數據中心級性能的專用人工智能處理器。Hailo的處理器是對傳統計算機架構進行重新思考的産物,使智能設備能夠以最小的功耗、尺寸和成本執行複雜的深度學習任務,如實時目标檢測和實時分割。這些處理器旨在适應多種智能機器和設備,影響包括汽車、安全、工業4.0和零售在内的各個領域。