美邦天下科技出品
联系电话
扫描关注微信公众账号

扫一扫微信二维码

产品系列 安卓系统板 触摸屏组件定制 安卓应用设备 物联网组件 AI加速平台 GPU服务器 图标

>Hailo-8 模块<

产品简介

[ Hailo-8 边缘AI计算模块 ]

产品方案•AI加速平台产品及方案
hailo-8 ai加速卡
产品标签
边缘计算
ai加速卡
边缘计算盒子
边缘AI计算卡
产品方案详情

智能视频分析（IVA）已经渗透到各行各业的诸多应用中。虽然渗透增长很快，但在边缘设备中实施先进IVA时，开发的便捷性仍然是一大挑战。

Hailo-8™人工智能加速模块可用于增强启用人工智能的现有IVA应用，并用于智能视频分析解决方案的开发和原型，这得益于其功能：

    • 为边缘设备提供数据中心级别的性能，针对大多数系统形状因数提供开箱即用的被动热解决方案
    • 利用Hailo-8™ 26 TOPS或Hailo-8R™  13 TOPS计算能力，实现一流的实时性能
    • 行业领先的功率效率，典型功耗为5W
    • 相对于现有解决方案的最高成本效率 （TOPS/$）
    • 稳健的软件工具链支持最先进的深度学习模型和开箱即用的应用
    • 使用M.2标准或Mini PCIE标准模块，快速推向市场
    • 通过在本地处理所有深度学习模型，并仅将所捕获视频的部分（如果有的话）传输到云端，从而提高用户隐私

Hailo-8™ M.2 模块是一款用于AI应用的AI加速器模块，与NGFF M.2接口标准中的M、B+M和A+E的键位兼容。该AI模块基于每秒 26 兆次运算 (TOPS) 的 Hailo-8™ AI处理器，具有高功率效率。M.2 AI加速器配备了全部PCIe Gen-3.0 两通道接口（M键位模块使用4通道接口），可为边缘设备提供前所未有的AI性能。M.2模块可装备于市面上任何自带M.2插槽的边缘设备上，以实现在广泛细分领域执行实时低功耗的神经网络推理。利用Hailo强大的数据流编译器及其对标准AI架构的支持，用户可轻松地将他们的神经网络模型导入到Hailo-8中，并迅速向市场推出高性能的AI产品。

hailo8 M.2 AI加速器

Form Factor

M.2 Key M

M.2 Key B+M

M.2 Key A+E

AI Processor

Hailo-8™ AI processor with up to 26 TOPS and best-in-class power efficiency

Dimensions

22 x 42 mm
With breakable extensions to 22 x 60 and 22 x 80 mm

22 x 30 mm

Interface

PCIe Gen-3.0, 4 lanes (up to 32 Gbs)

PCIe Gen-3.0, 2 lanes (up to 16 Gbs)

Supported Frameworks

TensorFLow, TensorFlow Lite, ONNX, Keras, Pytorch

Supported OS

Linux, Windows

Certification

CE, FCC

计算性能对比数据：

Hailo-8™ M.2 AI Processor AI benchmarks

Hailo-8R™ Mini PCIe 模块是一款用于AI应用的AI加速器模块，与PCI Express Mini (mPCIe)键位兼容。Mini PCIe AI加速器可为边缘设备提供行业领先的AI性能 — 高达每秒 13 兆次的运算 (TOPS) 能力和行业领先的功率效率。该模块可装备于市面上任何自带mPCIe Full-Mini插槽的边缘设备上，以实现在广泛细分领域执行实时低功耗的神经网络推理。利用Hailo强大的数据流编译器及其对标准AI架构的支持，用户可轻松地将他们的神经网络模型导入到Hailo-8中，并迅速向市场推出高性能的AI产品。

hailo8 Mini-PCIe-2 ai加速卡
  • 性能：高达 13 TOPS
  • 一流的功率效率
  • 支持的框架：TensorFlow, TensorFlow Lite, Keras, PyTorch, ONNX
  • 键位： PCI Express Mini (mPCIe)
  • 尺寸：30 x 50.95 mm
  • 接口：PCIe Gen-3.0，单通道
  • 支持的操作系统：Linux、Windows（即将推出）
  • 认证：CE、FCC

Hailo-8™入门套件包括：

    • Hailo-8™M.2模块（M键、A+E键或B+M键）
    • 热管理套件包括金属方块、热垫和热胶带
    • 螺丝和螺丝刀
Hailos 8 M.2 Module Processor Chip AI starter kit includes the metal cubes, thermal pads, and thermal adhesive tape for thermal management
典型应用场景：

hailo8 ai加速卡应用
Hailo-8模块应用演示

Hailo-8交叉编译实例

  1. 编译hailo_pci.ko   
           i. 切换hailo pcie驱动目录

               cd $(Hailort)/Linux/Installer/platform/drivers/linux/pcie

           ii. 修改Makefile，將$(KERNEL_DIR)指向主板核心目录
               Hailo-8™配置1

          iii. 执行make clean;make all完成之后可在同目录得到ko
               Hailo-8™配置2
               Hailo-8™配置3

       2. 编译hailort_sources

              i. 切换cmake交叉编译目录。

                 cd $(Hailort)/Linux/Installer/platform/hailort_sources/hailort/libhailort/cmake/toolchains

             ii. 新增aarch64-ca53.cmake，内容如下图所示。
                Hailo-8™配置4
           
            iii. 切换hailort_sources目录。

                 cd $(Hailort)/Linux/Installer/platform/hailort_sources

            iv. 使用cmake编译。

                cmake -H. -Bbuild -DCMAKE_BUILD_TYPE=Release -DHAILO_SKIP_PYBIND=1 \

                -DHAILO_SKIP_UT=1 -DHAILO_BUILD_EXAMPLES=0 -DHAILO_TOOLCHAIN=linux.aarch64-ca53 && cmake --build build
               Hailo-8™配置5

          v. Hailo-8执行程序和函数库目录位置。
               Hailo-8™配置6

使用PCIE接口连接Hailo-8
          
   
   1.  PCIE设备列表
         Hailo-8™配置8
   
   2. 加载ko驱动
        Hailo-8™配置9
   
  3. 操作Hailo-8
       i. 读取Hailo-8版本
          Hailo-8™配置10
     
      ii. Hailo-8载入模型(ssd_mobilenet/yolov4_tiny/yolov5m)
          Hailo-8™配置11
          
          Hailo-8™配置12
          
          Hailo-8™配置13
Hailo-8 Github开发支持

更多信息请联系我们
hailo8 ai加速卡