InfiniCore

InfiniCore 是一个跨平台统一编程工具集，为不同芯片平台的功能（包括计算、运行时、通信等）提供统一 C 语言接口。目前支持的硬件和后端包括：

• CPU；
• CUDA
  • 英伟达 GPU；
  • 摩尔线程 GPU；
  • 天数智芯 GPU；
  • 沐曦 GPU；
  • 曙光 DCU；
• 华为昇腾 NPU；
• 寒武纪 MLU；
• 昆仑芯 XPU；

配置和使用

软件依赖

• XMake编译器

  XMake配置选项（XMAKE_CONFIG_FLAGS）以及含义

  • --omp=[y|n] 是否使用OpenMP，默认开启
  • --cpu=[y|n] 是否编译CPU接口实现，默认开启
  • --nv-gpu=[y|n] 是否编译英伟达GPU接口实现
  • --ascend-npu=[y|n] 是否编译昇腾NPU接口实现
  • --cambricon-mlu=[y|n] 是否编译寒武纪MLU接口实现
  • --metax-gpu=[y|n] 是否编译沐曦GPU接口实现
  • --moore-gpu=[y|n] 是否编译摩尔线程GPU接口实现
  • --sugon-dcu=[y|n] 是否编译曙光DCU接口实现
  • --kunlun-xpu=[y|n] 是否编译昆仑XPU接口实现

一键安装

在 script/ 目录中提供了 install.py 安装脚本。使用方式如下：

cd InfiniCore

python scripts/install.py [XMAKE_CONFIG_FLAGS]

手动安装

1. 项目配置

   • 查看当前配置

     xmake f -v

   • 配置 CPU（默认配置）

     xmake f -cv

   • 配置加速卡

     # 英伟达
     # 可以指定 CUDA 路径， 一般环境变量为 `CUDA_HOME` 或者 `CUDA_ROOT`
     xmake f --nv-gpu=true --cuda=$CUDA_HOME -cv
     
     # 寒武纪
     xmake f --cambricon-mlu=true -cv
     
     # 华为昇腾
     xmake f --ascend-npu=true -cv

2. 编译安装

   默认安装路径为 $HOME/.infini。

   xmake build && xmake install

3. 设置环境变量

   按输出提示设置 INFINI_ROOT 和 LD_LIBRARY_PATH 环境变量。

运行测试

运行Python算子测试

python test/infiniop/[operator].py [--cpu | --nvidia | --cambricon | --ascend]

一键运行所有Python算子测试

python scripts/python_test.py [--cpu | --nvidia | --cambricon | --ascend]

算子测试框架

详见 test/infiniop-test 目录

开发指南

代码格式化

本项目使用 scripts/format.py 脚本实现代码格式化检查和操作。

使用

python scripts/format.py -h

查看脚本帮助信息：

usage: format.py [-h] [--ref REF] [--path [PATH ...]] [--check] [--c C] [--py PY]

options:
  -h, --help         show this help message and exit
  --ref REF          Git reference (commit hash) to compare against.
  --path [PATH ...]  Files to format or check.
  --check            Check files without modifying them.
  --c C              C formatter (default: clang-format-16)
  --py PY            Python formatter (default: black)

参数中：

• ref 和 path 控制格式化的文件范围
  • 若 ref 和 path 都为空，格式化当前暂存（git added）的文件；
  • 否则
    • 若 ref 非空，将比较指定 commit 和当前代码的差异，只格式化修改过的文件；
    • 若 path 非空，可传入多个路径（--path p0 p1 p2），只格式化指定路径及其子目录中的文件；
• 若设置 --check，将检查代码是否需要修改格式，不修改文件内容；
• 通过 --c 指定 c/c++ 格式化器，默认为 clang-format-16；
• 通过 --python 指定 python 格式化器 black；