AISystem 开源课:AI 系统全栈技术一篇讲透

发布时间:2026/10/28 18:37:10
AISystem 开源课:AI 系统全栈技术一篇讲透

AISystem 开源课:AI 系统全栈技术一篇讲透

【免费下载链接】AISystemAISystem 主要是指AI系统,包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术项目地址: https://gitcode.com/GitHub_Trending/ai/AISystem

AISystem(AI System)是一套把 AI 全栈技术自底向上讲透的开源课程,覆盖 AI 芯片、编译器、推理引擎和训练框架。多数算法教程止步于"怎么调框架",而它恰好补上了模型之下的那一层:计算跑在什么硬件上、算子如何变成可执行代码、推理慢了该从哪下手。

它补上的,是算法与硬件之间的断层

课程作者曾主导 MindSpore 训练框架与 MindSpore Lite 推理引擎的开发,长期深耕 AI 基础软件。日常学习里不难发现:讲算法和框架 API 的资料很多,讲系统层的中文材料却很少,而这正是企业、高校从头培养工程师时最卡的一环。

课程把这条断层补上了。它不教你写模型,而是讲清"模型 → 框架 → 编译器 → 芯片"这台机器如何运转、每一层的设计取舍在哪里。内容已被采用为关键领域《人工智能系统架构》硕博课程的配套教材,并在高校开课试行。

🗺️ 内容地图:五大模块,从芯片一路讲到框架

仓库目录就是课程大纲,五大模块各管一段:

  • 01Introduction 概述:全栈架构图与设计方法论,先建立整体坐标系
  • 02Hardware 硬件:CPU、GPU、NPU 芯片基础,NVIDIA Tensor Core 与 NVLink 深度剖析,外加谷歌 TPU、特斯拉 DOJO 和昇腾、寒武纪等国内外芯片,硬件章节资料与脑图
  • 03Compiler 编译:从 GCC、LLVM 等传统编译器讲起,进入 AI 编译器的架构与前后端优化——前端做算子融合、内存排布,后端做 Kernel 与 AutoTuning,最后落到 PyTorch 2.0 的 Dynamo 实战
  • 04Inference 推理:最贴近业务的一章,推理引擎架构梳理、MobileNet 等轻量网络、量化/剪枝/蒸馏/二值化的压缩四件套、模型转换与图优化,一直讲到 Kernel 层
  • 05Framework 框架:自动微分、计算图,以及大模型并行训练的关键技术

想要更细的脉络,每章目录里都附有脑图,例如硬件章这张:

上手路径:三种学法,对号入座

不必从头读到尾,仓库按章节组织,可直接切入。

  • 先建全局:读概述章,再看各章脑图,标出自己卡住的层次,然后回 PPT 精读
  • 硬件/系统背景:硬件 + 编译两章是主线,两者衔接最紧
  • 算法工程师做部署:直接跳推理和框架章,"模型训出来却跑不起来"的问题大多能在这里找到答案

一个实用提醒:仓库包含全部 PPT、PDF 和幻灯片源文件,整体约 10G,完整克隆会比较慢,按目录查阅、取用所需章节更高效:

git clone https://gitcode.com/GitHub_Trending/ai/AISystem

谁适合学,从哪一章切入

课程面向高年级本科生、硕博研究生和 AI 系统从业者,读者大致分三类:

  • 学生:当专业选修补修,按"概述 → 硬件 → 框架"的顺序最平缓
  • AI 基础设施工程师:按岗位取章,Tensor Core、推理引擎章节都可独立读
  • 算法工程师:从自动微分和推理章切入,先弄懂自己调用的算子去了哪里

建议的第一步:打开概述章,把当前卡住的栈层标出来,再钻进对应章节的 PPT,比从头顺序读完快得多。

【免费下载链接】AISystemAISystem 主要是指AI系统,包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术项目地址: https://gitcode.com/GitHub_Trending/ai/AISystem

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考