高性能计算算法引擎：线性代数与异构计算的融合

【直击算力核心，打通理论到芯片的链路】本书从线性代数基础出发，系统阐释其与计算机体系结构（CPU、GPGPU、分布式）的深度关联，构建从数学原理到芯片级算法优化的完整知识图谱。

【深入剖析BLAS生态，覆盖主流硬件平台】全面详解高性能计算基石——BLAS库，涵盖OpenBLAS、cuBLAS/CUTLASS、OpenCL/CLBlast、Spark MLlib BLAS等核心实现，助读者掌握跨CPU、GPU及分布式集群的优化实践。

【聚焦异构计算，解锁AI算力瓶颈】紧密结合人工智能时代对算力的迫切需求，深入讲解如何在不同芯片架构（包括国产开源GPGPU项目）上优化线性代数计算，为AI模型训练与推理提供底层加速方案。

【产业界与学术界双重视角，兼具深度与广度】作者团队兼具研发实战与理论背景，内容不仅涵盖经典算法与架构分析，更融入对行业前沿（如后摩尔时代算力挑战）的思考，得到领域内院士及产业专家的联袂推荐。

【实战导向，提供从方法到案例的完整指引】通过矩阵乘法优化等具体案例，逐步展示算法优化方法（如RoofLine模型、访存优化、并行策略），并提供配套彩色插图与思维导图，降低高性能计算入门与实践门槛。

本书主要探讨线性代数与高性能计算之间的紧密联系，并着重介绍在芯片架构算法优化中如何应用BLAS库。本书分为四部分，共12章。第一部分从线性代数的基础知识开始介绍，逐步深入介绍矩阵运算、向量空间、线性变换以及特征值和特征向量等核心概念；第二部分主要介绍计算机体系结构及其衍生出来的多种处理芯片（CPU、GPGPU等）和分布式计算；第三部分主要介绍高性能计算数学库BLAS的基本概念和基础的实现思路，以及高性能计算数学库的实现框架，如OpenBLAS、CUDA（及其BLAS库，包括cuBLAS、CUTLASS）、OpenCL、CLBlast、Spark和Spark MLlib BLAS；第四部分主要介绍BLAS库在人工智能方面的应用。本书适合对线性代数和芯片架构算法优化感兴趣的读者阅读。无论是计算机相关专业的学生、高性能计算爱好者、算法工程师，还是希望进入高性能计算行业的人士，都能从中找到适合自己的学习内容。

赵先明

本硕博毕业于哈尔滨工业大学。曾任中兴通讯股份有限公司CTO、董事长和总裁。作为中兴通讯移动通信领域的主要技术负责人之一，参与了2G到5G相关技术的研发和产业化全过程。共获国家级奖项8项，省部级奖项12项。

邹晓虎

哈尔滨工业大学管理学博士、材料学博士后，哈尔滨工业大学兼职教授；具有深厚的热能工程、无机非金属材料专业技术知识，在国家级期刊公开发表文章15篇，拥有发明专利24项；在政、产、学、研、金、贸等诸多领域任职多年。

刘钧文

北京红山微电子技术有限公司基础线性代数算法库负责人，京东城市时空数据引擎（JUST）创始人之一，算法工程师。中国计算机学会（CCF）数据库专业委员会通讯委员。著有《CalcIte数据管理实战》《GeoTools地理信息系统开发》《GeoMesa时空数据管理》。

第一部分 线性代数前置知识

第1章 基础线性代数算法简介……………………………3

1.1 高性能计算…………………………………………3

1.2 高性能计算数学库…………………………………4

1.2.1 高性能计算数学库简介……………………4

1.2.2 高性能计算数学库分类……………………4

1.3 基础线性代数算法…………………………………7

1.3.1 稠密矩阵和稀疏矩阵………………………7

1.3.2 针对稠密矩阵的线性代数算法……………10

1.3.3 针对稀疏矩阵的线性代数算法……………10

1.4 本章小结……………………………………………10

第2章 数学基础…………………………………………12

2.1 线性代数的基本概念………………………………12

2.1.1 向量和向量空间……………………………12

2.1.2 行列式和矩阵………………………………13

2.1.3 线性方程组…………………………………14

2.1.4 矩阵的秩……………………………………15

2.2 矩阵乘法……………………………………………15

2.2.1 概述…………………………………………15

2.2.2 基于内积和外积的矩阵乘法………………17

2.2.3 矩阵乘法切分逻辑…………………………18

2.2.4 蛋糕模型……………………………………21

2.2.5 Strassen算法………………………………23

……