本书重点介绍在DNN加速器内进行高效数据编排的技术。摩尔定律的终结，再加上深度学习和其他AI应用程序的不断增长，导致了定制的深度神经网络（DNN）加速器的出现，用于在边缘设备上进行节能推理。现代的DNN具有数百万个超级参数，涉及数十亿次计算。这需要从存储器到片上处理引擎的大量数据移动。众所周知，当今数据移动的成本已经超过了实际计算的成本。因此，DNN加速器需要仔细协调片上计算，网络和存储元素上的数据，以最大程度地减少对外部DRAM的访问次数。
　　本书涵盖了DNN数据流，数据重用，缓冲区层次结构，片上网络和自动设计空间探索。它以压缩和稀疏的DNN和未来趋势为数据编排挑战作了总结。目标受众是对设计用于DNN推理的高性能和低能耗加速器感兴趣的学生，工程师和研究人员。

图沙尔·克里希纳
　　佐治亚理工学院电子与计算机工程学院的助理教授。2014年，他获得了麻省理工学院电子工程和计算机科学博士学位。在此之前，他于2009年获得普林斯顿大学电子工程硕士学位，2007年在德里的印度理工学院（IIT）获得电子工程学士学位。在2015年加入佐治亚理工学院之前，他曾在马萨诸塞州英特尔VSSAD团队担任研究员。克里希纳博士的研究领域包括计算机体系结构、互联网络、芯片上网络（NoC）和深度学习加速器，重点是优化现代计算系统中的数据移动。他的三篇论文被IEEE Micro从计算机架构方面评选为最佳论文，还有一篇获得了荣誉奖，还有三篇获得了最佳论文奖。他在2018年获得了美国国家科学基金会（NSF） CRII奖，并在2019年获得了谷歌奖和Facebook奖。

Hyoukjun Kwon
　　Facebook AR/VR的一名研究科学家。在图沙尔·克里希纳的指导下，他于2020年获得了乔治亚理工学院的计算机科学博士学位。他于2015年获得首尔国立大学环境材料科学和计算机科学与工程的学士学位。他的研究兴趣包括以通信为中心的DNN加速器设计、DNN加速器架构建模与映射、加速器的NoC、DNN模型、映射与加速器架构的协同优化。他积极领导DNN加速器领域的多种开源工具和RTLs的开发，包括MAESTRO、MAERI、Microswitch NoC和OpenSMART。他的一篇论文被选为2019年IEEE Micro计算机架构的Top choice，一篇在2018年获得honorable mention，另一篇在HPCA 2020年获得最佳论文奖。

Angshuman Parashar
　　英伟达的高级研究科学家。他的研究兴趣是构建、评估和编程空间和数据并行架构，目前主要关注基于显式解耦数据编排的机器学习算法到架构的自动映射。在加入NVIDIA之前，他是英特尔VSSAD团队的一员，在那里他与一个由架构、语言、工作负载和实现方面的专家组成的小团队一起设计和评估一个新的空间架构。2007年，Parashar博士在宾夕法尼亚州立大学获得了计算机科学与工程博士学位，并获得了工学学士学位。2002年毕业于德里的印度理工学院计算机科学与工程专业。

迈克尔
　　NVIDIA的高级研究科学家。他的研究兴趣是建立领域特定的加速器，特别强调深度学习和稀疏张量代数。在加入英伟达之前，他是英特尔VSSAD团队的成员，在那里他从事定制空间加速器的研究和高级开发。佩洛尔博士在马萨诸塞州剑桥市的麻省理工学院获得博士学位（2010年），在瑞典哥德堡的查默斯理工大学获得硕士学位（2003年），在罗德岛州普罗维登斯的布朗大学获得学士学位（1999年）。

阿南达
　　佐治亚理工学院电子和计算机工程学院的博士生。他完成了学士学位。2013年，在印度阿拉哈巴德信息技术学院（IIIT-A）获得电子与通信工程（ECE）学位。在加入佐治亚理工学院之前，阿南德在高通班加罗尔公司（Qualcomm Bangalore）担任了三年的VLSI设计工程师。阿南达的研究兴趣包括为高效和深度学习系统设计定制架构。他在顶级计算机架构会议上发表了大量论文。他的两篇论文在2019年IEEE MICRO Top choice中获得了honorable mention，一篇论文在HPCA 2020中获得了最佳论文奖。他还获得了ASPLOS 2019年度ACM学生研究竞赛的银牌。

Introduction to Data Orchestration
Dataflow and Data Reuse
Buffer Hierarchies
Networks-on-Chip
Putting it Together: Architecting a DNN Accelerator
Modeling Accelerator Design Space
Orchestrating Compressed-Sparse Data
Conclusions
Bibliography
Authors' Biographies