GPU高性能編程CUDA實戰

譯者序　
序　
前言　
致謝　
作者簡介　
第1章　為什麼需要CUDA　
　1.1　本章目標
　1.2　並行處理的歷史
　1.3　GPU計算的崛起
　1.4　CUDA
　1.5　CUDA的應用
　1.6　本章小結
第2章　入門
　2.1　本章目標
　2.2　開發環境
　2.3　本章小結
第3章　CUDA　C簡介
　3.1　本章目標
　3.2第一個程序
　3.3　查詢設備
　3.4　設備屬性的使用
　3.5　本章小結
第4章　CUDA　C並行編程
　4.1　本章目標
　4.2　CUDA並行編程
　4.3　本章小結
第5章　線程協作
　5.1　本章目標
　5.2　並行線程塊的分解
　5.3　共享內存和同步
　5.4　本章小結
第6章　常量內存與事件
　6.1　本章目標
　6.2　常量內存
　6.3　使用事件來測量性能
　6.4　本章小結
第7章　紋理內存
　7.1　本章目標
　7.2　紋理內存簡介
　7.3　熱傳導模擬
　7.4　本章小結
第8章　圖形互操作性
　8.1　本章目標
　8.2　圖形互操作
　8.3　基于圖形互操作性的GPU波紋示例
　8.4　基于圖形互操作性的熱傳導
　8.5　DirectX互操作性
　8.6　本章小結
第9章　原子性
　9.1　本章目標
　9.2　計算功能集
　9.3　原子操作簡介
　9.4　計算直方圖
　9.5　本章小結
第10章　流
　10.1　本章目標
　10.2　頁鎖定主機內存
　10.3　CUDA流
　10.4　使用單個CUDA流
　10.5　使用多個CUDA流
　10.6　GPU的工作調度機制
　10.7　高效地使用多個CUDA流
　10.8　本章小結
第11章　多GPU系統上的CUDA　C
　11.1　本章目標
　11.2　零拷貝主機內存
　11.3　使用多個GPU
　11.4　可移動的固定內存
　11.5　本章小結
第12章　後記
　12.1　本章目標
　12.2　CUDA工具
　12.3　參考資料
　12.4　代碼資源
　12.5　本章小結
　附錄　高級原子操作

並行計算已成為突破摩爾定理局限性的重要研究方向，而GPU強大的並行計算能力也因此吸引了全球廣泛的研究興趣。然而，在實現通用並行計算時，GPU計算模式存在著一些限制。首先，GPU的設計初衷是為了加速應用程序中的圖形繪制運算，因此開發人員需要通過OpenGL或者DirectX等API來訪問GPU，這不僅要求開發人員掌握一定的圖形編程知識，而且要想方設法將通用計算問題轉換為圖形計算問題。其次，GPU與多核CPU在計算架構上有著很大不同，GPU更注重于數據並行計算，即在不同的數據上並行執行相同的計算，而對並行計算中的互斥性、同步性以及原子性等方面支持不足。這些因素都限制了GPU在通用並行計算中的應用範圍。

CUDA架構的出現解決了上述問題。CUDA架構專門為GPU計算設計了一種全新的結構，目的正是為了減輕GPU計算模型中的這些限制。在CUDA架構下，開發人員可以通過CUDA C對GPU編程。CUDA C是對標準C的一種簡單擴展，學習和使用起來都非常容易，並且其最大的優勢在于不需要開發人員具備圖形學知識。

本書的主要內容是介紹如何通過CUDA C來編寫在GPU上運行的並行程序。本書首先介紹TCUDA架構的應用背景，並給出了如何配置CUDA C的開發環境。然後，本書通過矢量求和運算、矢量點積運算、光線跟蹤、熱傳導模擬、直方圖統計等示例詳細介紹了CUDA C的基本語法和使用模式。在這些示例中還穿插介紹了GPU的各種硬件特性及適用環境，例如常量內存、事件、紋理內存、圖形互操作性、原子操作、流以及多GPU架構等。

這些示例的構思以及分析過程都很容易理解，它們也是本書最具價值的部分。讀者在閱讀這些內容時要反復思考，做到融會貫通，舉一反三。只要掌握了這些簡單的示例，更復雜的問題也能迎刃而解。本書適合所有程序員閱讀，只需具備基本的C語言知識即可。最後，本書還給出了CUDA C的其他一些參考資源。

參與本書翻譯工作的主要有李楊、吳漢平、徐光景、童勝漢、陳軍、胡凱等。由于譯者的時間和水平有限，翻譯中的疏漏和錯誤在所難免，還望讀者和同行不吝指正。