并行计算 结构·算法·编程PDF|Epub|txt|kindle电子书版本网盘下载

并行计算 结构·算法·编程PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第一篇　并行计算硬件基础3

第一章　并行计算机系统及其结构模型3

1.1　并行计算4

1.1.1　并行计算与计算科学4

1.1.2　当代科学与工程问题的计算需求4

1.2　并行计算机系统互连8

1.2.1　系统互连8

1.2.2　静态互连网络9

1.2.3　动态互连网络13

1.2.4　标准互连网络17

1.3　并行计算机系统结构22

1.3.1　并行计算机结构模型22

1.3.2　并行计算机访存模型26

1.3.3　并行计算机存储组织30

1.4　小结和导读34

习题35

第二章 当代并行计算机系统介绍39

2.1　共享存储多处理机系统40

2.1.1　对称多处理机SMP结构特性40

2.1.2　CC-NUMA Origin 2000超级服务器41

2.2　分布存储多计算机系统48

2.2.1　大规模并行处理机MPP结构特性49

2.2.2 ASCI Option Red MPP系统53

2.3　机群系统57

2.3.1　大规模并行处理系统MPP机群SP258

2.3.2　工作站机群COW64

2.3.3 Berkeley的NOW计划68

2.4　小结和导读73

习题75

第三章　并行计算性能评测77

3.1　并行计算机的一些基本性能指标78

3.1.1 CPU和存储器的某些基本性能指标78

3.1.2　通信开销80

3.1.3　机器的成本、价格与性能／价格比81

3.2.1 Amdahl定律83

3.2　加速比性能定律83

3.2.2 Gustafson定律84

3.2.3 Sun和Ni定律86

3.2.4　有关加速的讨论87

3.3　可扩放性评测标准88

3.3.1　并行计算的可扩放性88

3.3.2　等效率度量标准89

3.3.3　等速度度量标准90

3.3.4　平均延迟度量标准92

3.3.5　有关可扩放性标准的讨论94

3.4　基准测试程序95

3.4.1　基本的测试程序95

3.4.2　数学库测试程序96

3.4.3　并行测试程序97

3.5　小结和导读98

习题99

第二篇 并行算法的设计103

第四章　并行算法的设计基础103

4.1.1　并行算法的定义和分类104

4.1　并行算法的基础知识104

4.1.2　并行算法的表达105

4.1.3　并行算法的复杂性度量105

4.1.4　并行算法中的同步与通信107

4.2　并行计算模型108

4.2.1 PRAM模型109

4.2.2　异步PRAM模型110

4.2.3 BSP模型111

4.2.4 logP模型113

4.2.5　对BSP和logP的评注115

4.3　小结和导读117

习题118

第五章　并行算法的一般设计策略123

5.1　串行算法的直接并行化124

5.1.1　设计策略描述124

5.1.2　快排序算法的并行化124

5.2　从问题描述开始设计并行算法127

5.2.1　串匹配算法127

5.2.2 KMP串行串匹配算法128

5.2.3　并行串匹配算法的设计思路130

5.3　借用已有算法求解新问题131

5.3.1　设计策略描述131

5.3.2　利用矩阵乘法求所有点对间最短路径132

5.4　小结和导读135

习题136

第六章　并行算法的基本设计技术139

6.1　划分设计技术140

6.1.1　均匀划分技术140

6.1.2　方根划分技术141

6.1.3　对数划分技术142

6.1.4　功能划分技术143

6.2　分治设计技术144

6.2.1　双调归并网络145

6.2.2　凸壳问题146

6.3.1　求取最大值149

6.3.2　计算前缀和149

6.3　平衡树设计技术149

6.4　倍增设计技术151

6.4.1　表序问题的计算151

6.4.2　求森林的根152

6.5　流水线设计技术153

6.5.1　一维心动阵列上的DFT计算154

6.5.2　一维心动阵列上的卷积计算155

6.6　小结和导读156

习题158

第七章　并行算法的一般设计过程160

7.1 PCAM设计方法学161

7.2　划分162

7.2.1　域分解162

7.2.2　功能分解163

7.2.3　划分判据163

7.3　通信164

7.3.1　局部通信164

7.3.2　全局通信166

7.4　组合167

7.3.3　非结构化、动态和异步通信167

7.3.4　通信判据167

7.4.1　增加粒度168

7.4.2　保持灵活性和减少软件工程成本170

7.4.3　组合判据171

7.5　映射171

7.5.1　负载平衡算法172

7.5.2　任务调度算法173

7.5.3　映射判据174

7.6　小结和导读174

习题175

第三篇 并行数值算法183

第八章　基本通信操作183

8.1　选路方法与开关技术184

8.1.1　选路方法184

8.1.2　开关技术186

8.3　一到多播送188

8.3.1　使用SF进行一到多播送188

8.2　单一信包一到一传输188

8.3.2　使用CT进行一到多播送190

8.4　多到多播送191

8.4.1　使用SF进行多到多播送192

8.4.2　使用CT进行多到多播送193

8.5　小结和导读195

习题197

第九章　稠密矩阵运算201

9.1.2　棋盘划分202

9.1　矩阵的划分202

9.1.1　带状划分202

9.2　矩阵转置204

9.2.1　棋盘划分的矩阵转置204

9.2.2　带状划分的矩阵转置207

9.3　矩阵-向量乘法208

9.3.1　带状划分的矩阵-向量乘法208

9.3.2　棋盘划分的矩阵-向量乘法210

9.4.1　简单并行分块乘法212

9.4　矩阵乘法212

9.4.2 Cannon乘法214

9.4.3 Fox乘法217

9.4.4 DNS乘法217

9.5　小结和导读222

习题223

第十章　线性方程组的求解226

10.1　三角形方程组的求解227

10.1.1　基本术语227

10.1.2　上三角方程组的求解228

10.2　三对角方程组的求解230

10.2.1　三对角方程组直接求解法230

10.2.2　三对角方程组奇偶归约求解法231

10.3　稠密线性方程组的求解233

10.3.1　有回代的高斯消去法233

10.3.2　无回代的高斯-约旦法237

10.3.3　迭代求解的高斯-赛德尔法239

10.4.1　稀疏矩阵的存储方式241

10.4　稀疏线性方程组的求解241

10.4.2　雅可比迭代法243

10.4.3　高斯-赛德尔迭代法247

10.4.4　超松弛迭代法249

10.4.5　多重网格法249

10.4.6　共轭梯度法251

10.5　小结和导读256

习题257

第十一章　快速傅里叶变换260

11.1　离散傅氏变换261

11.1.1　预备知识261

11.1.2　离散傅里叶变换262

11.1.3　离散傅里叶逆变换263

11.1.4　离散傅氏变换的蝶式计算264

11.2　快速傅氏变换串行算法266

11.2.1 串行FFT迭代算法266

11.2.2　串行FFT递归算法267

11.3.1 SIMD-MC2上FFT算法270

11.3　并行FFT算法270

11.3.2 SIMD-BF上FFT算法272

11.3.3 SIMD-CC上FFT算法274

11.3.4 MIMD-DM上FFT算法275

11.4　小结和导读279

习题280

第四篇　并行程序设计285

第十二章　并行程序设计基础285

12.1.1　串行程序设计与并行程序设计286

12.1　并行程序设计概述286

12.1.2　并行程序设计环境与工具287

12.1.3　并行程序设计方法288

12.1.4　并行编程风范290

12.2　进程291

12.2.1　进程的基本概念291

12.2.2　进程的并行执行294

12.2.3　进程的相互作用295

12.3.1　线程的基本概念297

12.3　线程297

12.3.2　线程的管理298

12.3.3　线程的同步299

12.4　同步299

12.4.1　原子与互斥300

12.4.2　高级同步结构300

12.4.3　低级同步原语302

12.5　通信303

12.5.1　影响通信系统性能的因素304

12.5.2　低级通信支持305

12.5.3 TCP/IP通信协议组简介307

12.6　并行程序设计模型310

12.6.1　计算π样本程序310

12.6.2　隐式并行模型311

12.6.3　数据并行模型313

12.6.4　消息传递模型314

12.6.5　共享变量模型315

12.6.6　并行程序设计模型比较317

12.7　小结和导读318

习题319

第十三章 共享存储系统并行编程322

13.1　基于共享变量的共享存储并行编程323

13.1.1　共享存储并行编程的基本问题323

13.1.2　共享存储编程环境324

13.2　早期共享存储并行编程模型324

13.2.1 ANSI X3H5共享存储模型324

13.2.2 POSIX线程模型327

13.3 OpenMP编程简介328

13.3.1 OpenMP概述329

13.3.2 OpenMP编程风格329

13.3.3 OpenMP编程要素330

13.3.4 OpenMP计算实例339

13.3.5　运行库例程与环境变量341

13.4　小结和导读341

习题342

附录　OpenMP运行库例程345

第十四章　分布存储系统并行编程348

14.1　基于消息传递的并行编程349

14.1.1 SPMD并行程序349

14.1.2 MPMD并行程序350

14.2 MPI并行编程351

14.2.1　最基本的MPI352

14.2.2　群体通信355

14.2.3　通信体357

14.2.4　导出数据类型358

14.2.5　点到点通信359

14.3 PVM并行编程364

14.3.1 PVM概貌365

14.3.2 PVM消息传递库365

14.4　基于数据并行的并行编程368

14.4.1　数据并行模型的特点368

14.4.2　数据并行编程的基本问题369

14.5 HPF并行编程370

14.5.1　HPF的语言特点370

14.5.2　HPF的数据并行机制371

14.5.3　HPF使用中的若干问题375

14.6　小结和导读378

习题379

附录一 MPI的函数的C语言说明384

附录二　MPI的函数的Fortran语言说明386

第十五章　并行程序设计环境与工具389

15.1　软件工具与环境390

15.1.1　编码工具390

15.1.3　集成工具391

15.1.2　软件工程工具391

15.1.4　将来的工具与环境392

15.2　并行编译器393

15.2.1　编译及其并行化394

15.2.2　相关分析396

15.2.3　代码优化398

15.2.4　代码生成403

15.3　并行程序调试403

15.3.1　并行程序调试的方法与步骤404

15.3.2　并行程序的调试技术406

15.3.3　并行程序的性能调试407

15.4　并行程序性能分析408

15.4.1　并行程序的性能预测408

15.4.2　并行程序的性能监控410

15.4.3　并行程序的性能可视化411

15.5　图形化并行程序集成开发环境413

15.5.1　并行程序的可视化设计环境与工具413

15.5.3 GRADE中开发并行程序过程414

15.5.2　图形应用开发环境GRADE的组成414

15.6　小结和导读416

习题417

算法索引420

表格索引422

示范程序索引423

参考文献424

并行与分布计算Web网址434

专业术语中英对照及索引440