矩阵运算的基础与优化
1. 向量运算
向量运算在数学和计算机科学中是基础且重要的操作,下面将详细介绍向量加法、多个向量求和以及矩阵与向量乘法等相关内容。
1.1 向量加法
对于向量 $x$ 和 $y$,它们的和 $z = x + y$ 是按分量进行计算的。以下是其伪代码实现:
loop i=1 to n (in parallel) zi ← xi + yi; end loop这个操作可以并行化,其复杂度为使用 $n$ 个处理器时,时间复杂度为 $O(1)$。
1.2 多个向量求和
假设有 $n$ 个 $m×1$ 的向量,要计算它们的和 $y = x_1 + x_2 + \cdots + x_n$,其中 $x_i$ 是 $m$ 维向量 $x_i = [ x_{i1}, x_{i2}, \cdots, x_{im} ]^T$。计算过程如下:
loop i=1 to n (in parallel) dot_i ← 0; loop j=1 to m dot_i ← dot_i + x_ij; end loop yi ← dot_i; end loop内层循环是对每个分量的求和计算,不能并行化,但每个分