从图形渲染到机器学习：点积、叉积、内积、外积在实战项目里到底怎么用？
从图形渲染到机器学习：点积、叉积、内积、外积在实战项目里到底怎么用？
在计算机图形学的光照计算中，一个常见的需求是判断表面是否朝向光源。假设我们有一个表面法向量n和指向光源的方向向量l，使用点积运算n·l可以快速计算出两者夹角的余弦值。当结果大于0时，表面接收光照；小于0则处于阴影中。这种计算在Shader中高效实现的关键，正是点积的几何意义——投影长度的乘积。
1. 点积：从卡通渲染到推荐系统
1.1 图形渲染中的魔法公式
在Unity Shader中实现卡通风格的边缘光效果时，点积展现了其独特价值。通过计算视线方向v与法线方向n的点积，我们可以得到边缘检测的核心参数：
float edge = 1.0 - max(0, dot(v, n)); if (edge > 0.8) { color = lerp(color, rimColor, smoothstep(0.8, 1.0, edge)); }这个简单的公式之所以有效，是因为当视线与表面切线方向接近垂直时（即处于模型边缘），点积结果趋近于0，经过换算后edge值接近1，触发边缘高光效果。
1.2 机器学习中的相似度度量
在推荐系统领域，点积作为用户-物品交互矩阵的基本运算单元，支撑着协同过滤的核心逻辑。给定用户向量u和物品向量i，它们的点积u·i直接反映了匹配程度：
| 运算类型 | 计算复杂度 | 适用场景 |
|---|---|---|
| 点积相似度 | O(n) | 实时推荐 |
| 余弦相似度 | O(n) | 文本检索 |
| 欧氏距离 | O(n) | 聚类分析 |
提示：虽然余弦相似度在理论上更规范，但在大规模推荐系统中通常直接使用点积，因为归一化操作会增加计算开销。
2. 叉积：3D引擎的几何基石
2.1 法线计算与朝向判断
在加载OBJ模型文件时，经常需要根据顶点数据重新计算面法线。给定三角形三个顶点v0、v1、v2，通过叉积运算即可得到精确的法线方向：
def calculate_normal(v0, v1, v2): edge1 = v1 - v0 edge2 = v2 - v0 return np.cross(edge1, edge2)这个计算过程在3D建模工具和游戏引擎中无处不在，其物理意义是构建一个垂直于三角形平面的向量。在Unity的C#脚本中，同样的逻辑用于碰撞检测前的预处理：
Vector3 GetTriangleNormal(Vector3 a, Vector3 b, Vector3 c) { return Vector3.Cross(b - a, c - a).normalized; }2.2 物理引擎中的力矩计算
刚体动力学模拟离不开叉积的身影。当施加力F到距离质心r的位置时，产生的扭矩τ由叉积定义：
τ = r × F
这在Bullet、PhysX等物理引擎的底层实现中尤为关键。下表对比了不同物理量计算中的向量运算：
| 物理量 | 计算公式 | 运算类型 |
|---|---|---|
| 动能 | ½mv² | 标量运算 |
| 动量 | mv | 向量缩放 |
| 角动量 | r×p | 叉积运算 |
| 洛伦兹力 | q(v×B) | 叉积运算 |
3. 内积：支持向量机的数学内核
3.1 SVM中的决策边界
支持向量机的核心思想是寻找最优超平面，而内积空间的性质使其成为理想工具。给定特征向量x和权重向量w，决策函数可表示为：
f(x) = sign(〈w, x〉 + b)
其中内积运算〈·,·〉将高维特征映射到可分空间。使用核技巧时，内积的变体——核函数K(x,y)能够隐式处理非线性可分情况：
from sklearn.svm import SVC model = SVC(kernel='rbf') # 径向基核函数 model.fit(X_train, y_train)3.2 函数空间中的内积应用
在信号处理领域，L²空间的内积定义揭示了傅里叶变换的深层原理：
〈f,g〉 = ∫ f(x)g(x) dx
这个定义使得我们可以用线性代数的方法处理函数逼近问题。例如在图像压缩中，离散余弦变换(DCT)本质上是在特定内积空间下的基变换。
4. 外积：从词向量到注意力机制
4.1 词嵌入的关联矩阵
自然语言处理中，外积常用于构建词向量间的关联矩阵。给定词向量u和v，它们的外积u⊗v生成一个矩阵，可以捕获词语间的细粒度交互模式：
import numpy as np u = np.array([0.2, -0.5, 1.3]) # 词向量1 v = np.array([-1.0, 0.8, 0.4]) # 词向量2 outer = np.outer(u, v)这个技术在早期词向量可视化工具中广泛应用，现在仍是分析词嵌入关系的有效手段。
4.2 注意力机制中的计算核心
Transformer架构中的自注意力机制，本质上是查询(Query)、键(Key)、值(Value)三个矩阵的复合运算。其中关键的一步计算注意力权重：
Attention(Q,K,V) = softmax(QKᵀ/√d)V
这里的矩阵乘法QKᵀ可以视为批量外积运算，建立了查询与键之间的关联强度。在PyTorch实现中，这个过程被高度优化：
attn_scores = torch.matmul(q, k.transpose(-2, -1)) / math.sqrt(dim) attn_probs = F.softmax(attn_scores, dim=-1) output = torch.matmul(attn_probs, v)实际调试模型时，外积运算的数值特性直接影响梯度传播效果。经验表明，当维度d较大时，必须加入缩放因子1/√d来保持数值稳定性。