向量的内积外积哈达玛积

1.向量的内积

1.1 定义

从代数角度看，先对两个数字序列中的每组对应元素求积，再对所有积求和，结果即为点积。从几何角度看，点积则是两个向量的长度与它们夹角余弦的积。

表示形式：ATBA^TBATB、$<A,B>$

1.2 求解方式

代数形式

向量的内积(点乘/数量积)。对两个向量执行点乘运算，就是对这两个向量对应位一一相乘之后求和的操作，如下所示，对于向量a和向量b：

​ a⃗=[a1,a2,...an]\\vec a=[a_1,a_2,...a_n]a=[a1​,a2​,...an​] b⃗=[b1,b2,...bn]\\vec b=[b_1,b_2,...b_n]b=[b1​,b2​,...bn​]

a和b的点积公式为：
a⃗⋅b⃗=∑i=1naibi=a1b1+a2b2+...+anbn\\vec a·\\vec b=\\sum\\limits^n\\limits_{i=1}a_ib_i=a_1b_1+a_2b_2+...+a_nb_n a⋅b=i=1∑n​ai​bi​=a1​b1​+a2​b2​+...+an​bn​
这里要求一维向量a和向量b的行列数相同。注意：点乘的结果是一个标量(数量而不是向量)

举个栗子：

两个三维向量$\left[1,3,-5\right]$和$[4,-2,-1]$的点积是:

$\left[1,3,-5\right]\cdot [4,-2,-1]=1\ast 4+3\ast (-2)+(-5)\ast (-1)=4-6+5=3$

几何形式

在欧几里得空间中，点积可以直观地定义为:

​ a⃗⋅b⃗=∣a⃗∣∣b⃗∣cos⁡θ\\vec{a} \\cdot \\vec{b} = |\\vec{a}| \\, |\\vec{b}| \\cos \\theta \\;a⋅b=∣a∣∣b∣cosθ

这里 ∣x⃗∣|\\vec{x}|∣x∣ 表示x⃗\\vec{x}x的模(长度)，$\theta$ 表示两个向量之间的角度。

这样，两个互相垂直的向量的点积总是零。若a⃗\\vec{a}a和b⃗\\vec{b}b都是单位向量（长度为1），它们的点积就是它们的夹角的余弦。那么，给定两个向量，它们之间的夹角可以通过下列公式得到：
cos⁡θ=a⋅b∣a⃗∣∣b⃗∣\\cos{\\theta} = \\frac{\\mathbf{a \\cdot b}}{|\\vec{a}| \\, |\\vec{b}|} cosθ=∣a∣∣b∣a⋅b​

1.3 几何意义

​ A⃗⋅B⃗=∣A⃗∣∣B⃗∣cos⁡θ\\vec{\\mathbf A} \\cdot \\vec{\\mathbf B} = |\\vec{\\mathbf A}| \\, |\\vec{\\mathbf B}| \\cos \\theta \\;A⋅B=∣A∣∣B∣cosθ

欧氏空间中向量$\mathbf{A}$在向量$\mathbf{B}$上的标量投影是指:AB=∣A∣cos⁡θA_B=|\\mathbf A|\\cos\\thetaAB​=∣A∣cosθ

直观上看是：向量$\mathbf{A}$在向量$\mathbf{B}$的投影与$\mathbf{B}$的模相乘之后的大小。

两个向量越是相似，内积就越大(夹角就越小)。

Q：为什么在度量两个向量的相似度时，选择使用cos值，而不是向量的内积呢？

A：cos有归一化的作用

2.向量的外积

2.1 定义

两个向量的外积，又叫叉乘、叉积向量积，其运算结果是一个向量而不是一个标量。并且两个向量的外积与这两个向量组成的坐标平面垂直。

向量a与b的外积a×b是一个向量，其长度等于|a×b| = |a||b|sin∠(a,b)，其方向正交于a与b。并且，(a,b,a×b)构成右手系。

对于向量a和向量b：

​ a⃗=[x1,y1,z1],b⃗=[x2,y2,z2]\\vec a=[x_1,y_1,z_1], \\vec b=[x_2,y_2,z_2]a=[x1​,y1​,z1​],b=[x2​,y2​,z2​]

向量a和向量b外积公式为：
a×b=∣ijkx1y1z1x2y2z2∣=(y1z2−y2z1)i−(x1z2−x2z1)j+(x1y2−x2y1)ka \\times b = \\left| \\begin{array}{cccc} i & j & k \\\\ x_1 & y_1 & z_1\\\\ x_2 & y_2 & z_2 \\end{array} \\right|=(y_1z_2-y_2z_1)i-(x_1z_2-x_2z_1)j+(x_1y_2-x_2y_1)k a×b=​ix1​x2​​jy1​y2​​kz1​z2​​​=(y1​z2​−y2​z1​)i−(x1​z2​−x2​z1​)j+(x1​y2​−x2​y1​)k
其中$i=(1,0,0),j=(0,1,0),k=(0,0,1)$， 根据$i、j、k$间关系，有：
a×b=(y1z2−y2z1,−(x1z2−x2z1),x1y2−x2y1)a \\times b = (y_1z_2-y_2z_1,\\ -(x_1z_2-x_2z_1),\\quad x_1y_2-x_2y_1) a×b=(y1​z2​−y2​z1​, −(x1​z2​−x2​z1​),x1​y2​−x2​y1​)

2.2 向量外积的几何意义

在三维几何中，向量a和向量b的外积结果是一个向量，有个更通俗易懂的叫法是法向量，该向量垂直于a和b向量构成的平面。

在二维空间中，外积还有另外一个几何意义就是：|a×b|在数值上等于由向量a和向量b构成的平行四边形的面积。

3.向量的哈达玛积

两个相同形状的矩阵，输出是具有同样形状的、各个位置的元素等于两个输入矩阵相同位置元素的乘积的矩阵。

若两个矩阵A和B具有相同的维度$m\times n$，则它们的阿达玛乘积$ A\\circ B$是一个具有相同维度的矩阵，其元素值为：
(A∘B)ij=(A)ij(B)ij.{\\displaystyle (A\\circ B)_{ij}=(A)_{ij}(B)_{ij}.} (A∘B)ij​=(A)ij​(B)ij​.

4.总结

• 向量内积的结果为标量
• 向量内积的几何意义：向量$\mathbf{A}$在向量$\mathbf{B}$的投影与$\mathbf{B}$的模相乘之后的大小。
• 向量a和向量b的外积结果是一个向量(法向量)，该向量垂直于a和b向量构成的平面。
• 哈达玛积：基于矩阵(两个矩阵的维度完全相同) 对应位置元素相乘(卷积) element-wise product

本文仅作为个人学习记录所用，不作为商业用途，谢谢理解。

参考：https://zhuanlan.zhihu.com/p/348308540