网站建设讲话,360浏览器最新版本下载安装,海南注册公司需要什么条件,系统网站开发欧氏内积#xff08;Euclidean Inner Product#xff09;是n维欧几里得空间#xff08;ℝ#x1d45b;#xff09;中定义的一种基础运算#xff0c;通常称为点积或数量积。它将两个向量映射为一个标量#xff0c;计算规则为对应分量乘积之和#xff0c;即⟨#x1d46…欧氏内积Euclidean Inner Product是n维欧几里得空间ℝ中定义的一种基础运算通常称为点积或数量积。它将两个向量映射为一个标量计算规则为对应分量乘积之和即⟨,⟩1。该内积满足对称、正定、数乘和可加性用于定义向量的长度、角度和距离。关键特性与定义定义对于向量(1,2,…,) 和(1,2,…,)欧氏内积即标准点积⟨,⟩1122…物理/几何意义内积⋅ 等于 的模长度与 在 方向上投影的乘积也可表示为⋅‖‖‖‖cos其中 是向量间夹角。性质对称性⟨,⟩⟨,⟩正定性⟨,⟩≥0且⟨,⟩0 当且仅当0线性⟨,⟩⟨,⟩⟨,⟩几何应用长度范数夹角cos⟨,⟩‖‖‖‖距离(,)‖−‖(−)2欧氏内积在几何、物理及机器学习中的特征向量计算中起着基础性作用。我先按图里的几条“线索”把欧氏内积讲清楚它既是投影长度也是“对齐程度×长度缩放”。1) 欧氏内积是什么对欧氏内积点积定义为它是一个标量有正负号。2) 图中最核心的几何意义投影上半部分的大图在里画了两根向量 x灰/黑和 y黑并画了从 y 到 x 方向的垂足那个直角符号。关键公式是其中 θ 是 x 与 y 的夹角。当 x 是单位向量∥x∥1时这正是y 在 x 方向上的“有符号投影长度”。图里沿着 x 那条斜线标出来的那段长度就是旁边直接写了。直角投影说明你把 y 垂直“摁”到 x 所在直线上落点到原点的距离带符号就是内积。符号怎么理解θ90∘同向分量为正θ90∘正交θ90∘反向分量为负3) 图里蓝色“拖拽”在表达什么蓝色箭头写着 “Same stretching (parallel) … with length”同样的伸缩/平移。它想强调两点向量可以平移不变形把 y 平移到以 x 端点为起点的位置图中蓝色平行移动投影长度不变——内积只取决于方向与长度不取决于你画在平面哪里。内积对“沿 x 方向的分量”做测量蓝色标出的最终那段长度就是“把 y 拉到 x 方向上能得到多少”。图中的粉色点 v在 y 的方向上配合“unit ball”的圆直观上是在告诉你用“单位长度”的 x 做尺子去量 y 在 x 方向上到底有多长就是。4) 下方三幅小图∥x∥ 影响“缩放倍数”下排分别画了∥x∥21∥x∥21∥x∥21这是在强调(y 在 x 单位方向上的投影长度)也就是x 更短∥x∥1同样的对齐程度内积数值更小“尺子更短量出来更小”。x 是单位向量∥x∥1内积就是纯投影长度。x 更长∥x∥1同样的对齐程度内积被放大“尺子更长量出来更大”。5) 扩展到/ 更高维右上角的小 3D 图写着在更高维同样成立。原因是无论在几维里x 和 y 张成的空间最多是一个二维平面内积的几何关系夹角、投影都可以在这个平面里看跟完全同构。一句话总结欧氏内积 “y 沿 x 方向的有符号投影长度” × “∥x∥ 的缩放”。它衡量两向量有多同向cos⁡θ以及各自有多长∥x∥∥y∥。我们在这张图的基础上再“往下挖”三层投影公式怎么从内积推出来、为什么它能当“相似度”、以及在机器学习/矩阵里它具体干什么用。6) 从内积推出“投影向量”公式不仅是投影长度图里标的是投影长度当 ∥x∥1 时。更一般地我们关心的是y 在 x 方向上的那一整段“影子向量”到底是什么设投影向量是它一定跟 x 同方向所以可以写成关键是找 α。投影的定义是误差 y−αx与 x 正交图里的直角符号就是这个意思展开所以如果 ∥x∥1那么就变成此时“投影长度”就是跟你图里一致。7) 为什么内积能表示“对齐程度”——把长度因素剥离出来图里给了但它同时受角度和长度影响很多时候我们只想要“方向是否一致”不想被长度干扰于是用余弦相似度直观解释跟图对上内积 “把 y 沿 x 方向的分量拿出来” × “∥x∥ 的缩放”再除以 ∥y∥∥x∥就只剩“纯对齐” cos⁡θ8) 正交内积为 0到底意味着什么这在图上就是投影点落在原点投影长度 0。更“实用”的理解x 方向上完全没有 y 的分量用 x 作为“测量尺”测不到 y 在该方向上的任何成分在数据里经常等价于“互不干扰/不相关”注意统计“零相关”是更强条件和几何正交相关但不完全等同9) 一个超关键的不等式内积不会“乱跑”柯西-施瓦茨图里下方强调了 ∥x∥ 会放大/缩小内积。那它的上界是什么等号何时成立——当且仅当 y 与 x 共线完全同向或反向。这跟图的直觉一致**最“对齐”**时投影长度达到最大就是 ∥y∥∥x∥越偏离cos⁡θ 越小内积越小10) 跟“距离/平方长度”的关系内积是最常用的展开工具欧氏范数的平方可以用内积写两点距离平方这条在机器学习里非常常用最小二乘、K-means、SVM 的间隔计算…都离不开这类展开你会反复看到 xTyx^{\mathsf T}yxTy 出现在“距离”和“相似度”的中间地带11) 内积的“线性”特性为什么它像一个测量仪器内积对每个输入都是线性的准确说是双线性这意味着把看成一个“测量器”它在不同方向上的读数会按比例叠加。所以你图里“把 y 拖到 x 方向量长度”的直觉其实对应了一个很深的观点固定 yyy函数是一个线性函数线性形式就是“用 y 去读 x”。12) 数值例子把“投影长度/正负/缩放”一次看懂取内积投影长度y 在 x 方向上的有符号长度是​投影向量是也就是说这个例子里 y 在 x 方向上的“影子向量”刚好等于 x 本身很直观y 在 x 方向的分量挺大。如果把 yyy 换成那么投影长度变负表示“主要沿 x 的反方向”。