首页 > 技术文章 > 线性规划笔记 2020.5.18

2944014083-zhiyu 2021-06-11 10:25 原文

        线性模型:想学一个预测模型(其实就是一个函数或者你叫一个映射),这么模型(函数)说白了就是属性之间的线性叠加。其形式大致如下:
在这里插入图片描述
        xi代表对象的第i个属性,wi代表第i个属性的权重,b是所谓的偏置。这儿要解释一下,如果我们的xi都归一化到[0, 1]之间的话,那么b就是所有属性都取0的时候我们对象的取值(这个一般无实际意义,你想嘛,我属性都取0,这个对象是个啥玩意),如果我们的xi都化为以均值为对称点的正态分布的的话(也叫标准化(均值为 0,标准差为 1)均值为0是把原来的正态分布平移均值个单位),那么b就是我们的属性全取均值时候对象的取值。我们要做的事就是确定权重和偏置。

        举个例子,我要预测西瓜的价格,每个西瓜有三个属性,大小,熟透程度,新鲜度。我把这三个属性都标准化,分别得到三个属性的均值,现在我有一个西瓜,它的大小是均值大小,熟透程度也是均值的程度,新鲜度也是均值。那么截距b就是这个西瓜的价格。

        怎么求解这个问题呢,求解最佳参数,需要一个标准来对结果进行衡量,为此我们需要定量化一个目标函数式, 我们是用了一种优化建模的方法,把原问题建模成一个求最值的问题,即我们求我们的m个预测值与m个真实值差距最小,此时的模型参数就是我们要求的最好参数。
在这里插入图片描述
        这个求最小值的问题未知数就是w和b,直接利用对未知数求偏导等于0来解决就好了
在这里插入图片描述
这是属性只有一个的情况,有多个属性类推到矩阵就好了。例如
                                                         \(y = wT X + b\)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

整个线性规划就讲完了,求解不重要,重要的是这种思想

推荐阅读