视频字幕
KNN回归模型是一种简单而有效的机器学习算法。它的核心思想是：对于一个新的数据点，我们找到训练集中与它最相似的K个邻居，然后用这些邻居的目标值的平均值来预测新数据点的输出。这种方法不需要建立复杂的数学模型，而是直接利用已有的训练数据进行预测。
KNN算法的第一步是计算距离。我们使用欧氏距离公式计算新数据点与每个训练点之间的距离。然后按距离从小到大排序，选择前K个最近的邻居。这里我们设K等于3，可以看到黄色标记的就是距离红色新数据点最近的3个训练点。
找到K个最近邻居后，我们需要计算预测值。对于回归问题，我们将这K个邻居的目标值进行平均。在这个例子中，3个最近邻居的目标值分别是5、3和4，它们的平均值是4，这就是我们对新数据点的预测结果。绿色点表示最终的预测位置。
K值的选择对KNN算法的性能有重要影响。当K等于1时，算法只考虑最近的一个邻居，容易受到噪声影响。随着K值增加，预测会更加平滑稳定。但K值过大时，可能会包含太多远距离的点，导致预测不够准确。我们来看看不同K值下预测结果的变化。
总结一下KNN回归模型的特点。它的优点包括算法简单易懂、无需训练过程、适用于非线性问题。但也有一些缺点，比如计算复杂度高、对高维数据敏感、需要大量存储空间。KNN回归广泛应用于推荐系统、图像识别、房价预测等领域。右图展示了KNN回归生成的预测曲线，可以看出它能够很好地拟合局部数据模式。