machine-learning - 做特征工程时如何确定新特征？

Question

我正在做一个项目，我需要构建一个神经网络模型来补偿车辆 GPS 造成的错误。我的数据集包含 4 个特征：纵向加速度、横向加速度、速度和偏航率我的输出是方位角（从假 GPS 坐标到真 GPS 坐标的北角）和假 GPS 坐标与真 GPS 坐标之间的距离。所以这是一个回归问题，我认为前馈神经网络可能会在这项任务中表现良好，但我正在努力实现一个可以适合我的数据的神经网络。我的模型在第一个 epoch 开始学习得很好，然后它停留在高损失值上，就像它无法再学习一样，它甚至无法过度拟合数据，我尝试了所有预处理方法和神经网络最佳实践，但没有帮助。我最后的想法是，数据可能有问题，或者我需要更多功能来完成这样的任务，所以我想做一些特征工程，那 s 为什么我想在这里问我如何才能做到这一点？我不知道这是否有意义，但我想也许我可以取加速度的导数并将其添加为特征，或者我可以取它的平方或速度的平方？所以我有很多想法，但我不确定该怎么做，我如何才能对此有所了解，所以我希望这里有人有经验可以帮助我。

PS：我的NN实现没有错误，因为我尝试仅在10个数据示例上运行我的模型，并且NN实现了映射这10个示例之间的关系，当我使用100-1000时也很好示例，但是当我采用 3000 多个示例时，NN 开始学习，然后它陷入了一些高损失值，这就是为什么我开始认为数据可能有问题或者我需要更多功能来做到这一点的原因

标签： machine-learningneural-networkregressionfeature-extractionfeature-engineering