首页 > 解决方案 > 用于自动编码器 (NPCA) 编码的强制正交性的损失函数

问题描述

我已经实现了一个自动编码器,它应该实现主成分分析的非线性版本。模型的输入和输出是具有 n 个特征的相同数据集,我对维度 d<n 的编码感兴趣。为了概括主成分分析,我想要一个由 d 个几乎线性独立的向量组成的编码,但是如果我使用损失函数“mse”,我会得到例如 d=2 两个看起来几乎相同的向量。

从理论上讲,我可以使用一个损失函数,包括一个相似且远非独立的向量的惩罚项。但这意味着有一个损失函数,它不仅使用单个样本的信息,也不是来自输出,而是来自中间层的信息。

由于我正在使用 Keras:任何人都可以给我提示或参考,我如何在 Keras 中解决这个问题?

标签: kerasautoencoderlossorthogonal

解决方案


推荐阅读