python - 解码后的Encoder-Decoder噪声问题
问题描述
我有一个大小为 (12960, ) 的数组,我正在使用非常简单的密集自动编码器架构来重现数组,如下所示。
input_img = Input(shape=(12960,))
encoded = Dense(units=2000, activation='relu')(input_img)
decoded = Dense(units=12960, activation='relu')(encoded)
现在我使用 20 epoch 和 64 batch size 来训练模型。
但是当我在解码后绘制数组时,我在很多地方都会得到某种噪声(或 0 值)。我在下面附上了原始和解码的图像。有人可以解释一下为什么会这样。我是深度学习的新手,所以我不太了解它的工作原理。是因为我使用的是非常简单的架构,还是在编码时压缩了很多?
解决方案
尝试使用 LeakyReLU 而不是 ReLU。
可能是因为 ReLU 被定义为ReLU(x) = max(0, x)
,所以对于负值 ReLU 总是返回 0。
推荐阅读
- jquery - 光滑的滑块在动态时仅显示一个点
- symfony - 在 \Doctrine\Common\Persistence 中找不到方法 getconnection
- c - 如何让我的 C 编辑器支持 Intellij 键盘映射?
- hibernate - “未能延迟初始化角色集合”
- json - SQL - UTF-8 到 varchar/nvarchar 编码问题
- react-native - React-Native Expo & loadassetasync()
- angular - Angular 应用程序中的动态 routerLink 未返回正确结果
- php - 无法访问 Strava API oAuth 进程令牌交换页面
- command-line-arguments - 是否有用于短期权处理的 %*SUB-MAIN-OPTS 对?
- symfony - Symfony 4 VichUploader:无法从数据库中删除文件