neural-network - 将神经网络权重偏向大的正值
问题描述
有没有办法有效地将神经网络权重偏向大的正值？我考虑过在优化器中为较大的值添加偏差，或者通过向梯度添加随机正噪声。网络不一定必须收敛到最佳最小值，而是具有最大权重的可接受损失的最小值。
对于上下文，我正在研究硬件加速一些神经网络，我可以提高更大权重的功率效率。
任何想法/建议最好做到这一点？
解决方案
推荐阅读
- java - 是否可以使用 Flutter 制作实现 Accessibility API 的 Android 应用？
- python-3.x - Python OOP 和递归：什么时候放“self”，什么时候不放
- javascript - 如何编写一个函数来检查井字游戏 js 中的获胜者？
- regex - QRegExp 用法：如何从 html 字符串中获取图像名称？
- c++ - 在扩展已知类的未知类中调用函数
- php - ACF 功能不显示
- php - 来自控制器 Codeigniter 的复选框未显示在数据表 ajax 调用中
- c++ - C++ 数组指针如何具有不同的位置，但指向同一个元素？
- windows - git show HEAD~1:.gitignore 命令导致 Windows 64 位中出现奇怪的字符
- bash - 如何使用带有 filter_complex 的 FFMPEG 将包含 40 多个音频文件的完整文件夹组合/加入到一个长 mp3 中？