artificial-intelligence - 如何在使用 Intel Extension for PyTorch (IPEX) 时启用混合精度训练?
问题描述
我正在使用针对 Pytorch 的英特尔扩展来研究 Dog-Cat 分类器(参考 - https://github.com/amitrajitbose/cat-v-dog-classifier-pytorch)。我想减少模型的训练时间。如何在我的代码中启用混合精度?参考这个 github(https://github.com/intel/intel-extension-for-pytorch)来训练我的模型。
解决方案
要启用混合精度,您可以直接关注 github 链接以获取 pytorch 的英特尔扩展 ( https://github.com/intel/intel-extension-for-pytorch )。
For Float32 you can
# Invoke optimize function against the model object and optimizer object
model, optimizer = ipex.optimize(model, optimizer, dtype=torch.float32)
对于 BFloat16
# Invoke optimize function against the model object and optimizer object with data type set to torch.bfloat16
model, optimizer = ipex.optimize(model, optimizer, dtype=torch.bfloat16)
推荐阅读
- python - 将超链接名称映射到地址
- azure-ad-b2c - Azure AD B2C SSO 技术配置文件,如何检索声明?
- swift - 从 Firestore [Swift] 获取当前用户的特定数据
- android - Material Ui - 未捕获错误:不变违规:元素类型无效:预期字符串(用于内置组件)或类/函数
- azure - 如何正确配置 Azure 应用程序网关重写 URL 规则?
- sql-server - 左连接后 SQL SERVER 更新或插入
- r - 如何在只有一个初始值的变异中使用滞后/领先?
- php - Jquery滚动一次加载所有行,一次只能加载5个
- firebase - kotlin 发生 Firebase StorageException
- python - 在 Python 中读取 Excel 图表