首页 > 解决方案 > 使用 joblib 在 x86 上转储 scikit-learn 模型,然后在 z/OS 上读取决策树传递,但在 GradientBoostingRegressor 上失败

问题描述

我对 numpy_pickle.py 中的 NumpyArrayWrapper 进行了一些小调整,以允许将决策树模型成功加载到在 z/OS 上运行的 scikit-learn 上。更改归结为检查字节顺序是否正确,如果不正确则调用 array.byteswap()。但是,当尝试加载 GradientBoostingRegressor 模型时,它甚至在达到字节交换修复之前就失败了。

错误来自这一行https://github.com/scikit-learn/scikit-learn/blob/0.18.1/sklearn/tree/_tree.pyx#L644,这是因为以下情况node_ndarray.dtype != NODE_DTYPE。发生这种情况的原因是梯度提升回归器命中以下代码行,而决策树没有https://github.com/scikit-learn/scikit-learn/blob/0.18.1/sklearn/externals/joblib/numpy_pickle .py#L105

我想知道是否有人知道我是否应该做一些不同的事情,因为 DT 模型的 Dtypes 在 z/OS 上加载时似乎很好,但它们不适用于 GBR 模型。这似乎来自 model.fit 方法,因为在删除该调用时,我可以在 z/OS 上成功加载 pkl 文件。

训练梯度提升模型的代码

from sklearn.ensemble import GradientBoostingRegressor
from sklearn.pipeline import Pipeline
from sklearn import datasets
from sklearn import metrics
from sklearn.tree import DecisionTreeClassifier

from sklearn.model_selection import train_test_split

iris = datasets.load_iris()
X_train, X_test, y_train, y_test = train_test_split(iris.data, iris.target, test_size=0.2)

gbr = GradientBoostingRegressor(max_depth=3)
model = Pipeline([('Gbr', gbr)])

model.fit(X_train, y_train)


from sklearn.externals import joblib
joblib.dump(model, 'GBTmodelx86.pkl')

训练决策树模型的代码

from sklearn import datasets
from sklearn import metrics
from sklearn.tree import DecisionTreeClassifier

dataset = datasets.load_iris()

model = DecisionTreeClassifier()
model.fit(dataset.data, dataset.target)

from sklearn.externals import joblib
joblib.dump(model, 'DTmodelX86.pkl')

加载每个模型的代码

from sklearn.externals import joblib
model = joblib.load('DTmodelX86.pkl') 
from sklearn.externals import joblib
model = joblib.load('GBTmodelx86.pkl') 

标签: pythonpython-3.xscikit-learnx86zos

解决方案


推荐阅读