python - 不确定我的自动编码器神经网络从 Keras 预测中给我的结果
问题描述
我正在尝试构建一个自动编码器神经网络,用于在单列文本列表中查找异常值。我的输入有 138 行,它们看起来像这样:
amaze_header_2.png
amaze_header.png
circle_shape.xml
disableable_ic_edit_24dp.xml
fab_label_background.xml
fab_shadow_black.9.png
fab_shadow_dark.9.png
我已经使用 Keras 构建了一个自动编码器网络,并使用 python 函数将我的文本输入转换为一个数组,其中每个字符的 ascii 表示,用零填充,因此它们都具有相同的大小。
我的完整代码是这样的:
import sys
from keras import Input, Model
import matplotlib.pyplot as plt
from keras.layers import Dense
import numpy as np
from pprint import pprint
from google.colab import drive
# Monta o arquivo do Google Drive
drive.mount('/content/drive')
with open('/content/drive/My Drive/Colab Notebooks/drawables.txt', 'r') as arquivo:
dados = arquivo.read().splitlines()
# Define uma função para pegar uma lista e retornar um inteiro com o tamanho do
# maior elemento
def tamanho_maior_elemento(lista):
maior = 0
for elemento in lista:
tamanho_elemento = len(elemento)
if tamanho_elemento > maior:
maior = tamanho_elemento
return maior
# Define uma função para pegar uma lista e o tamanho do maior elemento e
# retornar uma lista contendo uma outra lista com cada caractere convertido para
# ascii, antes de converter são adicionados zeros a direita para eles ficarem
# com o mesmo tamanho do maior elemento.
def texto_para_ascii(lista, tamanho_maior_elemento):
#para cada linha
lista_ascii = list()
for elemento in lista:
elemento_ascii_lista = list()
#coloca zeros do lado da string
elemento_com_zeros = elemento.ljust(tamanho_maior_elemento, "0")
for caractere in elemento_com_zeros:
elemento_ascii_lista.append(ord(caractere))
lista_ascii.append(elemento_ascii_lista)
return lista_ascii
def ascii_para_texto(lista):
#para cada linha
lista_ascii = list()
for elemento in lista:
elemento_ascii_lista = list()
for caractere in elemento:
elemento_ascii_lista.append(chr(caractere))
elemento_ascii_string = "".join(elemento_ascii_lista)
lista_ascii.append(elemento_ascii_string)
return lista_ascii
# Pega o tamanho do maior elemento
tamanho_maior_elemento = tamanho_maior_elemento(dados)
# Pega o tamanho da lista
tamanho_lista = len(dados)
# Converte os dados para ascii
dados_ascii = texto_para_ascii(dados, tamanho_maior_elemento)
# Converte a linha de dados em ascii para um array numpy
np_dados_ascii = np.array(dados_ascii)
# Define o tamanho da camada comprimida
tamanho_comprimido = int(tamanho_maior_elemento/5)
# Cria a camada de Input com o tamanho do maior elemento
dados_input = Input(shape=(tamanho_maior_elemento,))
# Cria uma camada escondida com o tamanho da camada comprimida
hidden = Dense(tamanho_comprimido, activation='relu')(dados_input)
# Cria a camada de saida com o tamanho do maior elemento
output = Dense(tamanho_maior_elemento, activation='relu')(hidden)
#resultado = Dense(tamanho_maior_elemento, activation='sigmoid')(output)
resultado = Dense(tamanho_maior_elemento)(output)
# Cria o modelo
autoencoder = Model(input=dados_input, output=resultado)
# Compila o modelo
autoencoder.compile(optimizer='adam', loss='mse')
# Faz o fit com os dados
history = autoencoder.fit(np_dados_ascii, np_dados_ascii, epochs=10)
# Plota o gráfico das epochs
plt.plot(history.history["loss"])
plt.ylabel("Loss")
plt.xlabel("Epoch")
plt.show()
# Pega a saída do predict
predict = autoencoder.predict(np_dados_ascii)
# Pega os índices do array que foram classificados
indices = np.argmax(predict, axis=0)
# Converte a saída do predict de array numpy para array normal
indices_list = indices.tolist()
identificados = list()
for indice in indices_list:
identificados.append(dados[indice])
pprint(identificados)
我的np.argmax(predict, axis=0)
函数返回一个数字列表,其中没有一个大于我的数组大小,所以我假设它们是我输入数组中异常值的位置。
但我非常不确定如何解释预测数据,我的“指数”变量如下所示:
array([116, 116, 74, 74, 97, 115, 34, 116, 39, 39, 116, 116, 115,
116, 34, 74, 74, 34, 115, 116, 115, 74, 116, 39, 84, 116,
39, 34, 34, 84, 115, 115, 34, 39, 34, 116, 116, 10])
我做了正确的解释吗?我的意思是,返回的这些数字是什么?它们看起来与我的输入完全不同。所以我假设它们是我输入数据数组上的位置。我对吗?
编辑:如果在脚本结束时我这样做:
print("--------------")
pprint(np_dados_ascii)
print("--------------")
pprint(predict)
我得到以下数据:
--------------
array([[ 97, 98, 111, ..., 48, 48, 48],
[ 97, 109, 97, ..., 48, 48, 48],
[ 97, 109, 97, ..., 48, 48, 48],
...,
[115, 97, 102, ..., 48, 48, 48],
[115, 100, 95, ..., 48, 48, 48],
[115, 101, 97, ..., 48, 48, 48]])
--------------
array([[86.44533 , 80.48006 , 13.409852, ..., 60.649754, 21.34232 ,
24.23074 ],
[98.18514 , 87.98954 , 14.873579, ..., 65.382866, 22.747816,
23.74556 ],
[85.682945, 79.46511 , 13.117042, ..., 60.182964, 21.096725,
22.625275],
...,
[86.989494, 77.36661 , 14.291222, ..., 53.586407, 18.540628,
26.212025],
[76.0646 , 70.029236, 11.804929, ..., 52.506832, 18.65119 ,
21.961123],
[93.25003 , 82.855354, 15.329873, ..., 56.992035, 19.869513,
28.3672 ]], dtype=float32)
预测输出是什么意思?如果我的输入是整数数组,我不明白为什么会返回浮点数。
它不应该是一个具有不同形状的数组(在我的结果中,它们是相等的)只包含异常值的 ascii 文本吗?
解决方案
自动编码器是一种神经网络,用于将高维输入映射到低维表示。自编码器的架构很容易理解和实现。
本文以简单的方式解释了它们的作用以及您应该如何解释数据。
对于您的具体情况,首先,我会尝试输入的不同表示形式,在任何“_”或“。”之后拆分每个单词。并使用 Keras 嵌入层将其编码为矢量:here a tutorial on how to use Embedding Layers
然后,您真正想要的是查看中间隐藏层的输出,也就是将您的输入编码到较低维度空间的输出。然后,您可以从这个较低维度的空间中训练分类器以检测异常值(如果您有基本事实),或者使用其他无监督学习技术来执行异常检测或简单的可视化和聚类。
推荐阅读
- material-ui - Uno 材质底部导航栏
- delphi - 使表单无效会使其中的所有控件失效吗?
- bash - 任意深度的嵌套自动完成
- sql-server - 如何解决 SQL Server 中的排序规则冲突?
- git - 如何使用换行符“\n”从 Sourcetree 中删除不存在的文件?
- java - 将 ByteArrayInputStream 转换为文件而不保存到磁盘
- angular - 将 Auth0 不记名令牌添加到 Angular HttpInterceptor
- java - Maven Java SpringCould not find artifact org.vaadin.crudui:crudui:pom:4.3.0 in central
- deep-learning - 如何通过单个操作合并两个 torch.utils.data 数据加载器
- python - 如何将 Teradata QUALIFY 关键字添加到 SQLAlchemy 核心语句的末尾?