变长序列的训练和预测

Train and predict on variable length sequences(变长序列的训练和预测)

问题描述

散布在我的站点上的传感器(相同类型)以不定期的间隔手动向我的后端报告。在报告之间，传感器聚合事件并将其作为批报告。 以下数据集是批量收集的序列事件数据的集合。例如，传感器1报告了2次。在第一批2个事件和第二批3个事件上，而传感器2报告了1次3个事件。

我要将此数据用作我的列车数据X

我的目标y是根据传感器收集的所有事件计算得出的分数：
即socre_sensor_1 = f([[batch1...],[batch2...]])

我希望在每次收集批次时预测y，即对具有2个报告的传感器进行2个预测。

---

LSTM模型：
我从LSTM模型开始，因为我试图预测事件的时间序列。 我的第一个想法是选择一个固定大小的输入，并在收集的事件数小于输入大小时对输入进行零填充。然后屏蔽填充的值：

model.add(Masking(mask_value=0., input_shape=(num_samples, num_features)))

例如：

如果选定长度为5，则将生成以下输入：

[
 [0.54, 0.33],
 [0.23, 0.14],
 [0,0],
 [0,0],
 [0,0]
]

但是，在我的列车数据中，每个传感器报告的事件数差异很大，一个报告可以收集1000个事件，而另一个报告可以收集10个事件。因此，如果我选择平均大小(假设为200)，一些输入将具有大量填充，而另一些将被截断并丢失数据。

我听说过ragged tensors，但我不确定它是否适合我的用例。如何处理这样的问题？

推荐答案

参差不齐的张量是出路：

粗糙张量是嵌套可变长度列表的TensorFlow等效项。它们使存储和处理形状不一致的数据变得容易

您可以通过多种方式创建粗糙张量，一种是从嵌套列表创建。

import tensorflow as tf
# your first sensor data from your example above
data = [[[0.54 , 0.33],[0.23 , 0.14]],[[0.51,0.13],[0.23,0.24],[0.33, 0.44]]]
X = tf.ragged.constant(data)

---

<tf.RaggedTensor [[[0.5400000214576721, 0.33000001311302185],   [0.23000000417232513, 0.14000000059604645]], [[0.5099999904632568, 0.12999999523162842], [0.23000000417232513, 0.23999999463558197], [0.33000001311302185, 0.4399999976158142]]]>

那么在您的模型中，您的第一层应该是ragged=True的输入和[None , number_of_features]的形状：

model = Sequential()
model.add(Input(shape=[None,2], dtype=tf.float32, ragged=True))
model.add(LSTM(16, activation='tanh'))
...

这篇关于变长序列的训练和预测的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持编程学习网！