使用pytorch编写LSTM 激活函数

以下是使用PyTorch编写LSTM激活函数的示例代码：

import torch
import torch.nn as nn

class LSTMModel(nn.Module):
    def __init__(self, input_size, hidden_size, num_layers):
        super(LSTMModel, self).__init__()
        self.hidden_size = hidden_size
        self.num_layers = num_layers
        self.lstm = nn.LSTM(input_size, hidden_size, num_layers)
        self.fc = nn.Linear(hidden_size, 1)
        self.sigmoid = nn.Sigmoid()

    def forward(self, x):
        h0 = torch.zeros(self.num_layers, x.size(1), self.hidden_size).to(x.device)
        c0 = torch.zeros(self.num_layers, x.size(1), self.hidden_size).to(x.device)

        out, _ = self.lstm(x, (h0, c0))
        out = self.fc(out[-1, :, :])
        out = self.sigmoid(out)
        return out

在这个示例代码中，我们首先定义了一个LSTMModel类，该类继承了PyTorch的nn.Module类。在该类的构造函数中，我们定义了LSTM的输入大小（input_size）、隐藏状态的大小（hidden_size）和LSTM层数（num_layers）。我们还定义了一个nn.Linear层和一个nn.Sigmoid层，用于将LSTM的输出映射到一个标量，并对其进行sigmoid激活。

在该类的forward函数中，我们首先初始化LSTM的隐藏状态和记忆状态（h0和c0），然后将输入x送入LSTM中，得到LSTM的输出out。我们将LSTM的最后一个时间步的输出取出（out[-1, :, :]），并将其送入nn.Linear层中进行线性映射。最后，我们对线性映射的结果进行sigmoid激活，并返回激活后的结果。

使用这个LSTMModel类，我们可以将输入数据x（形状为[seq_len, batch_size, input_size]）送入模型中进行训练和预测