Sequence Models

循环序列模型介绍

Posted by huanrong on 2019-04-21

什么是序列模型


Sequences are a data structure where each example could be seen as a series of data points. This sentence: “I am currently reading an article about sequence modeling with Neural Networks” is an example that consists of multiple words and words depend on each other.

从上面的描述可以看出,序列模型有两个特点:1)可视为一连串的数据点;2)数据点之间相互依赖。

以下是几个典型的序列数据:
logo

而以上所有问题,都可以归为在训练集中标注X,Y的监督学习。

数学符号


下图给出了以下内容的表示方法:1)句子中每个单词;2)输入/输出;3)输入/输出向量所含单词量。
如:$x^{(i)\lt t\gt}$表示第$i$个样本的时序序列中,第$t$个位置。不论是否为时序序列,都将用$t$来索引序列中的位置。

To be continued…