言語モデル

RNN

各トークンで進化する隠れ状態を維持しながらシーケンスを処理する再帰的ニューラルネットワーク。RNNは、時間的依存関係を捉えるために言語モデルに適用された最初のニューラルアーキテクチャの一つでした。

← 戻る