Transformer

Transformer とは、入力である単語ベクトルの列(文章)から文脈を反映した特徴ベクトルの列を出力するためのニューラルモデルである。無論、入力は単語列でなくとも構わない。