第 1 章

Transformer とは何か？なぜ AI を支配しているのか？

2017年、"Attention is All You Need" という論文がAI分野を変えた。Transformer アーキテクチャは RNN/LSTM のシーケンス処理問題を解決しただけでなく、GPT から BERT まで、テキストから画像まで、現代AIの基盤となり、Transformer は至る所に存在している。

Transformer の誕生

2017年6月、Google Brainチームは「Attention is All You Need」という論文を発表し、Transformerアーキテクチャを提案しました。この論文は著者がわずか6人でしたが、AI分野全体の発展の軌跡を変えました。

論文の核心情報

1
論文タイトル：Attention is All You Need
2
公開時刻：2017年6月（NIPS 2017）
3
著者チーム：Google Brain（Vaswani ら）
4
コアな貢献：完全にAttentionメカニズムに基づき、再帰や畳み込みは不要

歴史的背景

Transformer以前は、シーケンスモデリングは主にRNNとLSTMに依存していた：

  • • RNNのジレンマ：勾配消失問題、長い系列の処理が難しい
  • • LSTMの改良：ゲーティング機構によって勾配消失を緩和するが、計算は依然として逐次的
  • • CNNの試み：シーケンスモデリングに使われるが、受容野に制限がある
  • • Transformerのブレークスルー：完全な並列処理、グローバルアテンション、系列モデリングを根本から変革

なぜ Transformer が主流になったのか？

Transformer は Attention を使用した最初のアーキテクチャではありませんでしたが、再帰と畳み込みを完全に捨てることで、真の並列計算とグローバルな依存関係を実現し、これが成功の鍵となりました。

vs RNN

  • • 並列性：RNNは順次処理が必要だが、Transformerは並列処理が可能
  • • 長距離依存関係：RNN の勾配消失、Transformer のグローバルアテンション
  • • 訓練速度：Transformer のトレーニングが10〜100倍高速
  • • メモリ効率：Transformer のメモリ使用がより安定する

vs LSTM

  • • 複雑さ：LSTMは複雑なゲーティング機構を持ち、Transformerの構造はよりシンプル
  • • スケーラビリティ：LSTM は超大規模への拡張が難しいが、Transformer は可能
  • • 表現力：Transformer のアテンション機構はより柔軟
  • • ハードウェアに優しい：Transformer は GPU 並列計算により適しています

vs CNN

  • • 受容野：CNN は受容野を広げるために複数層が必要だが、Transformer は一度で実現できる
  • • 位置情報：CNNは畳み込みカーネルの位置エンコーディングを用い、Transformerは位置エンコーディングを用いる
  • • 長いシーケンス：CNNは長いシーケンスを処理するには多くの層が必要だが、Transformerの方が効率的
  • • 汎用性：Transformer は統一アーキテクチャ、CNN はタスクごとに設計が必要

重要な突破口

1
完全並列：すべての位置を同時に計算し、GPU の並列処理能力を最大限に活用する
2
グローバルアテンション：任意の2つの位置は、複数層の伝播なしに直接相互作用できる
3
スケーラビリティ：1億パラメータから1兆パラメータまで、Scaling Law に従う
4
統一アーキテクチャ：テキスト、画像、音声はすべてTransformerで処理できます

コアコンポーネント：Encoder-Decoder 構造

Transformer の中核は Encoder-Decoder アーキテクチャですが、実際の応用ではさまざまな変種が登場しています。

標準的なTransformerアーキテクチャ

原論文の完全なアーキテクチャには、Encoder と Decoder の 2 つの部分が含まれます：

Encoder：入力シーケンスを理解し、入力を中間表現にエンコードする
Decoder：Encoderの出力と生成済みの一部に基づいて、ターゲットシーケンスを生成する
適用シナリオ: 機械翻訳、テキスト要約などのシーケンス・トゥ・シーケンスタスク

アーキテクチャ変種

GPT（Decoder Only）

デコーダのみ、自回帰生成、テキスト生成タスクに適している

BERT（Encoder Only）

エンコーダーのみ、双方向理解、理解タスク（分類、質問応答）に適している

重要なイノベーションポイント

  • • Self-Attention：モデルに入力シーケンスの異なる部分に注目させる
  • • Multi-Head Attention：複数の角度から情報を理解する
  • • Positional Encoding：位置情報を注入し、Attention の順序の欠如を補う
  • • Feed-Forward Network：非線形変換、表現力を強化
  • • Residual Connection：深層ネットワークの勾配消失問題を解決する
  • • Layer Normalization：安定したトレーニングプロセス

歴史的意義：AI分野におけるパラダイムシフト

Transformer は単なるアーキテクチャではなく、AI 分野におけるパラダイムシフトであり、大規模事前学習モデルの時代を切り開きました。

影響範囲

自然言語処理

  • • GPTシリーズ：GPT-1/2/3/4、ChatGPT、テキスト生成を変革した
  • • BERT 系列：BERT、RoBERTa、ALBERT がテキスト理解を変革した
  • • T5、BART：テキストタスクのフレームワークを統一した

コンピュータビジョン

  • • Vision Transformer (ViT)：Transformerを画像に適用する
  • • DETR：オブジェクト検出のための Transformer 手法
  • • CLIP：マルチモーダルTransformerモデル

音声処理

  • • Whisper：OpenAI の音声認識モデル
  • • AudioLM：音声生成のTransformerモデル

マルチモーダル

  • • GPT-4V：視覚理解能力
  • • Gemini：ネイティブなマルチモーダルアーキテクチャ
  • • テキスト、画像、音声を統一アーキテクチャで処理

パラダイムシフト

1
タスク特化モデルから汎用モデルへ：Transformerは大規模な事前学習＋ファインチューニングの時代を切り開いた
2
手作業の特徴量からエンドツーエンド学習へ：Transformer は真のエンドツーエンド学習を実現した
3
単一モダリティからマルチモダリティの統合へ：Transformer は異なるモダリティの処理方式を統一した
4
モデル設計からデータ規模まで：Transformerはデータ規模の重要性を示した（Scaling Law）

学習成果

この章を終えると、あなたは：

  • 1Transformer が誕生した歴史的背景と 2017 年論文の中核的貢献を理解する
  • 2TransformerがRNN/LSTM/CNNに比べて持つ核心的な利点（並列性、グローバルアテンション、スケーラビリティ）を習得する
  • 3Encoder-Decoder 構造の基本原理と主要な革新点を理解する
  • 4Transformer が AI 分野にもたらしたパラダイムシフトの意義と影響範囲を理解する
前章：アーキテクチャ編の概要次の章：Transformer の核心メカニズム