学習ロードマップ — AI Red Team Lab

📋 どこから始める？レベル確認

🟢 完全初心者

AIやセキュリティの知識がほぼない → Stage 1 の最初から

🟡 セキュリティ経験者

ネットワーク/Web セキュリティの基礎知識あり → 記事01〜02 を確認後、Stage 2 へ

🔵 AI開発者

LLM API を使った開発経験あり → Stage 2 または Stage 3 から

STAGE 1

基礎理解：AIセキュリティの全体像を掴む

攻撃手法や技術的な詳細に入る前に、「AIレッドチーミングとは何か」「なぜ重要か」を理解する。

📅 目安: 1週間 ⏱ 各記事15〜20分 🎯 ゴール: 全体像の把握

○ 01. AIレッドチーミングとは何か？入門 ○ 02. 従来のレッドチーミングとの違い入門 ○ 03. AIモデルの3大リスク入門入門 ○ 04. 【体験】Gandalf でジェイルブレイクに挑戦ハンズオン ○ 05. AIセキュリティ用語集（随時参照）参照用

STAGE 2

攻撃手法：主要な攻撃を体系的に理解する

ジェイルブレイク・プロンプトインジェクションなどの主要な攻撃手法を、実例とプロンプトで学ぶ。

📅 目安: 2週間 ⏱ 各記事30〜40分 🎯 ゴール: 主要攻撃手法を自分で試せる

○ 06. ジェイルブレイク完全ガイド（前編：手動攻撃）攻撃手法 ○ 07. ジェイルブレイク完全ガイド（後編：自動化・GCG）攻撃手法 ○ 08. プロンプトインジェクション入門攻撃手法 ○ 09. 間接プロンプトインジェクション：見えない攻撃攻撃手法

STAGE 3

ツール実践：自動化ツールで攻撃を再現する

GarakやPyRITなどの自動化ツールを実際にインストール・実行し、LLMの脆弱性を体系的に評価する。

📅 目安: 2週間 ⚠ Python 環境が必要 🎯 ゴール: 自動スキャンを実行できる

○ 13. Garak 入門：LLMをスキャンするツール ○ 14. PyRIT 入門：Microsoftの攻撃自動化ツールツール

STAGE 4

防御設計：安全なLLMアプリを設計できる

攻撃を知った上で、実際のLLMアプリケーションをどう安全に設計・運用するかを学ぶ。

📅 目安: 2週間 🎯 ゴール: 安全なLLMアプリを設計できる

○ 17. プロンプトインジェクションの防御設計防御 ○ 19. OWASP LLM Top 10 を読むフレームワーク

📚 あわせて活用したい外部リソース

🎮 Gandalf（Lakera AI）

ゲーム感覚でプロンプトインジェクションを体験。無料・登録不要。

無料ハンズオン

🔬 PortSwigger LLM Attacks

インタラクティブなラボ形式でLLM攻撃を体験できる演習サイト。

無料演習

📋 OWASP LLM Top 10

LLMアプリの10大リスクをまとめた業界標準ドキュメント。

無料フレームワーク

🗺️ MITRE ATLAS

AIシステムへの攻撃手法を MITRE ATT&CK 形式で整理したDB。