データ・AIのスキル

機械学習の損失や精度をTensorBoardで可視化し、実験ごとの結果を比較するスキル。重みの分布やモデル構造、処理性能を調べ、学習中の問題を探ります。

• 学習ごとの損失や精度を比較したいとき
• 重みや勾配の分布を確認したいとき
• 埋め込みを2次元・3次元で眺めたいとき

画像について質問に答えるAIや、会話を続けながら画像の内容を読み解くチャットを、LLaVAの導入、モデル選択、実装例に沿って構築するスキル。

• 画像に答えるチャットの構築
• 画像の説明文やキャプション作成
• 追加質問で場面を読み解きたいとき

機械学習モデルを本番サービスで動かすための設計・実装を支援します。学習や予測用データの整備から、モデル配信、性能比較、監視、再学習まで扱います。

• リアルタイム推薦サービスの設計
• A/Bテストでモデルを比較したいとき
• データの変化とモデル性能の監視

NVIDIA GPUで動かすLLMの推論と配信を、TensorRT-LLMで最適化するスキル。量子化、生成中の要求のまとめ処理、複数GPUへの分散を扱います。

• NVIDIA GPUでLLMを配信
• FP8やINT4の量子化を設定
• 大規模モデルを複数GPUに分散

大規模言語モデルの事前学習を複数GPUで実行するため、torchtitanの設定と起動を支援するスキル。並列処理の組み合わせや学習状態の保存・再開も扱います。

• Llama 3.1 8Bを8基のGPUで事前学習
• SLURMで複数ノードの学習を設定
• H100でFloat8学習を有効化

LLMを用途に合わせて追加学習するため、Axolotlの設定作成や不具合調査を支援します。YAML設定、LoRA・QLoRA、複数GPUでの学習を扱います。

• 追加学習のYAML設定を作りたいとき
• LoRA・QLoRAの学習を検討したいとき
• 複数GPUでの学習設定

長い文章を扱うTransformerの学習・推論で、Flash Attentionの導入から速度・精度の比較まで進め、GPUメモリ使用量と処理時間の削減を図るスキル。

• 長い入力でのTransformer学習の高速化
• AttentionのGPUメモリ使用量削減
• PyTorchモデルへの導入

長い文章を少ないメモリで扱うAIモデルの導入を支援します。RWKVによる逐次的な文章生成、状態の引き継ぎ、追加学習やTransformerとの比較を案内するスキルです。

• 文章を逐次生成したいとき
• 長い文書を分割処理したいとき
• Transformerとメモリ要件を比較

社内資料を参照する回答機能や、ツールを使うAIエージェントの設計を支援します。プロンプトの比較から品質・費用の監視まで、LLMアプリの実装例を示します。

• 社内資料を参照する回答機能の開発
• ツールを使うエージェントの構成選び
• プロンプトの比較と版管理

PyTorchモデルの内部値を差し替え、出力への影響を調べる実験を支援するスキル。pyveneによる因果関係の検証から、介入の学習・保存・共有まで扱います。

• 出力に影響するモデル内部の特定
• 内部値を差し替えて仮説を検証したいとき
• 介入を学習して因果構造を調べたいとき

調査・執筆・分析などの役割を持つAIエージェントをCrewAIで組み合わせ、作業の引き継ぎや記憶、条件分岐を備えた協働処理を構築するスキル。

• 調査から記事作成までの分担処理
• 管理役による専門エージェントの連携
• 条件分岐のある作業フローの構築

DeepSpeedで大規模モデルを分散学習する際の設定や実装を支援し、メモリ使用量の最適化、モデルの並列化、NVMeストレージとのデータ転送を案内するスキル。

• 大規模モデルの分散学習設定
• NVMeへのデータ転送の調整
• Mixture of Expertsの構成

データの収集・変換・検証をつなぐ処理や分析用の保存基盤を設計・実装し、定期処理からリアルタイム処理まで、品質監視や運用コストも含めて整えるスキル。

• 定期的なデータ収集と変換の構築
• 分析用データウェアハウスの設計
• データベース変更のリアルタイム同期

PyTorchの学習コードを整理し、検証やログ記録、モデル保存を組み込む実装を支援します。複数GPUでの分散学習や早期終了の設定例も参照できます。

• 既存のPyTorch学習ループを整理したいとき
• 検証・ログ・モデル保存を追加したいとき
• 複数GPUでの学習を設定したいとき

言語モデルが一度に扱える文章量を増やすため、RoPE・YaRN・ALiBiなどの手法を比較するスキル。位置情報の実装から追加学習、長文処理時のメモリ対策まで支援します。

• 既存モデルの長文対応を広げたいとき
• 文章内の位置を伝える手法の比較
• 長文データでの追加学習の計画

顧客や売上などのデータを調べ、統計検定や機械学習で予測・効果検証を進めます。分析結果の可視化から予測モデルの運用計画まで支援するスキル。

• 顧客離脱の分析とリスク予測
• A/Bテストの設計と結果検証
• 在庫計画に向けた需要予測

自律的に作業するAIエージェントの設計を支援するスキル。ツール呼び出し、記憶、計画、複数エージェントの連携を整理し、実行上限やエラー処理、動作の追跡も検討します。

• 計画して実行するエージェントを設計したいとき
• ツールの定義と選択方法を整理したいとき
• エージェントが記憶する情報を決めたいとき

NVIDIA Megatron-Coreで大規模言語モデルの分散学習を設定します。複数GPUへの処理の分け方、学習条件、性能監視、メモリ不足への対処を支援します。

• LLaMA系モデルの分散学習を計画したいとき
• MoEの専門部分をGPUへ分散したいとき
• 学習速度とGPU利用率を調整したいとき

機械学習向けの大量データを読み込み、前処理や一括推論を複数のCPU・GPUに分散するスキル。手元の端末からクラスタまで、処理規模に応じた構成を案内します。

• メモリに収まらないデータを前処理したいとき
• 複数GPUで一括推論したいとき
• 画像や表データを学習用に整えたいとき

LLMの文章生成を高速化するために、候補を先に作って検証する手法を比較し、小型モデルの選定から並列生成の設定、本番導入までを支援するスキル。

• チャットボットの応答待ちを減らしたいとき
• コード生成の高速化手法を比較したいとき
• 候補生成用の小型モデルを選びたいとき

AIとの会話で得た情報を保存し、必要な場面で取り出す記憶機構の設計を支援します。短期・長期の記憶や人物などの情報を整理し、検索、統合、利用者ごとの分離を検討します。

• 会話をまたいで覚えるAIの設計
• 人物や対象ごとの事実の保存・更新
• 関連する記憶をプロンプトに追加

社内文書やWeb、データベースを取り込み、関連情報を検索して答えるLLMアプリの構築を支援します。文書への質問応答や会話型検索、回答の評価を扱います。

• 社内文書の質問応答を作りたいとき
• 会話を覚えるチャットボットの構築
• ファイル・Web・DBを横断した検索

機械学習の処理を複数のGPUやマシンに分散するために、既存コードの調整、学習条件の比較、中断時に備えた保存と再開の設定までを支援します。

• 既存PyTorchコードの複数GPU対応
• HuggingFaceモデルの複数マシン学習
• 学習率やバッチサイズを比較したいとき

AutoGPTで複数工程のAI処理を組み立て、継続実行するエージェントの構築・運用を支援するスキル。画面でのフロー作成から定期実行、監視、性能評価まで扱います。

• 画面操作でAIフローを組みたいとき
• 定期実行や外部イベントでの起動
• Forgeで独自機能を追加したいとき