Daniel Avila

GPUメモリを抑えながらLLMを追加学習するためのスキル。LoRAやQLoRAの設定、学習対象の選択、用途別アダプターの保存・切り替え・統合まで案内します。

• 限られたGPUメモリでLLMを追加学習
• LoRAの設定と学習対象の層の選定
• 同じ元モデルで用途別アダプターを切り替え

vLLMで大規模言語モデルをAPIとして提供し、応答速度や処理量、GPUメモリ使用量を調整するスキル。量子化、複数GPUでの実行、一括生成、監視まで扱います。

• OpenAI互換のモデルAPIを提供したいとき
• 大量のプロンプトの一括生成
• 限られたGPUメモリで量子化モデルを提供

ModalのクラウドGPUで機械学習の学習・推論・バッチ処理を動かすためのスキル。Pythonによる実行環境の定義からAPI公開、自動スケーリングまで案内します。

• サーバー管理なしでGPU推論を行いたいとき
• 自動スケーリングするモデルAPIの公開
• 大量データの並列バッチ処理

社内資料を参照する回答機能や、ツールを使うAIエージェントの設計を支援します。プロンプトの比較から品質・費用の監視まで、LLMアプリの実装例を示します。

• 社内資料を参照する回答機能の開発
• ツールを使うエージェントの構成選び
• プロンプトの比較と版管理

PyTorchモデルの内部で生じる数値を観察・変更し、出力への影響を調べる実験を支援します。nnsightを使い、小規模モデルのローカル実行からNDIFでの大規模モデル実験まで案内します。

• 各層の出力や注意パターンの観察
• 内部の値を置き換えて比較したいとき
• NDIFで大規模モデルを実験したいとき

長い文章を少ないメモリで扱うAIモデルの導入を支援します。RWKVによる逐次的な文章生成、状態の引き継ぎ、追加学習やTransformerとの比較を案内するスキルです。

• 文章を逐次生成したいとき
• 長い文書を分割処理したいとき
• Transformerとメモリ要件を比較

画像について質問に答えるAIや、会話を続けながら画像の内容を読み解くチャットを、LLaVAの導入、モデル選択、実装例に沿って構築するスキル。

• 画像に答えるチャットの構築
• 画像の説明文やキャプション作成
• 追加質問で場面を読み解きたいとき

LLMアプリの入出力や処理時間をLangSmithで記録し、不具合の調査、データセットによる回答評価、本番環境の監視や継続的な品質テストを支援するスキル。

• LLMアプリの不具合を調べたいとき
• テストデータで回答を評価したいとき
• 本番の応答時間や費用の監視

Gemini CLIを呼び出し、複数ファイルのコードレビューや設計計画の点検、大量のコード・文書の分析を進めます。用途に応じたモデルと実行設定の選択も扱います。

• 複数ファイルの安全性と品質のレビュー
• 設計計画の不足を確認したいとき
• 大規模なコード全体の構成分析

小さなGPTの学習と文章生成を通じて、言語モデルの仕組みを学ぶスキル。CPUでの実験から独自テキストでの学習、GPT-2の追加学習や複数GPUでの再現まで扱います。

• CPUでShakespeareを学習したいとき
• 独自テキストを学習データにしたいとき
• 学習済みGPT-2を追加学習したいとき

大規模言語モデルの構造を学びながら、LitGPTで独自データによる追加学習や事前学習を進めるスキル。モデルの取得から学習設定、変換、APIでの提供まで案内します。

• コードを読みながらLLMの構造を学びたいとき
• 独自の指示データでモデルを追加学習したいとき
• 単一GPUでLoRA学習を設定したいとき

Garry's Modのアドオン制作を、機能の整理からLuaスクリプト作成、素材やファイルの配置、配布準備まで支援するスキル。不具合の調査も扱います。

• 新しいアドオンの機能を設計
• 実行側を分けてLuaを書きたいとき
• 素材とディレクトリ構成を整理

複数の学習済みLLMを再学習せずに統合し、数学・コード生成・会話などの能力を組み合わせる手順を案内します。統合手法の選択から設定作成、評価までを扱います。

• 数学・コード生成・会話能力の統合
• 2つのモデルの混合比率を試したいとき
• 統合手法を変えたモデル候補の比較

言語モデルが一度に扱える文章量を増やすため、RoPE・YaRN・ALiBiなどの手法を比較するスキル。位置情報の実装から追加学習、長文処理時のメモリ対策まで支援します。

• 既存モデルの長文対応を広げたいとき
• 文章内の位置を伝える手法の比較
• 長文データでの追加学習の計画

機械学習の処理を複数のGPUやマシンに分散するために、既存コードの調整、学習条件の比較、中断時に備えた保存と再開の設定までを支援します。

• 既存PyTorchコードの複数GPU対応
• HuggingFaceモデルの複数マシン学習
• 学習率やバッチサイズを比較したいとき

PyTorchの学習コードを整理し、検証やログ記録、モデル保存を組み込む実装を支援します。複数GPUでの分散学習や早期終了の設定例も参照できます。

• 既存のPyTorch学習ループを整理したいとき
• 検証・ログ・モデル保存を追加したいとき
• 複数GPUでの学習を設定したいとき

DeepSpeedで大規模モデルを分散学習する際の設定や実装を支援し、メモリ使用量の最適化、モデルの並列化、NVMeストレージとのデータ転送を案内するスキル。

• 大規模モデルの分散学習設定
• NVMeへのデータ転送の調整
• Mixture of Expertsの構成

PyTorchの学習コードを複数GPUや複数マシンに対応させ、混合精度やメモリ分散も設定できます。Accelerateによるコード変更から起動までを案内するスキルです。

• 単一GPUの学習を複数GPUへ移したいとき
• 混合精度の学習を設定したいとき
• DeepSpeedやFSDPを導入したいとき

互いに依存しない複数の不具合調査や修正を、担当範囲ごとにAIエージェントへ分担するスキル。依頼内容を絞り、並列作業後の競合確認とテストまで進めます。

• 無関係なテスト失敗を並列調査
• 機能ごとに修正担当を分けたいとき
• 範囲と制約が明確な依頼を作成

調べたいテーマを渡すと、Geminiで調査計画、検索、資料の読み込み、情報の統合を進め、出典付きレポートにまとめます。構成の指定や追加調査にも対応します。

• 市場と競合を調べたいとき
• 技術文献のレビュー
• 製品や技術の比較調査

企画、実装、デバッグ、レビューなどの作業に応じて、AIの進め方と説明の詳しさを切り替えるスキル。発想を広げる段階から公開前の確認まで、目的別の行動指針を定めます。

• 実装前に複数の案を検討したいとき
• 仮説と検証で不具合を調べたいとき
• 重要度別のレビュー結果の整理

社内文書やWeb、データベースを取り込み、関連情報を検索して答えるLLMアプリの構築を支援します。文書への質問応答や会話型検索、回答の評価を扱います。

• 社内文書の質問応答を作りたいとき
• 会話を覚えるチャットボットの構築
• ファイル・Web・DBを横断した検索

設計方針や実装パターン、判断の記録をAIエージェントの長期記憶として保存し、検索・参照します。プロジェクト文書との自動同期や記憶の利用状況の確認にも対応するスキルです。

• 設計判断を後で参照するために保存
• 種類やタグで実装パターンを検索
• キーを指定して設計記録を参照

複数のローカルCLIエージェントをtmuxの別セッションで並列実行し、起動・停止、タスク割り当て、ログ監視を管理。cronによる定期作業にも使えるスキル。

• 複数のローカルエージェントの並列実行
• エージェントごとのタスク割り当て
• ログを追って実行状況を確認したいとき