データ・AIのスキル

PyTorchで報酬に基づくモデル学習を試すために、torchforgeの設定、報酬・損失関数の実装、複数GPUへの展開、学習中の問題への対処を案内します。

• GRPOで数学推論モデルを学習したいとき
• 独自の報酬関数や損失関数を試したいとき
• 複数GPUやノードへ学習を展開したいとき

AIへの指示文を、具体例や出力形式の指定、比較テストで改善します。回答のばらつきやエージェントの想定外の動作を見直し、繰り返し使える指示に整えます。

• AIの要約を安定させたいとき
• 問い合わせ情報を項目別に抽出したいとき
• コードレビュー用の指示文の共通化

大規模言語モデルを、報酬に基づいて学習させる強化学習の導入を支援します。verlでのGRPOやPPOの設定から、データ準備、分散学習、問題対処まで扱います。

• GRPOで数学推論モデルを学習したいとき
• criticモデルを使うPPOの設定
• 複数ノードでの大規模モデル学習

大規模言語モデルの強化学習に向け、milesの環境構築や低精度学習、学習と推論の整合性確認、生成処理の高速化設定を案内するスキルです。

• 大規模MoEの強化学習を設定したいとき
• FP8学習の不安定さを調べたいとき
• 生成処理の高速化を設定したいとき

Chromaを使い、文章の意味に基づく検索や、検索した資料をAIの回答に使う仕組みを実装します。文書の保存・更新、属性による絞り込み、外部ライブラリ連携も扱います。

• 文章の意味で資料を検索したいとき
• AI回答に資料検索を組み込みたいとき
• 文書の属性で検索結果を絞りたいとき

言語モデルの出力を正規表現や文法で制約し、JSONや日付などの形式を整えるほか、分類・情報抽出・複数段階の処理をPythonで組み立てるスキル。

• 決めた構造のJSONを生成したいとき
• 日付・メール・識別子の形式を指定
• 固定ラベルで文章を分類したいとき

大量の文章をAIモデルが扱う単位に分割する処理や、独自の分割ルールの学習を支援し、元の文章との位置対応、入力長の調整、transformersとの連携も扱うスキル。

• 大量の文章をモデル用に前処理したいとき
• 専門分野の文章で分割方法を学習
• モデルの出力を原文の位置に対応づけ

正しさや出力形式を採点する報酬関数を使い、言語モデルを追加学習する手順を案内します。TRLによるGRPOの実装から、データ準備、学習設定、結果の検証まで支援します。

• JSONやXML形式を学習させたいとき
• 数学やコードの報酬関数の設計
• GPUメモリに合わせた学習設定

大規模言語モデルを報酬に基づいて追加学習させるため、slimeの環境構築やデータ準備、分散学習の設定、独自の応答生成処理の組み込みを案内します。

• GLMやQwenの強化学習準備
• 応答生成と学習を並行したいとき
• ツールを使うエージェントの学習

日本語を含む多言語の文章を、AIモデルが扱う小さな単位に分割する処理を支援します。生テキストからの学習、BPE・Unigramの設定、数値IDへの変換と復元を扱います。

• 日本語・中国語・韓国語のAI用前処理
• 生テキストから独自語彙を学習したいとき
• BPEとUnigramを選びたいとき

文書検索を使ってLLMの回答を補うRAGの設計・実装を支援。文書の分割、意味による検索、キーワード検索との組み合わせ、検索結果の並べ替えを検討するスキル。

• 文書を参照する質問応答の設計
• 検索漏れの原因を見直したいとき
• 意味検索とキーワード検索の併用

音声で自然に会話するAIの構成を設計するスキル。音声を直接扱う方式と、文字起こし・応答生成・読み上げを分ける方式を比較し、遅延や割り込みへの対応を整理します。

• 音声AIの構成を比較したいとき
• 会話処理の遅延を見直したいとき
• 発話中の割り込み対応の設計

文章や画像の意味を数値で表す埋め込みを生成し、意味検索や類似度比較、文書のグループ分けに使うスキル。多言語モデルの選択やローカル実行も案内します。

• RAG用の文書埋め込みを作りたいとき
• 意味の近い文章を探したいとき
• 文書を話題ごとにまとめたいとき

AI機能を製品に組み込む際に、出力の形式検証、応答の逐次表示、プロンプトの版管理やテスト、API費用の監視など、本番運用を見据えた設計を支援します。

• AI機能を本番公開する前の設計確認
• AI出力の検証方法を決めたいとき
• プロンプトの版管理と回帰テスト

言語モデルの有害な出力を減らす学習手順を案内します。原則に沿った自己批評と回答修正、AIによる回答比較を使い、教師あり学習から強化学習までを扱います。

• 安全性を学習させる原則の設計
• 自己批評と修正による学習データ作成
• AI評価を用いた強化学習の計画

学習済みの大規模言語モデルを4ビットに量子化し、必要なメモリを抑える手順を案内します。量子化済みモデルの読み込み、自前モデルの圧縮、追加学習との連携を扱います。

• 限られたGPUメモリでモデルを動かしたいとき
• 量子化済みモデルで文章を生成したいとき
• 学習済みモデルを圧縮して保存したいとき

Qdrantを使い、文章の意味の近さと属性条件を組み合わせた検索を実装します。文書を検索して回答に使うRAGの構築から、メモリ節約や分散構成の検討まで支援します。

• AI回答用の文書検索を作りたいとき
• 類似検索をカテゴリや日時で絞りたいとき
• 大量のベクトルのメモリを節約したいとき

調整用のデータセットを使わず、LLMの重みを少ないビット数で表して軽量化します。量子化の設定から保存、推論環境への組み込み、LoRAによる追加学習までを案内します。

• 調整用データなしでLLMを圧縮したいとき
• vLLMやHuggingFace Transformersで量子化モデルを使いたいとき
• ビット数や推論バックエンドの比較

言語モデルへの指示を目的や制約に合わせて設計し、例の選び方、再利用できるテンプレート、比較評価を通じて出力の精度や一貫性を見直すスキル。

• 回答がばらつくプロンプトを改善したいとき
• 変数・条件付きテンプレートの作成
• タスクに合う入出力例を選びたいとき

ローカルの言語モデルなどの出力形式をOutlinesで制御し、指定した項目や型に沿うJSONの生成、文章からの情報抽出、選択肢による分類を支援するスキル。

• 会社情報やプロフィールのJSON抽出
• 決まったラベルで文章を分類したいとき
• 指定した書式に沿う文字列の生成

Agent PlatformでGemini APIを使う企業向けアプリの実装を案内します。Google Gen AI SDKによる認証から、文章・画像・音声の処理や一括実行まで扱います。

• 文書やメディアを理解する機能の追加
• 指定した形式のJSON生成
• 音声・映像を使うリアルタイム対話

vLLMで大規模言語モデルをAPIとして提供し、応答速度や処理量、GPUメモリ使用量を調整するスキル。量子化、複数GPUでの実行、一括生成、監視まで扱います。

• OpenAI互換のモデルAPIを提供したいとき
• 大量のプロンプトの一括生成
• 限られたGPUメモリで量子化モデルを提供

画像内の対象を点や四角い枠で指定し、領域を表すマスクの生成や背景を透明にした切り抜きを実装する手順を、SAMのモデル選びや自動処理とともに案内するスキル。

• 透明背景で物体を切り抜きたいとき
• 点や枠で領域を指定するツールの作成
• 物体のマスクを自動生成したいとき

NVIDIA GPUで動かすLLMの推論と配信を、TensorRT-LLMで最適化するスキル。量子化、生成中の要求のまとめ処理、複数GPUへの分散を扱います。

• NVIDIA GPUでLLMを配信
• FP8やINT4の量子化を設定
• 大規模モデルを複数GPUに分散