PyTorch FSDP를 활용한 대규모 모델의 분산 학습 구현과 오류 조사를 돕습니다. 공식 문서 기반 자료와 코드 예제로 분할 전략, 혼합 정밀도, 학습 상태 저장을 검토합니다.
- 대규모 모델의 분산 학습을 구현합니다
- FSDP 적용 방법과 분할 전략을 비교합니다
- 혼합 정밀도와 체크포인트 예제를 확인합니다
608건 · 관련도순
PyTorch FSDP를 활용한 대규모 모델의 분산 학습 구현과 오류 조사를 돕습니다. 공식 문서 기반 자료와 코드 예제로 분할 전략, 혼합 정밀도, 학습 상태 저장을 검토합니다.
Build and check clinical machine learning workflows with PyHealth, from loading electronic health records, signals, or images to training and evaluation. Includes patient-level data splits, prediction task checks, model checkpoints, and medical code mapping.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Build molecular property prediction workflows with DeepChem for solubility, toxicity, and related chemistry tasks. Prepare molecular representations, choose compatible models, handle missing labels, and evaluate predictions using data splits designed for the intended scientific question.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Choose embedding models, which represent text as numerical vectors, for meaning-based search and RAG applications. Compare options for code, prose, and multilingual content, and plan document splitting, preprocessing, caching, and dimension reduction to improve retrieval quality.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Apply psychology and behavioral science to marketing decisions. The skill selects relevant thinking models, explains customer behavior, and suggests ethical changes to pricing, messaging, purchase journeys, and campaign priorities.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Compress LLM weights using HQQ quantization, which stores weights with fewer bits without calibration datasets. Follow workflows for precision settings, model saving, inference integration, and LoRA fine-tuning of quantized models.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Build text tokenizers that split multilingual text into small units for AI models. Learn how to train SentencePiece on raw text, configure BPE or Unigram splitting methods, and convert text to token IDs and back.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Guide reinforcement learning, training models through rewards, with slime. Prepare data, configure Megatron-LM training and SGLang response generation, and set up asynchronous runs or custom multi-turn workflows for supported language models.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Reduce the memory needed to run large language models with GPTQ quantization, which stores model weights at lower precision. Covers loading compressed models, quantizing your own models, choosing execution backends, and connecting to memory-efficient fine-tuning.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Get guidance on adapting large language models with Axolotl. Covers YAML configuration files, LoRA and QLoRA methods for training fewer parameters, distributed training settings, dataset formats, and debugging training code.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Helps configure and troubleshoot DeepSpeed for training large models across multiple devices. Covers memory optimization, parallel training, and DeepNVMe storage transfers, with examples for tuning data movement and configuring models that divide work among specialized components.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Adapt machine learning training to run across multiple GPUs or machines with Ray Train. Covers changes to existing code, comparing training settings with Ray Tune, and saving checkpoints so training can resume after failures.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Helps speed up LLM text generation by comparing methods that predict and verify multiple tokens at once. Covers draft model selection, Medusa prediction heads, Lookahead Decoding settings, and deployment examples for inference services.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Reduce LLM generation delays with speculative decoding, which proposes tokens ahead of verification. This skill compares small draft models, Medusa, and Lookahead Decoding, with implementation examples, tuning guidance, and deployment using vLLM.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Build text tokenizers, which split text into units for AI models, directly from raw multilingual text. Learn custom vocabularies with BPE or Unigram, convert text to pieces or numeric IDs, and decode the results.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Get guidance on adapting LLMs through additional training with LLaMA-Factory. The skill covers a visual interface requiring no code, LoRA and QLoRA training methods, and documentation-based help with implementation, features, and debugging.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Choose a serving container for models deployed on SageMaker. Match the model type to a compatible image, retrieve its address from the AWS catalog, and check regional availability, CPU or GPU variants, and required host settings.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Manage agents on a host by listing their capabilities, reading source code, and downloading or deploying agents in the smith namespace. Check available language model connections and their roles without exposing API keys.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Turn cryptographic code or specifications into sequence diagrams showing who sends each message, which cryptographic operations occur, and where failures stop the exchange. Outputs include Mermaid source, a plain text diagram, and a protocol summary.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Search GitHub, Stack Overflow, Hacker News, and HuggingFace for code examples, projects, technical answers, discussions, models, datasets, and Spaces. Filter supported searches and receive structured JSON results containing titles, links, and snippets.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Write and review R analysis scripts for a sewage research project using its established conventions. Estimate requested regression models, add specifications, and save LaTeX tables, figures, and model objects for use in the research paper.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Analyze datasets in R or Python, from exploring distributions and missing values to fitting regressions. Produce tables and figures for publication, save scripts and model results, and review the analysis for common problems.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Build and evaluate Bayesian models with PyMC and ArviZ, from choosing initial assumptions to checking predictions. The workflow covers sampling diagnostics, model comparison, and reports that explain results with uncertainty intervals.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Review code independently with five AI models, combine their reports, and filter out duplicate or unsupported findings. Present concrete bugs and risks for approval, then fix only the issues the user accepts.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.