Guides you through running large language models on CPUs, Apple Silicon, and AMD or Intel GPUs. Covers choosing GGUF model files, reducing memory through quantization, and starting an OpenAI-compatible chat server.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Running a local LLM on an Apple Silicon Mac
- Trying LLM inference on a CPU-only machine
- Choosing a model format that fits available memory
Orchestra-Research/AI-Research-SKILLs☆ 1.4만2026년 10월 11일 업데이트
Apply HQQ quantization, which stores language model weights using fewer bits without calibration examples. Covers precision settings, inference backends, saving compressed models, deployment with HuggingFace Transformers or vLLM, and further training with LoRA.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Compressing a model without calibration data
- Comparing 4-bit and 2-bit quantization settings
- Running quantized models with HuggingFace Transformers or vLLM
Orchestra-Research/AI-Research-SKILLs☆ 1.4만2026년 10월 11일 업데이트
Inspect images and videos you generated or edited for AI watermarks and embedded origin information, then remove selected signals. The skill guides a command-line tool and reports completed operations without treating missing signals as proof of human authorship.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Inspecting files for AI origin signals
- Removing visible AI labels from your own media
- Removing embedded AI metadata
wiltodelta/remove-ai-watermarks☆ 6.1천2026년 10월 20일 업데이트
Use for NVIDIA-related requests where an NVIDIA skill might help, even if the user did not ask for a skill. Trigger on NVIDIA products, hardware, software, SDKs, GPUs, Jetson/JetPack/L4T/BSP/SDK Manager/driver/flashing/setup, CUDA, NIM, NeMo, Omniverse/OpenUSD/SimReady, Isaac, RAPIDS/cuDF, cuPyNumeric, cuOpt, Dynamo, Holoscan, TensorRT, DeepStream, VSS, TAO, NGC/NVCF. Do not use for generic non-NVIDIA route, optimize, deploy, AI, video, data, or infrastructure tasks.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
NVIDIA/skills☆ 3.6천2026년 10월 18일 업데이트
Create, refine, or fix NVIDIA voice agents (Cascaded or Omni) with Pipecat or LiveKit. Use when building, scaffolding, or iterating on a real-time voice-agent pipeline, including speech (ASR/TTS) customization and cloud or local deployment. Not for offline/batch speech-to-text, text-only chat or RAG, or generic Docker or CUDA work unrelated to a voice agent.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
NVIDIA/skills☆ 3.6천2026년 10월 18일 업데이트
How to launch distributed Megatron-LM training jobs on a SLURM cluster. Covers a minimal sbatch skeleton, environment-variable setup for torch.distributed.run, CUDA_DEVICE_MAX_CONNECTIONS rules across hardware and parallelism modes, container conventions, monitoring, and per-rank failure diagnosis.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
NVIDIA/skills☆ 3.6천2026년 10월 18일 업데이트
Install or repair the FoundationPose perception pipeline and build its FoundationStereo TensorRT engines. Use for SAM3/TAO dependency conflicts, CUDA library failures, and depth-engine shape or precision decisions.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
NVIDIA/skills☆ 3.6천2026년 10월 18일 업데이트
Use when writing or debugging nvMolKit Python code for GPU-accelerated RDKit fingerprints, similarity, conformers, clustering, and molecular searches.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
NVIDIA/skills☆ 3.6천2026년 10월 18일 업데이트
Generate, verify, refine, and accelerate C/C++ or CUDA code from MATLAB with MATLAB Coder, Embedded Coder, GPU Coder, or MATLAB Test. Also covers writing codegen-ready MATLAB code: language constraints, coder.* directives, and optimization patterns. Triggers on: codegen, MEX, deploy MATLAB as C/C++, GPU Coder, coder.screener, coder.config, coder.gpuConfig, coder.typeof, coder.runTest, matlabtest.coder.TestCase, SIL, embedded config, no dynamic memory, EnableMexProfiling, coder.timeit, coder.perfCompare, %#codegen, writing codegen-ready MATLAB, code generation readiness, coder.varsize, coder.unroll, coder.noImplicitExpansionInFunction, coder.ceval, coder.inline, coder.extrinsic, coder.const, coder.classSignature, class codegen limitations, temporal types codegen, DMA-off, stack-only, host-target InstructionSetExtensions, SIMDAcceleration, OptimizeReductions, host SIMD tuning, host OpenMP, codegen performance.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
matlab/matlab-agentic-toolkit☆ 1.2천2026년 10월 14일 업데이트
Deploy AI models to embedded hardware using MathWorks tools (MATLAB, Simulink, Embedded Coder). Covers two workflow patterns: (1) MathWorks-native or imported models rebuilt as dlnetwork for lean hardware, (2) direct C/C++ code generation from PyTorch and LiteRT models. Both patterns support all targets (Cortex-M/A/R, x86, GPU). Trigger when: user wants to deploy AI to embedded targets; generate C/CUDA from neural networks; compress AI models for MCU; integrate AI in Simulink for system-level simulation; import PyTorch/ONNX/TensorFlow models for embedded deployment; optimize AI for resource-constrained hardware; or use loadPyTorchExportedProgram, loadLiteRTModel, importNetworkFromPyTorch, importNetworkFromONNX, importNetworkFromTensorFlow, importNetworkFromKeras, dlquantizer, exportNetworkToSimulink, or Embedded Coder with AI models.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
matlab/matlab-agentic-toolkit☆ 1.2천2026년 10월 14일 업데이트
Set up and manage NVIDIA GPU servers for AI workloads — driver installation, CUDA toolkit, container toolkit, MIG partitioning, GPU health monitoring, and multi-GPU configuration for LLM inference and training.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
BagelHole/DevOps-Security-Agent-Skills☆ 1.2천2026년 5월 22일 업데이트
Diagnose NCCL failures and adjacent training-pod failures on HyperPod GPU clusters (EKS or Slurm) — training hangs, AllReduce / collective-op timeouts, EFA or libfabric errors, rendezvous failures, EFA TCP fallback, /dev/shm or memlock issues, NCCL version mismatch across pods, container OOM / exit-137 / OOMKilled, GPU OOM (CUDA out of memory), CrashLoopBackOff / Pending pods, MASTER_ADDR DNS, NetworkPolicy blocking. Not for single-node hardware faults (→ hyperpod-node-debugger § G) or cluster-creation EFA / SSM failures (→ hyperpod-cluster-debugger § A / § F).
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
awslabs/agent-plugins☆ 9242026년 10월 15일 업데이트
Install Triton + SageAttention to accelerate ComfyUI (the sageattn attention_mode and inductor torch.compile used by WanVideoWrapper / many video graphs). Windows-first (triton-windows + woct0rdho prebuilt SageAttention wheels matched to torch/CUDA/python into the RIGHT python), plus Linux (official triton + build) and Mac (N/A → sdpa/MPS). Also covers the SAFE sdpa / no-compile fallback so an example that assumes sageattn + torch.compile still runs when these aren't installed (video-extend TRAP 5). Use when a loader crashes with "No module named 'sageattention'" or reports triton unavailable, when asked to speed up Wan/video workflows, or when deciding whether to install acceleration vs. fall back.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
artokun/comfyui-mcp☆ 8402026년 10월 19일 업데이트
Use to select models to run locally with llama.cpp and GGUF on CPU, Mac Metal, CUDA, or ROCm. Covers finding GGUFs, quant selection, running servers, exact GGUF file lookup, conversion, and OpenAI-compatible local serving.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
waybarrios/opencode-power-pack☆ 5412026년 10월 19일 업데이트
Implement or debug Hugging Face Spaces ZeroGPU code using `@spaces.GPU`, including isolation, state, duration, sizing, and CUDA-wheel constraints. Use for ZeroGPU-specific behavior; use huggingface-spaces for general hosting.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
waybarrios/opencode-power-pack☆ 5412026년 10월 19일 업데이트
Expert guide for Backend.AI distributed computing platform. Automatically activates when users ask about: - Backend.AI architecture, components (Manager, Agent, Storage Proxy, Webserver, App Proxy) - Features (session scheduling, Sokovan orchestrator, multi-tenancy, resource allocation) - APIs (REST, GraphQL), authentication, RBAC authorization - Container runtime (kernels, jail sandbox, hook library, virtual folders) - Accelerator support (CUDA, ROCm, TPU, NPU, Graphcore IPU) - Client SDKs (Python, Java, JavaScript, PHP) - Setup, requirements (Python 3.13+, Docker, PostgreSQL, Redis, etcd) - How WebUI connects to/interacts with Backend.AI backend - Plugin interfaces, development setup, infrastructure Use when user mentions "Backend.AI", "backend.ai", "Sokovan", component names, or asks about the backend platform this WebUI connects to. allowed-tools: WebFetch, Read
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Microck/ordinary-claude-skills☆ 4062026년 9월 7일 업데이트
Convert PyTorch AT_DISPATCH macros to AT_DISPATCH_V2 format in ATen C++ code. Use when porting AT_DISPATCH_ALL_TYPES_AND*, AT_DISPATCH_FLOATING_TYPES*, or other dispatch macros to the new v2 API. For ATen kernel files, CUDA kernels, and native operator implementations.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Microck/ordinary-claude-skills☆ 4062026년 9월 7일 업데이트
Use the faster-whisper package for CTranslate2-backed Whisper transcription, model selection, CPU/CUDA setup, audio utilities, VAD, timestamps, and conversion guidance.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트
Use Gaussian-SLAM for CUDA RGB-D dense SLAM, Gaussian-splatting mapping, dataset/configuration preflight, checkpoint evaluation, reconstruction metrics, and global-map refinement.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트
Routes official FlashVSR diffusion-based streaming video super-resolution setup, model preparation, and CUDA inference for v1 and v1.1.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트
Use DreamCraft3D for image-conditioned 3D generation, staged optimization, texture boosting, export, and CUDA troubleshooting.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트
Routes DINO DETR object-detection setup, COCO data validation, CUDA deformable-attention preparation, training, evaluation, inference, visualization, and bounded benchmarking tasks.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트
Guide DeepMedic 0.8.4 workflows for multi-modal 3D NIFTI medical-image segmentation, including data preparation, model configuration, training, checkpoint continuation, inference, and CPU/CUDA troubleshooting.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트
Guides CUDA-accelerated cuRobo v2 robotics workflows for robot models, differentiable kinematics, collision-aware IK and motion planning, trajectory optimization, MPC, perception mapping, and motion retargeting.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
VectorSpaceLab/AREX-Skill☆ 3382026년 9월 3일 업데이트