"Implement a web crawler pipeline covering URL discovery, fetching, parsing, and storage. Use this skill when the user needs to build a site crawler, audit website structure, or collect web data systematically — even if they say 'scrape a website', 'crawl all pages', or 'site audit spider'.".
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
charlieviettq/awesome-agent-skill☆ 262026년 7월 20일 업데이트
Skippable Phase 0 of the Gaia evidence verification pipeline. Use only on declared need for higher-quality Stage-2 evidence: a promotion candidate, or a skill that gaia-meta-sweep flagged as under-evidenced. Given a skill id, source repo/context, and needed evidence types (benchmark-result, arxiv, peer-review, social-signal), it runs Firecrawl searches, scrapes top hits to markdown, and appends discovered sources into Phase 1 inputs. Missing benchmark evidence is recorded as benchmark-source candidates first, not direct scoring rows. Trigger phrases: "discover evidence", "find new evidence", "Phase 0", "run ev-discovery", "search for benchmarks/papers", "under-evidenced", "promotion candidate needs stronger proof". This is the ONLY ev-* skill that searches the web for NEW evidence; other ev-* skills aggregate or verify known sources. Requires Firecrawl to be usable (`firecrawl --status` authenticated OR FIRECRAWL_API_KEY set); skips gracefully when neither holds.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
gaia-research/gaia-skill-tree☆ 232026년 10월 21일 업데이트
Audit robots.txt for AI crawler access policies. Checks GPTBot, ClaudeBot, PerplexityBot, Google-Extended, and other AI crawlers. Use when user says "robots AI", "AI crawlers", "block AI", "allow AI bots", "AI crawl policy".
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
lionkiii/claude-seo-skills☆ 222026년 6월 11일 업데이트
Crawl websites and extract content from multiple pages via the Tavily CLI. Use this skill when the user wants to crawl a site, download documentation, extract an entire docs section, bulk-extract pages, save a site as local markdown files, or says "crawl", "get all the pages", "download the docs", "extract everything under /docs", "bulk extract", or needs content from many pages on the same domain. Supports depth/breadth control, path filtering, semantic instructions, and saving each page as a local markdown file.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
EthanYoQ/Skill-hub☆ 112026년 10월 19일 업데이트
Audit an existing sitemap.xml / robots.txt or generate new ones following sitemaps.org protocol and Google Search Central guidance, with a growth-first default that allows every crawler including AI search and AI training bots. Use this skill whenever the user asks to "build a sitemap", "generate sitemap.xml", "audit the sitemap", "refresh sitemap", "write robots.txt", "check robots", "allow AI crawlers", "block AI crawlers", "fix crawl budget", "submit to Google", or any other discovery / indexing configuration task. Output is a valid sitemap.xml (or sitemap index) and/or robots.txt, plus a written audit when auditing.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
zhizdev/overgrow☆ 72026년 5월 2일 업데이트
Integrate Firecrawl into product code: SDK setup and FIRECRAWL_API_KEY onboarding, /scrape, /search and /interact endpoints. Use when an application (not the agent itself) calls Firecrawl.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
hybridlabor-api/aos☆ 62026년 10월 16일 업데이트
Search the public web and crawl URLs via the Unique AI Platform's `unique-cli web-search` command, with automatic per-turn citation tracking so cited web facts render as clickable external reference chips and `<sup>N</sup>` footnotes on the Unique platform. ALWAYS use this skill when the user asks to search the public web, research a topic online, look up news/articles/regulations, fetch the contents of one or more URLs, or perform any "two-phase" web research (search → review snippets → crawl selected URLs for full content). Routes through the Unique AI Platform's `/web-search-api` endpoints, so the engine (Google, Brave, Tavily, Jina, Firecrawl, …) and crawler are resolved server-side from the current environment — you never need to manage engine API keys yourself. Use this instead of fabricating answers from training data whenever fresh / source-cited information is needed. Do NOT use this skill for the internal knowledge base (`unique-cli search`) or for arbitrary tool execution (`unique-cli mcp`).
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Unique-AG/ai☆ 52026년 10월 21일 업데이트
Web search and scraping via Firecrawl API. Use when you need to search the web, scrape websites (including JS-heavy pages), crawl entire sites, or extract structured data from web pages. Requires FIRECRAWL_API_KEY environment variable.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
danstrem2/clawdbot-skill-master-pack☆ 22026년 2월 1일 업데이트
Bulk extract content from an entire website or site section. Use this skill when the user wants to crawl a site, extract all pages from a docs section, bulk-scrape multiple pages following links, or says "crawl", "get all the pages", "extract everything under /docs", "bulk extract", or needs content from many pages on the same site. Handles depth limits, path filtering, and concurrent extraction.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Scoheart/agentskills☆ 22026년 8월 4일 업데이트
Web scraping, search, crawling, and page interaction via the Firecrawl CLI. Use this skill whenever the user wants to search the web, find articles, research a topic, look something up online, scrape a webpage, grab content from a URL, extract data from a website, crawl documentation, download a site, or interact with pages that need clicks or logins. Also use when they say "fetch this page", "pull the content from", "get the page at https://", or reference scraping external websites. This provides real-time web search with full page content extraction and interact capabilities — beyond what Claude can do natively with built-in tools. Do NOT trigger for local file operations, git commands, deployments, or code editing tasks.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Scoheart/agentskills☆ 22026년 8월 4일 업데이트
Crawl websites and extract content from multiple pages via the Tavily CLI. Use this skill when the user wants to crawl a site, download documentation, extract an entire docs section, bulk-extract pages, save a site as local markdown files, or says "crawl", "get all the pages", "download the docs", "extract everything under /docs", "bulk extract", or needs content from many pages on the same domain. Supports depth/breadth control, path filtering, semantic instructions, and saving each page as a local markdown file.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Scoheart/agentskills☆ 22026년 8월 4일 업데이트
OpenClaw의 PR과 Issue가 기존 작업과 중복되는지 근거로 판단하고, prtags에서 관련 작업을 하나의 그룹으로 묶어 판단 이유와 확신도를 기록합니다.
- PR과 기존 작업의 중복 여부를 확인합니다
- 같은 문제를 보고한 Issue를 찾습니다
- 관련 작업을 하나의 중복 그룹으로 묶습니다
openclaw/openclaw☆ 39.3만2026년 10월 20일 업데이트
로컬에 저장한 Slack 대화를 검색하고 기간별 메시지 조회와 정확한 집계를 수행합니다. 데이터가 최신인지 확인하고 필요하면 동기화하거나 스레드를 가져옵니다.
- Slack의 과거 대화를 찾습니다
- 최근 7일간의 메시지를 확인합니다
- 저장된 메시지 수와 순위를 확인합니다
openclaw/openclaw☆ 39.3만2026년 10월 20일 업데이트
로컬에 저장한 Notion 페이지를 검색하고 데이터베이스 목록, 페이지 수, 동기화 상태를 확인합니다. 필요하면 데이터를 갱신하거나 Markdown 파일을 내보냅니다.
- 저장한 Notion 페이지를 찾습니다
- 데이터베이스 목록과 보고서를 확인합니다
- SQL로 저장된 페이지 수를 셉니다
openclaw/openclaw☆ 39.3만2026년 10월 20일 업데이트
로컬에 저장된 GitHub 데이터에서 Issue, PR, 중복 후보를 찾습니다. 동기화 상태와 정보 누락을 확인하고 판단 전에 최신 상태를 대조합니다.
- 결함과 관련된 Issue와 PR을 찾을 때
- 중복 후보 Issue를 확인할 때
- 대응 결정 전에 저장 정보의 최신성을 확인할 때
openclaw/openclaw☆ 39.3만2026년 10월 20일 업데이트
Granola 로컬 보관 자료에서 회의 메모, 녹취록, 패널을 검색하고 가져옵니다. 동기화 상태를 확인하고 필요할 때 갱신하며, 읽기 전용 SQL로 정확한 개수와 순위를 구합니다.
- 주제로 지난 회의 메모 찾기
- 메모의 녹취록과 패널 가져오기
- 최근 정보 검색 전 동기화 상태 확인
openclaw/openclaw☆ 39.3만2026년 10월 20일 업데이트
Find and fix internal links that lead to missing pages or server errors. Check rendered pages and HTTP responses, then identify URLs to update or remove and explain how broken links affect search engine crawling.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Checking internal links after moving or deleting pages
- Finding broken navigation and in-text links
- Reviewing how broken links affect search engine crawling
thedaviddias/Front-End-Checklist☆ 7.5만2026년 10월 6일 업데이트
Extract webpage content from a URL through 9Router and receive Markdown, plain text, or HTML. Choose among supported extraction services, limit output length, or use a fallback chain that tries another provider when needed.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Convert a webpage to Markdown
- Extract article content as plain text
- Limit extracted content to a chosen character count
decolua/9router☆ 3.1만2026년 10월 15일 업데이트
Explore old files and email archives to rediscover personal writing, ideas, and meaningful conversations. Review selected items one at a time, save worthwhile material as organized notes, and track progress within explicitly permitted folders.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Rediscover old journals and creative writing
- Find meaningful letters and email conversations
- Recover past product and business ideas
garrytan/gbrain☆ 3.1만2026년 10월 20일 업데이트
Convert attached office documents, EPUB, CSV, and text-based PDFs into local Markdown using Firecrawl AnyDoc CLI. Files stay inside the agent container, producing readable text for review without uploading documents to an external parsing service.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Read an attached Word document as Markdown
- Extract reading context from spreadsheets or CSV files
- Convert presentations or EPUB files for text review
nanocoai/nanoclaw☆ 3.1만2026년 10월 21일 업데이트
Extract web page content as Markdown from a single URL or a site crawl. When access is blocked, progressively switch from basic fetching to Chrome and Bright Data proxy services, which route requests through other IP addresses.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Converting a single web page to Markdown
- Extracting content from JavaScript-rendered pages
- Retrieving pages blocked by bot detection
danielmiessler/LifeOS☆ 2만2026년 9월 4일 업데이트
Audit content for AI search by checking clear answers, supporting sources, author and brand information, and crawler access. Receive a readiness report with prioritized improvements and specific suggestions for rewriting passages.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Reviewing content for Google AI Overviews and other AI search
- Rewriting passages into clear, self-contained answers
- Checking crawler access for search and model training separately
AgriciDaniel/claude-seo☆ 1.9만2026년 10월 5일 업데이트
Audit the technical factors that affect how search engines discover and index a website. Check crawl access, URLs, security, mobile pages, loading performance, and JavaScript rendering, then report measured results with prioritized fixes.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Investigate why pages are missing from search results
- Check technical SEO before a launch or site migration
- Review mobile content and page performance
AgriciDaniel/claude-seo☆ 1.9만2026년 10월 5일 업데이트
Assess a website’s readiness for AI search alongside traditional SEO. Review content citation readiness, crawler access, brand mentions, technical foundations, and structured data, then generate scores, prioritized recommendations, and client reports.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
- Audit a website’s readiness for AI search
- Assess a page’s suitability for AI citation
- Check AI crawler access and generate llms.txt
zubair-trabzada/geo-seo-claude☆ 1.1만2026년 10월 20일 업데이트