Hub documentation
Hub Rate limits
Hub Rate limits
ํ๋ซํผ์ ๋ฌด๊ฒฐ์ฑ์ ๋ณดํธํ๊ณ ๊ฐ๋ฅํ ํ ๋ง์ AI ์ปค๋ฎค๋ํฐ ๊ตฌ์ฑ์์๊ฒ ์๋น์ค๋ฅผ ์ ๊ณตํ๊ธฐ ์ํด, Hugging Face Hub๋ก ์ ์ก๋๋ ๋ชจ๋ ์์ฒญ์ ๋ํด ์๋ ์ ํ์ ์ ์ฉํฉ๋๋ค.
์์ฒญ์ ์๋ก ๋ค๋ฅธ ํด๋์ค์ ๋ํด ์๋ก ๋ค๋ฅธ ์๋ ์ ํ์ ์ ์ํฉ๋๋ค. ์ธ ๊ฐ์ง ์ฃผ์ ๋ฒํท์ ๊ตฌ๋ถํฉ๋๋ค:
- Hub APIs
- ์๋ฅผ ๋ค์ด ๋ชจ๋ธ ๋๋ ๋ฐ์ดํฐ์ ๊ฒ์, ์ ์ฅ์ ์์ฑ, ์ฌ์ฉ์ ๊ด๋ฆฌ ๋ฑ์ ๋๋ค. ์ด ๋ฒ์ฃผ์ ์ํ๋ ๋ชจ๋ ์๋ํฌ์ธํธ๋ Hub API Endpoints์ ๋ฌธ์ํ๋์ด ์์ต๋๋ค.
- Resolvers
- ๋ชจ๋ ๊ฒฝ๋ก์
/resolve/์ธ๊ทธ๋จผํธ๋ฅผ ํฌํจํ์ฌ Hub์์ ์ฌ์ฉ์ ์์ฑ ์ฝํ ์ธ ๋ฅผ ์๋นํ๋ URL์ ๋๋ค. ๊ตฌ์ฒด์ ์ผ๋ก, ์ด๋ฌํ URL์ ์คํ ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ(transformers, datasets, vLLM, llama.cpp, โฆ) ๋๋ AI ์ ํ๋ฆฌ์ผ์ด์ (LM Studio, Jan, ollama, โฆ)์ด HF์์ ๋ชจ๋ธ/๋ฐ์ดํฐ์ ํ์ผ์ ๋ค์ด๋ก๋ํ๋๋ก ๊ตฌ์ฑํ๋ URL์ ๋๋ค. - ๊ตฌ์ฒด์ ์ผ๋ก, ์ด๋ OpenAPI ์คํ์ ๋ฌธ์ํ๋ โResolve a fileโ ์๋ํฌ์ธํธ์ ๋๋ค.
- Resolve ์์ฒญ์ ์ปค๋ฎค๋ํฐ์์ ๋๋ฆฌ ์ฌ์ฉ๋๋ฉฐ, ์ด๋ฅผ ์ต๋ํ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํ๊ธฐ ์ํด ์ธํ๋ผ๋ฅผ ์ต์ ํํ๊ณ ์์ผ๋ฏ๋ก Resolver์ ์๋ ์ ํ์ ๊ฐ์ฅ ๋๊ฒ ์ค์ ๋์ด ์์ต๋๋ค.
- ๋ชจ๋ ๊ฒฝ๋ก์
- Pages
- huggingface.co์์ ํธ์คํ ํ๋ ๋ชจ๋ ์น ํ์ด์ง.
- ์ผ๋ฐ์ ์ผ๋ก ์น ๋ธ๋ผ์ฐ์ ์์ฒญ์ ์ฌ๋์ด ์ํํ๋ฏ๋ก, ์์์ ์ธ๊ธํ ํ๋ก๊ทธ๋๋งคํฑ ์๋ํฌ์ธํธ๋งํผ ๋์ ๋ ์ดํธ ๋ฆฌ๋ฐ์ด ํ์ํ์ง ์์ต๋๋ค.
๋ชจ๋ ๊ฐ์ 5๋ถ ์๋์ฐ์ ๊ฑธ์ณ ์ ์๋๋ฉฐ, ์ด๋ ์ ํ๋ฆฌ์ผ์ด์ ๋๋ ๊ฐ๋ฐ์์ ๊ด์ ์์ ์ผ์ ์์ค์ โ๋ฒ์คํฐ๋์ค(burstiness)โ๋ฅผ ํ์ฉํฉ๋๋ค.
์ฌ์ฉ์, ์กฐ์ง ๋๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ ๋์ rate limit์ด ํ์ํ ๊ฒฝ์ฐ, PRO, Team ๋๋ Enterprise ๊ณ์ ์ผ๋ก ์ ๊ทธ๋ ์ด๋ํ๋ ๊ฒ์ ๊ถ์ฅํฉ๋๋ค. PRO, Team ๋ฐ Enterprise ๊ณ ๊ฐ์ ์ง์ ์์ฒญ์ ์ฐ์ ์ฒ๋ฆฌํ๋ฉฐ, Rate limit Tiers์์ ๋ด์ฅ๋ ํ๋๋ฅผ ํ์ธํ์ธ์.
Billing dashboard
์ธ์ ๋ (๋ณธ์ธ ๋๋ ์กฐ์ง์) Billing ํ์ด์ง์์ https://huggingface.co/settings/billing rate limit ์ํ๋ฅผ ํ์ธํ ์ ์์ต๋๋ค.

์ค๋ฅธ์ชฝ์๋ Requests์ ๊ฐ ๋ฒํท์ ํด๋นํ๋ ๊ฒ์ด์ง 3๊ฐ๊ฐ ํ์๋ฉ๋๋ค.
๊ฐ ๋ฒํท์ ํ์ฌ(์ต๊ทผ 5๋ถ) ์์ฒญ ์์ ์ฌ์ฉ์ ๊ณ์ ๋๋ ์กฐ์ง ํ๋์ ๋ฐ๋ผ ํ์ฉ๋๋ ์์ฒญ ์๋ฅผ ํ์ํฉ๋๋ค.
์ง๋ 5๋ถ ๋์ ํ๋๋ฅผ ์ด๊ณผํ ๋๋ง๋ค(๋ทฐ๋ ์ค์๊ฐ์ผ๋ก ์ ๋ฐ์ดํธ๋ฉ๋๋ค) ๋ง๋๊ฐ ๋นจ๊ฐ์์ผ๋ก ๋ณํฉ๋๋ค.
Note: ์ปจํ ์คํธ ์ค์์ฒ๋ฅผ ์ฌ์ฉํ๋ฉด ์ฌ์ฉ์ ๊ณ์ ๊ณผ ์กฐ์ง ์ฌ์ด๋ฅผ ์ฝ๊ฒ ์ ํํ ์ ์์ต๋๋ค.
HTTP ํค๋
์ฌ์ฉ์ ๋๋ ์กฐ์ง์ด rate limit์ ๋๋ฌํ๋ฉด 429 Too Many Requests HTTP ์ค๋ฅ๊ฐ ๋ฐํ๋ฉ๋๋ค.
โRateLimit HTTP header fields for HTTPโ๋ผ๋ ์ ๋ชฉ์ IETF ์ด์(Version 9)(draft-ietf-httpapi-ratelimit-headers์ผ๋ก๋ ์๋ ค์ง)์ ์ค๋ช
๋ ๋ฉ์ปค๋์ฆ์ ๊ตฌํํ์ต๋๋ค.
๋ชฉํ๋ ์๋ฒ๊ฐ ์ฟผํฐ/๋ ์ดํธ ๋ฆฌ๋ฐ ์ ์ฑ ์ ๊ด๊ณ ํ๊ณ ํ์ฌ ์ฌ์ฉ๋/ํ๋๋ฅผ ํด๋ผ์ด์ธํธ์ ์ ๋ฌํ์ฌ ํด๋ผ์ด์ธํธ๊ฐ ์ค๋กํ๋ง์ ํผํ ์ ์๋๋ก ํ๋ ํ์คํ๋ HTTP ํค๋๋ฅผ ์ ์ํ๋ ๊ฒ์ ๋๋ค.
์ ํํ ๋งํด, ์ฐ๋ฆฌ๋ ๋ค์ ํค๋๋ฅผ ๊ตฌํํฉ๋๋ค:
| ํค๋ | ๋ชฉ์ / ์๋ฏธ |
|---|---|
RateLimit | ํ์ฌ ์๋์ฐ์ ๋ํด ํ์ฉ๋๋ ์ด ๋ ์ดํธ ๋ฆฌ๋ฐ. โ(์ด ์ ํ์) ์์ฒญ์ ์ํํ ์ ์๋ ํ์.โ |
RateLimit-Policy | rate limit policy ์์ฒด๋ฅผ ํฌํจํฉ๋๋ค(์: โ5๋ถ๋น 100๊ฐ ์์ฒญโ). ์ ๋ณด ์ ๊ณต์ฉ์ด๋ฉฐ, ํด๋ผ์ด์ธํธ๊ฐ ์ ์ฉ๋ฐ๋ ์ ์ฑ ์ด ๋ฌด์์ธ์ง ๋ณด์ฌ์ค๋๋ค. |
๋ค์์ ์์ ์ธํธ์ ๋๋ค:
| ํค๋ | ์์ |
|---|---|
RateLimit | "api\|pages\|resolvers";r=[remaining];t=[seconds remaining until reset] |
RateLimit-Policy | "fixed window";"api\|\pages\|resolvers";q=[total allowed for window];w=[window duration in seconds] |
์๋ ์ ํ ํฐ์ด
2025๋ 9์ ๊ธฐ์ค ์๊ธ์ ์ ๋ฐ๋ฅธ ํ์ฌ ์๋ ์ ํ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
| ๊ณํ | API | ๋ฆฌ์กธ๋ฒ | ํ์ด์ง |
|---|---|---|---|
| ์ต๋ช ์ฌ์ฉ์ (IP ์ฃผ์๋ณ) | 500 * | 3,000 * | 100 * |
| ๋ฌด๋ฃ ์ฌ์ฉ์ | 1,000 * | 5,000 * | 200 * |
| PRO ์ฌ์ฉ์ | 2,500 | 12,000 | 400 |
| ํ ์กฐ์ง | 3,000 | 20,000 | 400 |
| ์ํฐํ๋ผ์ด์ฆ ์กฐ์ง | 6,000 | 50,000 | 600 |
| Enterprise Plus ์กฐ์ง | 10,000 | 100,000 | 1,000 |
| Enterprise Plus ์กฐ์ง โHigher Hub Rate Limitsโ ํ์ฑํ | 100,000 | 500,000 | 10,000 |
| Academia Hub ์กฐ์ง | 3,000 | 20,000 | 400 |
* ์ต๋ช ๋ฐ ๋ฌด๋ฃ ์ฌ์ฉ์๋ ํ๋ซํผ์ ์ํ์ ๋ฐ๋ผ ์๊ฐ์ด ์ง๋จ์ ๋ฐ๋ผ ๋ณ๊ฒฝ๋ ์ ์์ต๋๋ค ๐ค
๋ชจ๋ ํ ๋น๋์ 5๋ถ ๊ณ ์ ์๋์ฐ ๊ธฐ์ค์ผ๋ก ๊ณ์ฐ๋ฉ๋๋ค.
Note: ์กฐ์ง์ ๊ฒฝ์ฐ, ์๋ ์ ํ์ ๋ฉค๋ฒ ๊ฐ์ ๊ณต์ ๋์ง ์๊ณ ๊ฐ ๋ฉค๋ฒ๋ณ๋ก ๊ฐ๋ณ์ ์ผ๋ก ์ ์ฉ๋ฉ๋๋ค.
What if I get rate-limited
๋จผ์ , HF_TOKEN๋ฅผ ํญ์ ์ ๋ฌํ๊ณ , Hub์์ ์ฝํ
์ธ ๋ฅผ ๋ค์ด๋ก๋ํ๋ ๋ชจ๋ ํ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ ์ ํ๋ฆฌ์ผ์ด์
์ผ๋ก ์ ๋ฌ๋๋๋ก ํ์ธํ์ธ์.
์ด๊ฒ์ ์ฌ์ฉ์๊ฐ rate limit์ ๊ฑธ๋ฆฌ๋ ๊ฐ์ฅ ํํ ์ด์ ์ด๋ฉฐ, ๋งค์ฐ ์ฝ๊ฒ ํด๊ฒฐํ ์ ์์ต๋๋ค.
HF_TOKEN๋ฅผ ์ ๋ฌํ์์๋ ์ฌ์ ํ ์๋ ์ ํ์ด ์ ์ฉ๋๋ ๊ฒฝ์ฐ, ๋ค์์ ์ํํ ์ ์์ต๋๋ค:
- ์์ฒญ์ ๋ ๊ธด ์๊ฐ ๋์ ๋ถ์ฐํ์ฌ ๋ณด๋ด์ธ์
- ๊ฐ๋ฅํ ๊ฒฝ์ฐ Hub API ํธ์ถ์ Resolver ํธ์ถ๋ก ๋์ฒดํ์ธ์ (Resolver์ ์๋ ์ ํ์ด ํจ์ฌ ๋๊ณ ํจ์ฌ ๋ ์ต์ ํ๋์ด ์์ต๋๋ค).
- PRO, Team ๋๋ Enterprise๋ก ์ ๊ทธ๋ ์ด๋ํ์ธ์.
huggingface_hub๋ฅผ ํ์ฉํ ์ค๋งํธํ ๋ ์ดํธ ๋ฆฌ๋ฐ ์ฒ๋ฆฌ
Hub Python Library huggingface_hub(๋ฒ์ 1.2.0+)์๋ rate limit ์ค๋ฅ๋ฅผ ์ํ ์ค๋งํธ ์ฌ์๋ ์ฒ๋ฆฌ๊ฐ ํฌํจ๋์ด ์์ต๋๋ค.
429 ์ค๋ฅ๊ฐ ๋ฐ์ํ๋ฉด SDK๋ RateLimit ํค๋๋ฅผ ์๋์ผ๋ก ํ์ฑํ์ฌ ์๋ ์ ํ์ด ์ฌ์ค์ ๋๊ธฐ๊น์ง์ ์ ํํ ์ด๋ฅผ ์ถ์ถํ ํ, ํด๋น ์๊ฐ๋งํผ ์ ํํ ๋๊ธฐํ ๋ค ์ฌ์๋ํฉ๋๋ค. ์ด๋ ํ์ผ ๋ค์ด๋ก๋(์ฆ, Resolvers) ๋ฐ ํ์ด์ง๋ค์ด์
๋ Hub API ํธ์ถ(๋ชจ๋ธ, ๋ฐ์ดํฐ์
, ์คํ์ด์ค ๋ชฉ๋ก ๋ฑ)์ ์ ์ฉ๋ฉ๋๋ค.
์ด ์ต์ ํ๋ ์ฌ์๋ ๋์์ ์ด์ ์ ๋๋ฆฌ๊ณ ์ฌ์ฉ์ ์ ์ ์๋ ์ ํ ์ฒ๋ฆฌ๋ฅผ ๊ตฌํํ์ง ์๋๋ก, Hub์ ๋ํ ๋ชจ๋ ํ๋ก๊ทธ๋๋งคํฑ ์ก์ธ์ค์๋ huggingface_hub ์ฌ์ฉ์ ๊ฐ๋ ฅํ ๊ถ์ฅํฉ๋๋ค.
์ธ๋ถํ๋ ์ฌ์ฉ์ ์์ Rate limits
์ด๋ฌํ ์ฃผ์ ๋ ์ดํธ ๋ฆฌ๋ฐ ํด๋์ค ์ธ์๋, ๋ค์๊ณผ ๊ฐ์ ํน์ ์ ํ์ ์ฌ์ฉ์ ์์ ์ ๋ํด ์ ํ์ ์ ์ฉํฉ๋๋ค:
- ๋ฆฌํฌ์งํ ๋ฆฌ ์์ฑ
- repo ์ปค๋ฐ
- ํ ๋ก ๋ฐ ๋๊ธ
- ๋ชจ๋๋ ์ด์ ์กฐ์น
- ๋ฑ
ํด๋น ํน์ ์์ ์ ์๋ ์ ํ์ ์๊ฐ์ด ์ง๋จ์ ๋ฐ๋ผ ์์ฃผ ๋ณ๊ฒฝ๋๋ ๊ฒฝํฅ์ด ์์ด ํ์ฌ ๋ฌธ์ํ๋์ด ์์ง ์์ต๋๋ค. ํ ๋น๋(quota) ์ค๋ฅ๊ฐ ๋ฐ์ํ๋ฉด PRO, Team ๋๋ Enterprise ๊ณ์ ์ผ๋ก ์ ๊ทธ๋ ์ด๋ํ์๊ธฐ๋ฅผ ๊ถ์ฅํฉ๋๋ค. ์ง์ ํ์ ํตํด ์ธ์ ๋ ์ง ๋ฌธ์ํด ์ฃผ์ธ์.
Update on GitHub