Hvorfor virker Hugging Face ikke?
Er Hugging Face nede? Øverst måler vi huggingface.co hvert 2. minut, og lige under henter vi Hugging Faces egen driftsside, som melder om otte dele af platformen hver for sig. Det er sjældent hele Hugging Face, der er nede, som regel er det én af de otte.
Hvad er Hugging Face?
Hugging Face er den største åbne platform for maskinlæringsmodeller. Den fungerer som et delt bibliotek, hvor forskere og virksomheder lægger modeller, datasæt og demoer op, og hvor andre kan hente dem ned og køre dem. For danske udviklere er den typisk det sted, en model hentes fra, når noget skal køres lokalt eller på egen server frem for gennem et betalt API.
Otte dele, der fejler hver for sig
Det er værd at kende forskellen, fordi den afgør, om dit problem overhovedet er Hugging Faces:
- Hub, selve webstedet med modeller og datasæt.
- Download af modeller, den del, der leverer filerne, når du henter en model.
- Inference-API, kørsel af modeller hos Hugging Face i stedet for hos dig selv.
- Spaces, de demoer, folk hoster på platformen.
- Levering via AWS og Google Cloud, de to net, filerne distribueres over. Fejler den ene, kan downloads være langsomme fra ét sted i verden og hurtige fra et andet.
Hvorfor et download stopper midtvejs
Den hyppigste sag er ikke et nedbrud, men størrelsen. Modelfiler fylder ofte mange gigabyte, og en afbrudt download ligner en fejl på platformen. Er »Download af modeller« og de to leveringsnet meldt normale ovenfor, mens dit download alligevel knækker, er det som regel din forbindelse, din disk eller en timeout i dit eget værktøj.
Kræver modellen desuden, at du er logget ind eller har accepteret dens licens, får du en adgangsfejl, der intet har med drift at gøre. Det gælder blandt andet flere af de store sprogmodeller.
Hvad Hugging Faces melding dækker
Hugging Face bruger BetterStack til sin driftsside, og vi henter deres tal direkte hvert 5. minut. Står alle otte dele som normale, har Hugging Face ikke selv registreret noget. Det er udbyderens egen vurdering, sammenhold den med vores måling øverst og med brugerrapporterne herunder, hvis din oplevelse er en anden.
Spaces er den del, der oftest driller
Spaces er de demoer, folk hoster på Hugging Face, og de er den hyppigste kilde til »Hugging Face virker ikke«. Et Space kan være nede, fordi ejeren har brugt sin kvote, fordi det er sat på pause efter inaktivitet, eller fordi koden i det fejler, ingen af delene har noget med platformens drift at gøre. Melder Spaces normal drift ovenfor, mens netop dét Space ikke svarer, er det ejerens Space og ikke Hugging Face.
Grænser for hentninger
Hugging Face begrænser, hvor meget der kan hentes fra én adresse i træk, særligt for brugere uden konto. Rammer du grænsen, får du en fejl, der ligner et nedbrud, men som forsvinder efter et stykke tid eller ved at logge ind med en adgangstoken. Bygger du automatik, der henter modeller gentagne gange, er det den langt mest sandsynlige forklaring på pludselige fejl.
Hvorfor to leveringsnet står hver for sig
Filerne distribueres over både AWS og Google Cloud, og de meldes adskilt, fordi de kan fejle hver for sig. Konsekvensen er geografisk: et problem hos den ene kan gøre hentninger langsomme fra Europa og hurtige fra USA, eller omvendt. Oplever du langsomme downloads, mens alt melder normalt, er det derfor værd at prøve igen senere frem for at lede efter fejlen hos dig selv.
