Claude führt Fine-Tuning von Open-Source-LLMs mit Hugging Face Skills durch

Claude führt Fine-Tuning von Open-Source-LLMs mit Hugging Face Skills durch

Wir haben Claude mit einem neuen Tool namens Hugging Face Skills die Fähigkeit gegeben, Sprachmodelle per Fine-Tuning anzupassen. Das bedeutet: Claude kann nicht nur Trainingsskripte schreiben, sondern tatsächlich Jobs an Cloud-GPUs übermitteln, den Fortschritt überwachen und fertige Modelle auf den Hugging Face Hub hochladen. Dieses Tutorial zeigt Ihnen genau, wie das funktioniert und wie Sie es selbst nutzen können.

Claude Code kann „Skills“ nutzen, also gebündelte Anweisungen, Skripte und Fachwissen, um spezialisierte Aufgaben zu erledigen. Der Skill hf-llm-trainer vermittelt Claude alles, was es über Training wissen muss: welche GPU für Ihre Modellgröße geeignet ist, wie die Hub-Authentifizierung konfiguriert wird, wann LoRA und wann vollständiges Fine-Tuning sinnvoll ist und wie die Dutzenden weiteren Entscheidungen zu treffen sind, die zu einem erfolgreichen Trainingslauf gehören.

Mit diesem Skill können Sie Claude zum Beispiel sagen: Führe ein Fine-Tuning von Qwen3-0.6B auf dem Datensatz trl-lib/Capybara durch

Und Claude wird:

• Das Format Ihres Datensatzes validieren
• Die passende Hardware auswählen (t4-small für ein 0.6B-Modell)
• Ein Trainingsskript mit Trackio-Monitoring verwenden und anpassen
• Den Job an Hugging Face Jobs übermitteln
• Die Job-ID und die geschätzten Kosten melden
• Auf Nachfrage den Fortschritt prüfen
• Ihnen beim Debugging helfen, falls etwas schiefgeht

Das Modell wird auf GPUs von Hugging Face trainiert, während Sie sich anderen Dingen widmen. Sobald es fertig ist, erscheint Ihr feinabgestimmtes Modell auf dem Hub und ist sofort einsatzbereit.

Das ist keine Spielerei. Der Skill unterstützt dieselben Trainingsmethoden, die auch in der Produktion eingesetzt werden: Supervised Fine-Tuning, Direct Preference Optimization und Reinforcement Learning mit verifizierbaren Belohnungen. Sie können Modelle mit 0.5B bis 70B Parametern trainieren, sie für den lokalen Einsatz in GGUF konvertieren und mehrstufige Pipelines ausführen, die verschiedene Techniken kombinieren.

Einrichtung und Installation

Bevor Sie beginnen, benötigen Sie:

• Ein Hugging-Face-Konto mit Pro- oder Team-Tarif (Jobs erfordern einen kostenpflichtigen Tarif)
• Ein Token mit Schreibzugriff von huggingface.co/settings/tokens
• Einen Coding-Agent wie Claude Code, OpenAI Codex oder die Gemini CLI von Google

Hugging Face Skills sind mit Claude Code, Codex und der Gemini CLI kompatibel. Integrationen für Cursor, Windsurf und Continue sind in Arbeit.

Claude Code

Registrieren Sie das Repository als Plugin-Marketplace: /plugin marketplace add huggingface/skills

Um einen Skill zu installieren, führen Sie aus: /plugin install <skill-folder>@huggingface-skills

Zum Beispiel: /plugin install hf-llm-trainer@huggingface-skills

Codex

Codex erkennt die Skills über die Datei AGENTS.md. Mit folgendem Befehl können Sie prüfen, ob die Anweisungen geladen sind: codex --ask-for-approval never "Summarize the current instructions."

Weitere Details finden Sie im AGENTS-Leitfaden von Codex.

Gemini CLI

Dieses Repository enthält die Datei gemini-extension.json für die Integration mit der Gemini CLI.

Lokal installieren: gemini extensions install . --consent

oder die GitHub-URL verwenden: gemini extensions install https://github.com/huggingface/skills.git --consent

Weitere Hilfe finden Sie in der Dokumentation zu den Gemini-CLI-Erweiterungen.

Mit Hugging Face verbinden

Sie müssen Ihr Hugging-Face-Konto mit einem Token mit Schreibzugriff authentifizieren, damit der Job ein Modell-Repository anlegen kann.

Richten Sie Ihr Token ein: hf auth login

oder

export HF_TOKEN=hf_your_write_access_token_here

HINWEIS: Konfigurieren Sie den Hugging Face MCP Server so, dass er Ihr Schreib-Token verwendet, indem Sie es entweder im HTTP-Header HF_TOKEN oder Authorization: Bearer mitsenden.

Ihr erster Trainingslauf

Gehen wir ein vollständiges Beispiel durch. Wir passen ein kleines Modell per Fine-Tuning an, um den gesamten Workflow zu sehen, und erkunden anschließend fortgeschrittenere Funktionen.

Den Coding-Agent anweisen

Beginnen Sie mit einer einfachen und klaren Anweisung, ein bestimmtes Modell feinabzustimmen: Führe ein Fine-Tuning von Qwen3-0.6B auf dem Datensatz open-r1/codeforces-cots für Instruction Following durch.

Der Coding-Agent analysiert Ihre Anfrage und bereitet eine Trainingskonfiguration vor. Für ein 0.6B-Modell auf einem Demo-Datensatz wählt er t4-small: genug GPU-Leistung für diese Modellgröße und die günstigste verfügbare Option.

Der Datensatz open-r1/codeforces-cots enthält Aufgaben und Lösungen von Codeforces. Er eignet sich gut für das Instruction Tuning eines Modells, das schwierige Programmieraufgaben lösen soll.

Vor dem Absenden prüfen

Bevor Ihr Coding-Agent etwas übermittelt, sehen Sie die Konfiguration: Ich führe ein Fine-Tuning von Qwen/Qwen3-0.6B auf open-r1/codeforces-cots mit SFT durch. Konfiguration:

• Hardware: t4-small (~$0.75/Stunde)
• Geschätzte Dauer: ~20 Minuten
• Geschätzte Kosten: ~$0.30
• Ausgabe: username/qwen-codeforces-cots-sft Das Modell wird automatisch auf den Hub hochgeladen. Soll ich den Job absenden?

Jetzt haben Sie die Gelegenheit, Anpassungen vorzunehmen. Ändern Sie den Namen des Ausgabe-Repositorys, wählen Sie andere Hardware oder bitten Sie Claude, die Trainingsparameter zu ändern.

Sie können den Agent zum Beispiel um einen Testlauf bitten: Mach einen kurzen Testlauf mit 100 Beispielen.

Fortschritt verfolgen

Nach dem Absenden erhalten Sie die Job-Details: ✅ Job erfolgreich übermittelt! Job-ID: abc123xyz Monitoring: https://huggingface.co/jobs/username/abc123xyz Erwartete Dauer: ~20 Minuten Geschätzte Kosten: ~$0.30 Echtzeit-Metriken ansehen unter: https://huggingface.co/spaces/username/trackio

Der Skill enthält eine Trackio-Integration, sodass Sie in Echtzeit verfolgen können, wie der Training Loss sinkt. Jobs laufen asynchron, Sie können also Ihr Terminal schließen und später zurückkehren. Wenn Sie ein Update möchten: Wie läuft mein Trainingsjob?

Dann ruft der Agent die Logs ab und fasst den Fortschritt zusammen.

Ihr Modell verwenden

Wenn das Training abgeschlossen ist, liegt Ihr Modell auf dem Hub: from transformers import AutoModelForCausalLM, AutoTokenizer model = AutoModelForCausalLM.from_pretrained("username/qwen-codeforces-cots-sft") tokenizer = AutoTokenizer.from_pretrained("username/qwen-codeforces-cots-sft")

Das ist der komplette Ablauf. Sie haben in einfachen Worten beschrieben, was Sie wollten, und der Agent hat GPU-Auswahl, Skripterstellung, Job-Übermittlung, Authentifizierung und Speicherung übernommen. Das Ganze kostete etwa dreißig Cent.

Trainingsmethoden

Der Skill unterstützt drei Trainingsansätze. Wenn Sie wissen, wann welcher Ansatz sinnvoll ist, erzielen Sie bessere Ergebnisse.

Supervised Fine-Tuning (SFT)

Mit SFT beginnen die meisten Projekte. Sie stellen Demonstrationsdaten bereit, also Beispiele für Eingaben und gewünschte Ausgaben, und das Training passt das Modell so an, dass es diesen Mustern folgt.

Nutzen Sie SFT, wenn Sie hochwertige Beispiele für das gewünschte Verhalten haben. Kundensupport-Gespräche, Paare zur Codegenerierung, domänenspezifische Fragen und Antworten: alles, womit Sie dem Modell zeigen können, wie gute Ergebnisse aussehen.

Führe ein Fine-Tuning von Qwen3-0.6B auf my-org/support-conversations über 3 Epochen durch.

Der Agent validiert den Datensatz, wählt die Hardware aus (a10g-large mit LoRA für ein 7B-Modell) und konfiguriert das Training mit Checkpoints und Monitoring.

Bei Modellen mit mehr als 3B Parametern verwendet der Agent automatisch LoRA (Low-Rank Adaptation), um den Speicherbedarf zu senken. Dadurch lassen sich 7B- oder 13B-Modelle auf einzelnen GPUs trainieren, wobei der Großteil der Qualität eines vollständigen Fine-Tunings erhalten bleibt.

Direct Preference Optimization (DPO)

DPO trainiert auf Präferenzpaaren, also auf Antworten, von denen eine als „chosen“ und eine andere als „rejected“ markiert ist. So werden die Ausgaben des Modells an menschliche Präferenzen angeglichen, typischerweise nach einer ersten SFT-Phase.

Nutzen Sie DPO, wenn Sie Präferenzannotationen von menschlichen Annotatoren oder aus automatisierten Vergleichen haben. DPO optimiert direkt auf die bevorzugte Antwort, ohne dass ein separates Reward-Modell nötig ist.

Führe DPO auf my-org/preference-data aus, um das SFT-Modell abzustimmen, das ich gerade trainiert habe.

Der Datensatz hat die Spalten 'chosen' und 'rejected'.

DPO reagiert empfindlich auf das Datensatzformat. Es erfordert Spalten mit genau den Namen chosen und rejected oder eine Spalte prompt mit der Eingabe. Der Agent prüft dies zuerst und zeigt Ihnen, wie Sie die Spalten zuordnen, falls Ihr Datensatz andere Namen verwendet.

Group Relative Policy Optimization (GRPO)

GRPO ist ein Reinforcement-Learning-Verfahren, das sich bei verifizierbaren Aufgaben als wirksam erwiesen hat, etwa beim Lösen von Mathematikaufgaben, beim Schreiben von Code oder bei jeder Aufgabe mit einem programmatisch prüfbaren Erfolgskriterium.

Trainiere ein Modell für mathematisches Reasoning mit GRPO auf dem Datensatz openai/gsm8k auf Basis von Qwen3-0.6B.

Das Modell generiert Antworten, erhält Belohnungen auf Basis der Korrektheit und lernt aus den Ergebnissen. Das ist komplexer als SFT oder DPO, die Konfiguration ist jedoch ähnlich.

Hardware und Kosten

Der Agent wählt die Hardware anhand Ihrer Modellgröße aus, doch wenn Sie die Zielkonflikte kennen, können Sie bessere Entscheidungen treffen.

Zuordnung von Modellgröße zu GPU

• Für sehr kleine Modelle unter 1B Parametern eignet sich t4-small gut. Diese Modelle trainieren schnell, rechnen Sie mit $1-2 für einen vollständigen Lauf. Das ist ideal für Lern- oder Experimentierläufe.
• Für kleine Modelle (1-3B) wechseln Sie zu t4-medium oder a10g-small. Das Training dauert einige Stunden und kostet $5-15.
• Für mittlere Modelle (3-7B) benötigen Sie a10g-large oder a100-large mit LoRA. Ein vollständiges Fine-Tuning passt nicht in den Speicher, doch mit LoRA lassen sich diese Modelle gut trainieren. Planen Sie für die Produktion $15-40 ein.
• Für große Modelle (7B+) ist dieser HF-Skills-Job nicht geeignet.

Demo vs. Produktion

Wenn Sie einen Workflow testen, fangen Sie klein an: Mach einen kurzen Testlauf für SFT von Qwen-0.6B mit 100 Beispielen aus my-org/support-conversations.

Der Coding-Agent konfiguriert ein minimales Training, gerade genug, um zu prüfen, ob Ihre Pipeline funktioniert, ohne nennenswerte Kosten.

Für die Produktion formulieren Sie explizit: SFT von Qwen-0.6B für die Produktion auf dem vollständigen Datensatz my-org/support-conversations. Checkpoints alle 500 Schritte, 3 Epochen, Cosine Learning Rate.

Führen Sie immer eine Demo durch, bevor Sie sich auf einen mehrstündigen Produktionsjob festlegen. Eine Demo für $0.50, die einen Formatfehler aufdeckt, erspart Ihnen einen fehlgeschlagenen Lauf für $30.

Erweiterte Funktionen

Validierung von Datensätzen

Das Datensatzformat ist die häufigste Ursache für fehlgeschlagene Trainings. Der Agent kann Datensätze validieren, bevor Sie GPU-Zeit investieren.

Prüfe, ob my-org/conversation-data für SFT-Training geeignet ist.

Der Agent führt eine schnelle Prüfung auf der CPU durch (für Bruchteile eines Cents) und meldet: Datensatzvalidierung für my-org/conversation-data: SFT: ✓ BEREIT Spalte 'messages' im Gesprächsformat gefunden DPO: ✗ INKOMPATIBEL Spalten 'chosen' und 'rejected' fehlen

Wenn Ihr Datensatz umgewandelt werden muss, kann der Agent Ihnen zeigen, wie das geht: Mein DPO-Datensatz verwendet 'good_response' und 'bad_response' statt 'chosen' und 'rejected'. Wie behebe ich das?

Der Agent liefert Code für die Zuordnung und kann ihn direkt in Ihr Trainingsskript einbauen.

Training überwachen

Echtzeit-Monitoring hilft Ihnen, Probleme früh zu erkennen. Der Skill konfiguriert standardmäßig Trackio. Nach dem Absenden eines Jobs können Sie die Metriken hier verfolgen: https://huggingface.co/spaces/username/trackio

Dort sehen Sie Training Loss, Learning Rate und Validierungsmetriken. Ein gesunder Lauf zeigt einen stetig sinkenden Loss.

Fragen Sie den Agent jederzeit nach dem Status: Wie ist der Status meines Trainingsjobs?

Job abc123xyz läuft (45 Minuten vergangen) Aktueller Schritt: 850/1200 Training Loss: 1.23 (↓ von 2.41 zu Beginn) Learning Rate: 1.2e-5 Voraussichtlicher Abschluss: ~20 Minuten

Wenn etwas schiefgeht, hilft der Agent bei der Diagnose. Kein Speicher mehr? Der Agent schlägt vor, die Batch-Größe zu verringern oder die Hardware aufzurüsten. Fehler im Datensatz? Der Agent identifiziert die Abweichung. Timeout? Der Agent empfiehlt eine längere Laufzeit oder schnellere Trainingseinstellungen.

Konvertierung in GGUF

Nach dem Training möchten Sie Ihr Modell vielleicht lokal ausführen. Das GGUF-Format funktioniert mit llama.cpp und darauf aufbauenden Tools wie LM Studio, Ollama usw.

Konvertiere mein feinabgestimmtes Modell in GGUF mit Q4_K_M-Quantisierung. Lade es auf username/my-model-gguf hoch.

Der Agent übermittelt einen Konvertierungsjob, der LoRA-Adapter zusammenführt, in GGUF konvertiert, die Quantisierung anwendet und das Ergebnis auf den Hub hochlädt.

Anschließend nutzen Sie es lokal: llama-server -hf <username>/<model-name>:<quantization>

Zum Beispiel, um das Modell Qwen3-1.7B-GGUF auf Ihrem lokalen Rechner auszuführen:

llama-server -hf unsloth/Qwen3-1.7B-GGUF:Q4_K_M

Wie es weitergeht

Wir haben gezeigt, dass Coding-Agents wie Claude Code, Codex oder Gemini CLI den gesamten Lebenszyklus des Fine-Tunings von Modellen abdecken können: Daten validieren, Hardware auswählen, Skripte generieren, Jobs übermitteln, den Fortschritt überwachen und Ausgaben konvertieren. Damit wird aus einer Spezialkompetenz etwas, das Sie im Dialog erledigen können.

Einige Ideen zum Ausprobieren:

• Ein Modell auf Ihrem eigenen Datensatz feinabstimmen
• Ein an Präferenzen ausgerichtetes Modell mit SFT → DPO aufbauen
• Ein Reasoning-Modell mit GRPO auf Mathematik oder Code trainieren
• Ein Modell in GGUF konvertieren und mit Ollama ausführen

Der Skill ist Open Source. Sie können ihn erweitern, an Ihre Workflows anpassen oder als Ausgangspunkt für andere Trainingsszenarien nutzen.

Ressourcen

• SKILL.md: Vollständige Dokumentation des Skills
• Trainingsmethoden: SFT, DPO und GRPO erklärt
• Hardware-Leitfaden: GPU-Auswahl und Kosten
• TRL-Dokumentation: Die zugrunde liegende Trainingsbibliothek
• Hugging Face Jobs: Cloud-Infrastruktur für das Training
• Trackio: Echtzeit-Monitoring des Trainings