Anthropic mit Unsloth verbinden: Claude-Modelle im lokalen Chat ausführen

Verbinden Sie die Anthropic API mit Unsloth um direkt neben Ihren lokalen Modellen in einer Open-Source-Chat-Oberfläche mit Claude-Modellen, einschließlich Claude Opus 4.7, zu chatten. Diese Anleitung zeigt Ihnen, wie Sie einen Anthropic-API-Schlüssel erstellen, Anthropic in Unsloth als Anbieter hinzufügen, Claude-LLMs laden und mit dem Chatten beginnen.

Unterstützte Claude-Modelle in Unsloth können außerdem auf erweiterte Funktionen wie Thinking, Websuche, Anthropic Codeausführung und Prompt-Caching zugreifen, um die Kosteneffizienz zu verbessern.

Einrichtung

1

Erstellen Sie einen Anthropic-API-Schlüssel

Erstellen Sie einen API-Schlüssel über die Anthropic-Konsole. Kopieren Sie den Schlüssel. Sie fügen ihn im nächsten Schritt in Unsloth ein.

2

Anthropic mit Unsloth verbinden

Verbinden Sie nun Anthropic mit Unsloth.

1. Öffnen Sie Einstellungen → Verbindungen, klicken Sie dann auf Verbindung hinzufügen.

2. Wählen Sie den Anbieter aus, den Sie hinzufügen möchten, und fügen Sie dann den zuvor kopierten API-Schlüssel ein.

3. Klicken Sie auf Modelle neu laden um die Liste mit den für Ihr Konto verfügbaren Modellen zu aktualisieren.

4. Wählen Sie die Modelle aus, die Sie aktivieren möchten, und klicken Sie dann auf Speichern.

3

Bereit zum Chatten

Nach dem Speichern der Verbindung wählen Sie ein Claude-Modell unter Verbunden im Modell-Dropdown aus. Unterstützte Claude-Modelle können zusätzliche Steuerelemente für Bildgenerierung, Thinking, Websuche und Codeausführung bereitstellen.

Codeausführung

Wenn aktiviert, können unterstützte Claude-Modelle Code in der Sandbox des Anthropic-Anbieters ausführen, um Probleme zu lösen, Daten zu analysieren und mit Dateien zu arbeiten. Claude verwendet das Codeausführungstool von Anthropic. Die Codeausführung erscheint in der Antwort-Timeline als Tool-Aktivität, zusammen mit anderen Tool-Aufrufen.

Prompt-Caching

Prompt-Caching reduziert Latenz und Kosten, wenn Anfragen dasselbe lange Präfix wiederverwenden. Es wird von kompatiblen Anbietern und Servern unterstützt, einschließlich Anthropic-Modellen. Verwenden Sie die Prompt-Caching Einstellung in der Seitenleiste, um das Caching-Verhalten für unterstützte Verbindungen zu steuern.

Websuche & Thinking

Unterstützte Claude-Modelle können die webbasierte Suche auf Anbieterseite verwenden. Die Denken -Steuerung erscheint, wenn das ausgewählte Modell Thinking unterstützt. Je nach Modell kann dies unterschiedliche Thinking-Stufen oder Verfügbarkeit anzeigen.

Die Denken Steuerung passt sich dem ausgewählten Modell an: Einige Modelle verwenden einen Ein/Aus-Schalter, während Modelle mit Reasoning-Aufwand modellspezifische Thinking-Stufen verwenden.

Fehlerbehebung

Wenn die Anthropic-API keine Verbindung herstellt, prüfen Sie, ob der API-Schlüssel gültig ist und zum richtigen Anthropic-Konto gehört.

Wenn ein Modell nach dem Klicken auf Modelle ladennicht angezeigt wird, ist es möglicherweise für Ihr Konto nicht verfügbar. Sie können die Modell-ID manuell eingeben oder ein anderes Modell auswählen.