podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Prompt und Antwort Podcast
  4. 106 - 1 Mio Token mit lokaler Hardware
Mac Studio vs. Nvidia vs. AMD: Wer generiert am
effizientesten 1 Million KI-Token?

In dieser Folge analysieren wir einen Benchmark mit
überraschenden Ergebnissen:

• Warum ein Budget-PC mit Radeon-Karte den Mac Studio M3 Ultra
beim Durchsatz schlägt.

• Weshalb High-End-Systeme trotz hohem Stromverbrauch am
energieeffizientesten sein können.

• Warum die Wahl der Software (vLLM vs. Llama.cpp) wichtiger ist
als die reine Hardware.

Erfahrt, wann sich lokale Hardware gegenüber Cloud-Kosten
wirklich rechnet.

Weitere Episoden

215 - Memory mit grep

215 - Memory mit grep

13 Minuten
vor 1 Tag
214 - Weight-Space Programming

214 - Weight-Space Programming

15 Minuten
vor 3 Tagen
213 - Halluzinationen gezielt prüfen

213 - Halluzinationen gezielt prüfen

14 Minuten
vor 5 Tagen
212 - Memory mit Honcho

212 - Memory mit Honcho

17 Minuten
vor 1 Woche
211 - Modelle selbst quantisieren

211 - Modelle selbst quantisieren

10 Minuten
vor 1 Woche
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„106 - 1 Mio Token mit lokaler Hardware“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz