podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Prompt und Antwort Podcast
  4. 109 - Exo: lokale KI-Cluster
In dieser Folge des KI Gilde Podcasts gehen wir der Frage nach,
ob man aus vorhandener Hardware zu Hause einen privaten
KI-Supercomputer bauen kann. Wir stellen das Projekt
Exo vor, das Geräte wie MacBooks, Gaming-PCs und
Raspberry Pis zu einem leistungsstarken Cluster verbindet, um
riesige KI-Modelle lokal auszuführen.

Erfahre in dieser Episode:

• Wie Exo durch Disaggregation Modelle in
Schichten zerlegt und auf verschiedene Geräte im Netzwerk
verteilt.• Warum Apple Silicon Chips und Thunderbolt-Verbindungen
(RDMA) für die nötige Geschwindigkeit sorgen und sogar
kommerzielle Cloud-Dienste herausfordern können.

• Welche aktuellen Einschränkungen bei Sicherheit und Stabilität
bestehen und warum die Technologie vor allem für
Datenschutz-Anwendungen und Forscher relevant ist.Ein spannender
Einblick in eine mögliche Post-Cloud-Zukunft, unabhängig von Big
Tech.

Weitere Episoden

215 - Memory mit grep

215 - Memory mit grep

13 Minuten
vor 1 Tag
214 - Weight-Space Programming

214 - Weight-Space Programming

15 Minuten
vor 3 Tagen
213 - Halluzinationen gezielt prüfen

213 - Halluzinationen gezielt prüfen

14 Minuten
vor 5 Tagen
212 - Memory mit Honcho

212 - Memory mit Honcho

17 Minuten
vor 1 Woche
211 - Modelle selbst quantisieren

211 - Modelle selbst quantisieren

10 Minuten
vor 1 Woche
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„109 - Exo: lokale KI-Cluster“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz