Nachhaltigkeit von ChatGPT & Hardware für Neuronale Netze

Heute geht es zum einen um Nachhaltigkeitsaspekte bei der Nutzung
und dem Training von ChatGPT und zum anderen darum, warum das
eigentlich so ist. Woher kommen diese zum Teil sehr hohen
Hardware-Anforderungen zum Betreiben von Sprachmodellen?


Am Ende der Folge kennt ihr den Unterschied zwischen einer CPU
und einer GPU, wisst, warum GPU energieintensiver sind und welche
Einheiten wir zum Messen verwenden.


Außerdem nenne ich ein paar Zahlen zum Energie- und
Wasserverbrauch aus dieser Studie:


https://www.lbbw-am.de/fileadmin/Studien/2024-06-14_Blickpunkt_KI_und_Nachhaltigkeit.pdf





Viel Spaß beim Zuhören! :)