Run your own sovereignty: Selfhosting & AI

In der heutigen Folge sprechen Thorsten und der neue Nodesignal Host Zetti mit Flashman und Ronin über den aktuellen Stand am Bitcoin Node Markt. Diese Folge ist ein Update zu der im Januar erschienenen Plebnode 3.0 Folge. Wir sprechen über unterschiedliche Node Implementierung und zeigen Alternativen auf. Im zweiten Teil der Folge führt uns Ronin in die Welt der selbst gehosteten KI Modelle ein. Er erklärt die Basics und zeigt auf, was mit welcher Hardware möglich ist und was nicht. Dabei kommt auch das Thema Stromverbrauch und Anschaffungskosten nicht zu kurz. Ein Deepdive über den aktuellen Stand der Technik.
Von und mit:

- Thorsten

- Ronin(Shield of Satoshi)

- Flashman

- Zettizettler

- Thorsten ⚡️

- Thorsten ⚡️(Cutting)

- Ronin | Shield of Satoshi Podcast

Produziert und geschnitten: Thorsten

Hier könnt ihr uns eine Spende über Lightning da lassen: ⚡️nodesignal@getalby.com
Zusätzlich haben wir auch einen Silent Payment Link: sp1qq0a2rles9y32ffmj0eawvjglgqsgj7hq99ers580l98k42a7rh9szq3sa50fh2e5lwf22fxcjy0qw88u72vlj328qr39da245sq4nrskuqvvv5l4
Neben dem Podcast findet ihr uns auch auf YouTube
Für Feedback und weitergehenden Diskussionen kommt gerne in die Telegramgruppe von Nodesignal und bewertet uns bei Spotify und Apple Podcasts, das hilft uns sehr. Folgt uns auch gerne bei Nostr:npub1n0devk3h2l3rx6vmt24a3lz4hsxp7j8rn3x44jkx6daj7j8jzc0q2u02cy und Twitter.

• Blockzeit: 923335
• Nodesignal-Talk – E247 – Pädagogisches Orangepilling mit Zetti
• Nodesignal-Talk – E214 – PlebNode 3.0, mit Ronin und Flashman
• RaspiBlitz Projekt
• StartOS Projekt
• umbrel Projekt
• Ollama Projekt
• LM Studio Suite
• Nostr Post von Thorsten zu der Einrichtung von OpenWebUI mit PPQ
• Marks von Maple bei Citadel Dispatch
• Matt Ahlborg von PPQ bei Citadel Dispatch
• Ronins Liste aus der Folge

Timestamps:

(00:00:22) Intro

(00:00:44) Einführung von Zetti und Vorschau

(00:05:53) Begrüßung Gäste

(00:08:06) Rückblick auf PlebNode 3.0 und aktuelle Entwicklungen

(00:13:58) Erfahrungen mit verschiedenen Node-Setups

(00:22:49) Probleme mit Start9 und Software-Updates

(00:30:17) Umbrel vs. Start9: Ein Vergleich der Node-Lösungen

(00:34:00) Backup-Strategien und Herausforderungen bei Nodes

(00:40:49) Die Notwendigkeit einer 24/7 Node und alternative Ansätze

(00:48:26) Einführung in KI und lokale Hosting-Optionen

(00:55:52) Die Entstehung von Open Source KI-Modellen

(00:59:23) Olamas und LM Studio: Desktop-Lösungen für KI

(01:02:22) Parameter und Quantisierung in KI-Modellen

(01:05:07) Hardware-Anforderungen für KI-Modelle

(01:11:49) Praktische Anwendungen und Kosten von KI-Setups

(01:17:29) Zukunftsausblick: KI für den Alltag

(01:21:28) Marktentwicklung und Preisprognosen für KI-Technologie

(01:31:33) Hardware-Empfehlungen für KI-Anwendungen

(01:35:33) Kosteneffizienz und Nutzung von KI-Diensten

(01:39:38) Zukunft der KI und private LLMs

(01:44:30) Frage von Calso, wann sind private LLM's möglich?

(01:51:09) Verabschiedung und Outro