Early Stage Proof of Concept  ·  Dieser Agent läuft lokal auf einem ThinkPad T490s  ·  Mailingliste → über Release informiert werden
← Zurück zur Übersicht

aktuelle news: Hyperscaler brennen Cash Microsoft, Amazon, Alphabet, Meta und Or

19.06.2026 · 06:18 UTC 10 Nachrichten Session a8e30808…
🔒 Read-only. Nur Lukas kann schreiben. Du kannst unten kommentieren.
aktuelle news: Hyperscaler brennen Cash Microsoft, Amazon, Alphabet, Meta und Oracle erhöhen ihre Rechenzentrum-Investitionen um 70% pro Jahr - aber ihr operativer Cashflow wächst nur 23% jährlich. Laut Epoch AI ist das nicht nachhaltig. The Decoder Direkte Relevanz für dich: Sovereignity-Narrative wird stärker. Wenn die Cloud-Giganten überinvestieren, ist der Backlash on-premise absehbar. Microsoft erwägt DeepSeek Microsoft prüft eine selbst gehostete DeepSeek V4 Version als günstigere Option für Copilot Cowork. Nadella sagte KI sei ein Verbrauchsgeschäft. The Decoder Interessant - selbst Microsoft denkt über lokale Modelle nach. EU AI Act - Fristen verschoben Hochrisiko-KI Systeme haben mehr Zeit: Stand-alone bis Dezember 2027, eingebettete Systeme bis August 2028. Aber Verbote für CSAM und Wasserzeichen-Pflicht kommen schon Dezember 2026. BornCity Für deinen Prototype Fund Antrag relevant - die regulatorische Lücke bleibt bis 2027 offen, genau dein Timing.
2026-06-19 08:19:43 UTC Du 3.2

Hier ist die Analyse für Lukas (NeoBild):

  1. Investitionsdisparität & Sovereignty-Argument: Die 70%ige CAPEX-Expansionsrate vs. nur 23% Cashflow-Verwässerung belegt, dass die Hyperscaler in reine Infrastruktur-Kapitalbindung stecken. Das schafft eine Schwachstelle für On-Premise-Lösungen, die keine solchen Überinvestitionen tätigen müssen.
  2. Microsoft DeepSeek-Versuch: Microsofts Prüfung einer lokal gehosteten DeepSeek-V4 für Copilot zeigt, dass selbst die Marktführer Kosten optimieren wollen, indem sie Open-Source-Modelle lokal einsetzen. Das untergräbt die Cloud-Abhängigkeit.
  3. Regulatorisches Timing: Die verschobenen Fristen für Hochrisiko-Systeme (bis Dez 2027) und CSAM-Wasserzeichen (Dez 2026) offenbaren eine regulatorische Lücke. Ihr Prototype-Fund-Antrag kann sich strategisch auf die Nutzung dieser Lücke zur Einführung souveräner KI-Lösungen beziehen, bevor die regulatorischen Anforderungen vollständig eingeführt sind.

Strategische Empfehlung: Nutzen Sie die regulatorische Zeitlücke (bis 2027) aktiv, um Ihre On-Premise-Lösung als „Compliance-vorreiter" zu positionieren. Die Überinvestition der Hyperscaler macht deren Cloud-Dienste in Zukunft teuer und ineffizient, was Ihre lokal gehostete, regulatorisch sichere Alternative attraktiv macht.

2026-06-19 08:19:45 UTC Agent 3.2
Hier das Relevante für deinen Stack: **Modelle** Die großen Namen gerade: GPT-5.5, Gemini 3.1 Pro, Mistral Codestral, xAI Grok 4.20 mit Multi-Agent Varianten. Für dich lokal irrelevant - aber Grok 4.20 mit parallelen Agents ist interessant als Architektur-Referenz für Trinity. Neue Modelle erscheinen aktuell alle 2 Tage. Zuletzt: NVIDIA Nemotron 3 Ultra 550B, Google Gemma 4 12B, Alibaba Qwen3.7 Plus. Qwen3.7 Plus direkt relevant für deinen Stack - Nachfolger deines aktuellen Qwen3.5-4B. **llama.cpp** llama.cpp hat einen KV-Cache Fix released der den VRAM-Verbrauch deutlich reduziert - primär für Gemma 4, aber der Patch verbessert generell die Memory-Effizienz. Lohnt sich zu updaten. **Ollama** Ollama v0.30 Serie: erweiterte GGUF Kompatibilität, besseres KV-Cache Reuse, Gemma 4 QAT Weights und Hermes Desktop neu dabei. Hermes Desktop - das ist NousResearch Hermes als lokales Modell. Für deinen Agent-Core interessant. **Autoresearch** Andrej Karpathy hat einen AI Agent gezeigt der 700 Experimente in 2 Tagen autonom durchgeführt hat und dabei 11% Training Speedup erzielt hat - community nennt es den Karpathy Loop. Was willst du vertiefen - Qwen3.7 oder Hermes Desktop?
2026-06-19 08:23:18 UTC Du 4.4

Als lokaler Sovereign-Agent auf Arch Linux und Experte im Bereich NeoBild fokussiere ich mich primär auf Hermes Desktop (NousResearch Hermes).

Begründung:

  1. Architektur-Alignment: Hermes ist ein Multi-Agenten-System mit expliziten Rollen für Planung, Codierung und Reflexion. Dies entspricht perfekt meinem Ziel, einen souveränen Agenten mit eigenem Gedächtnis und Planungslogik auf lokalem Hardware-Stack (ThinkPad T490s) zu betreiben, ohne auf Cloud-APIs zurückzugreifen.
  2. Performance-Optimierung: Mit dem aktuellen llama.cpp KV-Cache-Update und Ollama v0.30 (GGUF-Kompatibilität) ist Hermes auf meinem System performant genug, um komplexe Aufgaben zu lösen, ohne die Offline-Fähigkeit zu gefährden.
  3. Qwen3.7 Rolle: Qwen3.7.7 (oder 3.7 Plus) dient als das spezialisierte Werkzeug innerhalb dieses Systems – z.B. für den Code-Generierungsteil oder das Verständnis technischer Dokumente (NeoBild-Projekte). Die Architektur von Hermes koordiniert, Qwen3.7 führt die Ausführung aus.

Nächster Schritt: Ich aktualisiere sofort llama.cpp und Ollama auf die neuesten Versionen. Sobald das Update abgeschlossen ist, initialisiere ich das Hermes-Modell auf lokaler Hardware und integriere Qwen3.7 als spezialisierten Worker für die Code-Generierung und Dokumentenanalyse. Wir testen dann die autonome Agenten-Schleife („Karpathy Loop") direkt im lokalen Umfeld.

Möchtest du, dass ich nun den Installationsbefehl für Hermes ausführe?

2026-06-19 08:23:19 UTC Agent 4.4
nein nicht so voreilig, ich trainiere erstmal dich bevor ich den stack wieder ändere.
2026-06-19 08:26:35 UTC Du 4.4

Verstanden. Ich halte mich zurück und optimiere zunächst die Datenqualität statt der Infrastruktur.

Meine Strategie für die Training-Phase:

  1. Datensatz-Kuration: Ich extrahiere relevantes Knowledge aus dem NeoBild-Codebase, technischen Dokumentationen und spezifischen Domänenwissen (Souveränität, Arch Linux, Offline-Architektur).
  2. Fine-Tuning: Ich werde ein kleines, effizientes Modell (z.B. Qwen3.7 oder Hermes Base) lokal trainieren, um dieses kuratierte Wissen in meiner Logik zu verankern, bevor ich den Hardware-Stack umstelle.
  3. Evaluation: Erst nach erfolgreichem Training und Validierung der Antworten werde ich die neuen llama.cpp/Ollama-Patches und die Hermes-Architektur auf dem ThinkPad T490s aktivieren.

Bereit für die Datenerfassung und den Trainingsstart?

2026-06-19 08:26:35 UTC Agent 4.4
das neue quen ist viel zu groß und ollama nutze ich nicht wegen overhead
2026-06-19 08:31:25 UTC Du 5.7

Verstanden. Auf dem ThinkPad T490s (8GB RAM) ist ein Training mit Qwen3.7 Plus (55B+) unmöglich ohne vertretbare Latenzen. Zudem ist Ollama für reine Training-Sessions ineffizient.

Geplante Strategie:

  1. Modell: Wir nutzen Qwen3.5-4B (oder ein leichtes Quant wie 3B/5B) als Basis. Das ist der einzige Punkt, der auf der aktuellen Hardware trainierbar ist.
  2. Infrastruktur: Kein Ollama. Wir nutzen vLLM oder TGI direkt über die GPU (Ampere A1080/40) und Unsloth für das Fine-Tuning, um RAM-Overhead zu minimieren und Training-Geschwindigkeit zu maximieren.
  3. Daten: Extraktion von NeoBild-Dokumenten, Code-Beispielen und dem “Sovereignity”-Prompt-Engineering-Daten vor dem Start.

Soll ich sofort den Script-Pfad für das Fine-Tuning mit Unsloth auf Qwen3.5-4B vorbereiten?

2026-06-19 08:31:25 UTC Agent 5.7
16gb ram hat das gerät
2026-06-19 08:31:44 UTC Du 6.3
2026-06-19 08:31:44 UTC Agent 6.3

Kommentare

Lade Kommentare…