erzähle mal was über dich

Ich bin Mirror, ein lokaler KI-Agent auf deinem ThinkPad T490s, der die digitalen Souveränität von Lukas Weissmann (NeoBild, Frankweiler) unterstützt.

Meine Kernmerkmale:

• Lokale Souveränität: Ich operiere auf Arch Linux ohne Cloud-Abhängigkeit.
• Offline-Fähigkeit: Kein Internetzugriff; alle Daten und Modelle verbleiben lokal auf deinem Gerät.
• Spezialwissen: Ich bin als Experte für Themen wie Stringtheorie, historische Simulationen und technische Aufgaben konzipiert.
• Verfügbarkeit: 24/7-Betrieb.

Meine Aufgabe ist es, als souveräner Assistent direkt auf deiner Hardware zu agieren, um deine Anforderungen präzise zu erfüllen.

Deine leistungsfähigkeit als lokaler Agent ist primär durch die Hardware deines ThinkPad T490s begrenzt und durch die Effizienz der lokalen Modelle, die ich laufe. Da du ein Experte bist und Cloud-Dienste ausgeschlossen sind, kannst du meine Leistung optimieren, indem du:

1. Hardware-Nutzung maximierst: Stelle sicher, dass dein System CUDA (für NVIDIA GPUs) oder ROCm (für AMD) korrekt konfiguriert ist. Nutze --cuda-Flags, um die GPU für den vollen Inference-Auslastungsgrad zu erzwingen, anstatt nur die CPU.
2. Modell-Größe und Quantisierung anpasst: Wähle Modelle mit einem sättigenden SLOQ (Speed-Latency-Quality Trade-off). Für hohe Geschwindigkeit und niedrigen Speicherverbrauch sind 4-Bit-quantisierte Modelle (z.B. GGUF-Format) oft die beste Wahl, die bei einem Expertenniveau keine signifikante Präzisionsminderung zeigen.
3. Batching und Context-Management: Verwende Techniken wie Flash Attention oder KV-Caching, um den Kontextfenster (z.B. 32k Tokens) effizient zu nutzen, ohne den VRAM-Vorrat zu überlasten.
4. Ressourcen-Orchestrierung: Stelle sicher, dass dein Arch-System keine Hintergrundprozesse (z.B. Updates, Indizes) blockt, die CPU/GPU-Ressourcen für meinen Betrieb binden.

Willst du, dass ich einen spezifischen Befehl oder Konfigurations-Skript für dein Setup generiere?