Einführung von Amazon CloudWatch Omni: KI-gestützte Observability für generative KI- und agentische Workloads
🇬🇧 Read in English~2 min read
devopsawscloudwatchobservabilityai-agentsopentelemetry
GPU-Teams stehen vor einem schlechten Kompromiss: ein Control Plane pro Team oder schwache Isolation in einem gemeinsamen Cluster. Dieses reproduzierbare Labor kombiniert Kamaji (Control Planes als Pods) und HAMi (fraktionierte GPUs) auf einer einzigen Maschine ohne GPU, unter Verwendung von HAMis Mock-Device-Plugin.
CloudWatch Omni ist AWS' Observability-Erlebnis, das speziell für generative KI- und agentische Workloads entwickelt wurde. Herkömmliche Request-Response-Observability erklärt nicht, warum ein Agent eine falsche Antwort produziert hat: Agenten treffen mehrere Entscheidungen pro Aufruf – sie wählen Tools aus, erstellen Prompts und verketten Unteraufrufe. Omni zeichnet jeden Schritt in einer strukturierten Zeitleiste auf, sodass Sie genau bestimmen können, wo das Verhalten abgewichen ist.
Omni bietet zwei Einstiegspunkte: eine IDE-Erweiterung (VS Code, Kiro) oder direkt über die Cloud-Erfahrung. Über die VS-Code-Erweiterung können Sie ein Beispielprojekt mit vorkonfigurierten Agent-Trace-Daten laden oder einen Agenten von Grund auf über einen interaktiven Chat erstellen, in dem Sie den Zweck des Agenten definieren, einen Modellanbieter auswählen und Tools konfigurieren.
Die Erste-Schritte-Erfahrung führt Sie Schritt für Schritt durch das Hinzufügen von OpenTelemetry-Instrumentierung – und hier kommt der schöne Teil: Omni integriert sich in KI-Code-Assistenten wie Kiro, Claude Code und Codex, die den Entwicklungsserver konfigurieren, Abhängigkeiten installieren und die Instrumentierung in Ihrem Namen einrichten. Von der Installation bis zur Ausführung Ihrer ersten getracieten Agent-Sitzung in Minuten, ohne manuelle Konfiguration.
Alle Daten werden standardmäßig lokal gespeichert; Sie können optional eine Verbindung zu AWS herstellen und Daten an CloudWatch senden. Nachdem Sie die Konfiguration überprüft und den Entwicklungsserver gestartet haben, senden Sie eine Frage an den Agenten – und statt einer Chatbot-Antwort erhalten Sie View Trace: genau, wie der Agent die Anfrage verarbeitet hat, als strukturierte Zeitleiste.
Agenten sind grundlegend schwieriger zu beobachten als Request/Response-Dienste. Ohne vollständige Trace-Sichtbarkeit – welches Tool ausgewählt wurde, welcher Prompt erstellt wurde, welche Unteraufrufe verkettet wurden – ist die Diagnose einer falschen Antwort oder eines unerwarteten Pfads reine Spekulation. Der Trace-Explorer zeigt diese Struktur direkt an.
Agentische Observability ist eine echte Kategorie mit echten Fehlern dahinter, und Omnis Antwort ist pragmatisch: standardmäßige OpenTelemetry-Traces (damit Ihre vorhandene Telemetrie ohne Neukonfiguration angezeigt wird), ein IDE-first-Entwicklungsfluss und ein Trace-Modell, das Agent-Entscheidungen statt nur HTTP-Aufrufe darstellt. Wenn Sie heute Agenten bauen und sie mit Bauchgefühl debuggen, ist dies eine konkrete Verbesserung.