GPU-Teams stehen vor einem schlechten Kompromiss: ein Control Plane pro Team oder schwache Isolation in einem gemeinsamen Cluster. Dieses reproduzierbare Labor kombiniert Kamaji (Control Planes als Pods) und HAMi (fraktionierte GPUs) auf einer einzigen Maschine ohne GPU, unter Verwendung von HAMis Mock-Device-Plugin.
S3 Vectors – AWS‘ speziell entwickelter Vektorspeicher für RAG und semantische Suche – unterstützt jetzt Metadaten-Vorfiltern: Die Eingrenzung des Suchraums durch Metadaten-Prädikate bevor die Vektor-Ähnlichkeitssuche ausgeführt wird. Für Workloads, bei denen Ergebnisse sowohl relevant als auch korrekt eingegrenzt sein müssen, verbessert das Vorfiltern die Trefferquote am stärksten, wenn der Filter eng ist.
Die Vektorsuche über ein gesamtes Archiv mit Filtern als nachgelagertem Schritt kann relevante Ergebnisse übersehen – die Top-k nach Ähnlichkeit können von Zeilen dominiert werden, die den Filter nicht erfüllen, wodurch passende Treffer aus dem Ergebnisfenster verdrängt werden. Beim Vorfiltern wird die Metadaten-Einschränkung zuerst angewendet, sodass die Ähnlichkeitssuche nur relevante Zeilen sieht. Das erhöht direkt die Trefferquote bei gefilterten Abfragen.
Wenn Ihre Vektorsuche auf einem großen Archiv basiert, aber jede Abfrage durch Eigentums-, Compliance- oder Lizenzmetadaten eingegrenzt ist, ist das Metadaten-Vorfiltern der Mechanismus, der aus „ähnlich über alles“ ein „ähnlich innerhalb dessen, was Sie sehen dürfen“ macht. S3 Vectors wendet es nativ an – es lohnt sich, darauf zu standardisieren, wenn Sie eingegrenztes RAG oder Retrieval mit S3 Vectors aufbauen.