Parallel: mehrere Perspektiven gleichzeitig
Parallel verteilt unabhängige Teilaufgaben und aggregiert dann die Ergebnisse.
Was Sie lernen werden
- Erklären Sie: Ein Workflow hat eine explizite Struktur
- Wenden Sie die Idee an einem Beispiel an: Parallel: mehrere Perspektiven gleichzeitig
- Erkennen Sie Einschränkungen und überprüfen Sie das Übungsergebnis
Parallel verteilt unabhängige Teilaufgaben und aggregiert dann die Ergebnisse. Stellen Sie sich vor, drei Rezensenten lesen eine Beschreibung aus unterschiedlichen Perspektiven.
Diese Schritte beziehen sich auf im Anwendungscode identifizierte Funktionen. Dieses Material wurde nicht in einer Live-Instanz validiert; Überprüfen Sie die Dokumentation und die Optionen in Ihrer Version.
Wie es funktioniert, Schritt für Schritt
Ein Workflow hat eine explizite Struktur
Ein Knoten ist eine Stufe, eine Kante ist ein Übergang und ein Zustand überträgt Ergebnisse zwischen Stufen. Ein Workflow hat einen anwendungsdefinierten Pfad, obwohl das Modell möglicherweise einige Zweige auswählt. Agentensysteme umfassen sowohl Workflows als auch dynamisch agierende Agenten. Nymrio bietet ReAct, Reflection, Sequential, Orchestrator, Router, Parallel und Plan-and-Execute. Jeder ändert die Koordination; Es macht ein Modell nicht automatisch zum Experten. Mehr Agenten bedeuten mehr Anrufe und Verträge zwischen den Rollen. Beginnen Sie mit der einfachsten Lösung, die Ihre Tests besteht.
Die Kosten gehören zum gesamten Pfad
Zählen Sie Modellaufrufe, Eingabe- und Ausgabetokens, Einbettungen, Neurankings, Visionen und Tools. Reasoning kann abrechenbare Token verbrauchen, ohne dass eine ebenso lange sichtbare Antwort erfolgt. Indexierungskosten und Gesprächskosten unterscheiden sich. Verwenden Sie aktuelle Preise anstelle einer dauerhaften Kursnummer. Eine einfache Schätzung ist Token/1.000.000 × Preis plus zusätzliche Operationen; Bewerbungsguthaben können eine eigene Umrechnung haben. Vergleichen Sie die Kosten pro erfolgreicher Aufgabe, nicht nur pro Anruf. Die parallele Ausführung kann die Latenz reduzieren und gleichzeitig den Gesamtverbrauch erhöhen. Ein Budget benötigt eine überprüfte Stoppbedingung.
Definieren Sie den Erfolg vor der Optimierung
Bereiten Sie repräsentative Anfragen und erwartete Antworten oder Eigenschaften vor. Berücksichtigen Sie normale Fälle, Unklarheiten, fehlende Daten und Toolfehler. Messen Sie für RAG die Beweisgewinnung getrennt von der Antwortkorrektheit. Recall@k misst den Anteil relevanter Beweise, die in den ersten k Ergebnissen gefunden wurden; precision@k misst den Anteil der zurückgegebenen Ergebnisse, die relevant sind. Verfolgen Sie für Agenten auch Aktionen, Berechtigungen und Stopps. Ein LLM als Richter kann die Bewertung beschleunigen, muss jedoch mit Menschen verglichen werden. Ändern Sie Eingabeaufforderung, Modell und Index nicht gleichzeitig, wenn Sie verstehen möchten, was zu verbesserten Ergebnissen führt.
Detailliertes Labor
Unabhängigkeit und Aggregation
Splitter: „Verteilen Sie unabhängige Rezensionen mit der gleichen Beschreibung.“ Klarheit: „Jargon und Mehrdeutigkeit erkennen“. Nützlichkeit: „Überprüfen Sie, ob Bedürfnisse und Einschränkungen erläutert werden.“ Kompatibilität: „Ansprüche ohne Annahmen mit dem Katalog vergleichen“. Aggregator: „Quellen aufbewahren, Ergebnisse kombinieren und Meinungsverschiedenheiten erklären“.
„LX-240 ist perfekt für jeden Adapter“ erzeugt Unbestimmtheit, übertriebene Versprechungen und einen Widerspruch zum Katalogadapter A-7. Im Abschlussbericht wird empfohlen, die Verallgemeinerung zu streichen. Stimmen Sie nicht ab, um die physische Kompatibilität zu bestimmen. Wenn ein Arbeiter von der Schlussfolgerung eines anderen Arbeiters abhängig ist, verschieben Sie diese Phase in eine geeignete Kette.
Das erklärende Schaubild
Folgen Sie den durchgezogenen Pfeilen für den Hauptfluss. Gestrichelte blaue Pfeile liefern Daten oder Kontext; Gestrichelte rosa Pfeile zeigen Feedback oder zurückgegebene Ergebnisse an. Farben und Formen unterscheiden Modelle, Geschäfte, Entscheidungen und Ergebnisse. Unabhängige Arbeitnehmer arbeiten gleichzeitig; Der Aggregator fasst seine Ergebnisse zusammen, nicht eine Mehrheitsabstimmung. Scrollen Sie auf kleinen Bildschirmen horizontal, um das gesamte Schaubild zu verfolgen.
Ein vollständiges Beispiel
Der Splitter verteilt Klarheits-, Nützlichkeits- und Kompatibilitätsprüfungen. Die Arbeiter arbeiten getrennt. Der Aggregator speichert unterstützte Ergebnisse und erklärt Unstimmigkeiten.
splitter: TaskDistributor
worker_1: ClarityReviewer
worker_2: UsefulnessReviewer
worker_3: CompatibilityReviewer
aggregator: ReportWriter
Probieren Sie es selbst aus
- Weisen Sie einen Splitter, mindestens zwei Worker und einen Aggregator zu. Unabhängige Zweige erhalten die gleichen Eingaben.
- Notieren Sie die Eingabe, die Quelle und das erwartete Ergebnis, bevor Sie das Experiment durchführen. Verwenden Sie im Beispiel nur die fiktiven Daten.
- Folgen Sie den Diagrammschritten. Notieren Sie bei jedem Schritt, welche Informationen empfangen und produziert werden. Verwechseln Sie Zwischenergebnisse nicht mit Endergebnissen.
- Wiederholen Sie den Vorgang, nachdem Sie erforderliche Informationen entfernt oder die Eingabe mehrdeutig gemacht haben. Prüfen Sie, ob das System eine Antwort klärt, stoppt oder erfindet.
- Vergleichen Sie mit der erklärten Lösung. Bewahren Sie die Konfiguration, das Datum, das Ergebnis und eine Erklärung für Unterschiede auf. Ändern Sie eine Sache und testen Sie es erneut.
Eine erklärte Lösung
Der Abschlussbericht differenziert die Feststellungen der Arbeitnehmer und betrachtet die Mehrheitsentscheidung nicht als Beweis. Mit einer erfolgreichen Übung können Sie den Zusammenhang zwischen Input, Phasen und Ergebnis aufzeigen. Bei fehlenden Informationen ist eine vorsichtige Antwort sinnvoller als erfundene Details. Vergleichen Sie mehr als nur Stil: Überprüfen Sie auch Bedingungen, Quellen und Vorgänge.
Wann dieser Ansatz hilft und wo seine Grenzen liegen
Ein Arbeiter, der die Leistung eines anderen Arbeiters benötigt, ist nicht unabhängig. Wählen Sie diesen Ansatz, wenn er einen gemessenen Bedarf verbessert. Behalten Sie eine einfache Ausgangsbasis bei und vergleichen Sie die Ergebnisse mit identischen Eingaben. Ein erfolgreiches Beispiel stellt nicht in jeder Situation Verlässlichkeit dar.
Überprüfen Sie Ihr Wissen
Ist Multi-Agent eine achte Vorlage?
Nein. Es handelt sich um eine Architekturkategorie, die mehrere vorhandene Vorlagen verwenden kann.
Sind mehr gleichzeitige Anrufe automatisch günstiger?
Nein. Verstrichene Zeit und Gesamtverbrauch sind unterschiedliche Größen.
Zu welchem Ergebnis soll diese Übung führen?
Der Abschlussbericht differenziert die Feststellungen der Arbeitnehmer und betrachtet die Mehrheitsentscheidung nicht als Beweis.
Wichtige Begriffe
- Nicken: Eine Phase in einem Ausführungsdiagramm.
- Latenz / Latenz: Zeit bis zu einem brauchbaren Ergebnis.
- Regresie / Regression: Eine Änderung, die einen zuvor korrekten Fall aufhebt.
Quellen und Ihr nächster Schritt
Zur Vorbereitung: W06 – Router: Senden Sie Anfragen an den richtigen Spezialisten