Zum Inhalt

Basic LLM Chain Node#

Verwenden Sie den Basic LLM Chain Node, um die Eingabeaufforderung festzulegen, die das Modell verwendet, sowie einen optionalen Parser für die Antwort.

Auf dieser Seite finden Sie die Node-Parameter für den Basic LLM Chain Node und Links zu weiteren Ressourcen.

Beispiele und Vorlagen

Beispiele und Vorlagen für den Einstieg finden Sie auf der Seite Basic LLM Chain Integrationen von Localmind Automate.

Node-Parameter#

Eingabeaufforderung (Prompt)#

Select how you want the node to construct the prompt (also known as the user's query or input from the chat).

Choose from:

  • Take from previous node automatically: If you select this option, the node expects an input from a previous node called chatInput.
  • Define below: If you select this option, enter the Text you want to use as the prompt. You can use expressions here for dynamic content.

Spezielles Ausgabeformat erforderlich#

This parameter controls whether you want the node to require a specific output format. When turned on, Localmind Automate prompts you to connect one of these output parsers to the node:

Chatnachrichten#

Verwenden Sie Chatnachrichten, wenn Sie ein Chatmodell verwenden, um eine Nachricht festzulegen.

Localmind Automate ignoriert diese Optionen, wenn Sie kein Chatmodell verbinden. Wählen Sie den Typnamen oder die ID aus, die der Node verwenden soll:

KI#

Geben Sie im Feld Nachricht eine erwartete Beispielantwort ein. Das Modell versucht, in seinen Nachrichten auf die gleiche Weise zu antworten.

System#

Geben Sie eine System Nachricht ein, die zusammen mit der Benutzereingabe gesendet wird, um das Modell bei seinen Aufgaben zu unterstützen.

Verwenden Sie diese Option für Dinge wie die Definition des Tons, zum Beispiel: Antworte immer wie ein Pirat.

Benutzer#

Geben Sie eine Benutzereingabe als Beispiel ein. Die Verwendung dieser Option zusammen mit der KI-Option kann die Ausgabe des Agenten verbessern. Die gemeinsame Verwendung bietet ein Beispiel für eine Eingabe und eine erwartete Antwort (die KI-Nachricht), dem das Modell folgen soll.

Wählen Sie einen dieser Eingabetypen aus:

  • Text: Geben Sie eine Benutzereingabe als Text Nachricht ein.
  • Bild (Binär): Wählen Sie eine binäre Eingabe von einem vorherigen Node aus. Geben Sie den Feldnamen der Bilddaten ein, um zu identifizieren, welches Binärfeld des vorherigen Nodes die Bilddaten enthält.
  • Bild (URL): Verwenden Sie diese Option, um ein Bild von einer URL einzuspeisen. Geben Sie die Bild-URL ein.

Wählen Sie für beide Bild-Typen die Bilddetails aus, um zu steuern, wie das Modell das Bild verarbeitet und sein textuelles Verständnis generiert. Wählen Sie aus:

  • Auto: Das Modell verwendet die automatische Einstellung, die die Größe der Bildeingabe berücksichtigt und entscheidet, ob die niedrige oder hohe Einstellung verwendet werden soll.
  • Niedrig: Das Modell empfängt eine niedrig aufgelöste 512px x 512px-Version des Bildes und stellt das Bild mit einem Budget von 65 Token dar. Dies ermöglicht der API, schnellere Antworten zurückzugeben und weniger Eingabe-Token zu verbrauchen. Verwenden Sie diese Option für Anwendungsfälle, die keine hohen Details erfordern.
  • Hoch: Das Modell kann auf das niedrig aufgelöste Bild zugreifen und erstellt dann detaillierte Ausschnitte von Eingabebildern als 512px-Quadrate basierend auf der Größe des Eingabebildes. Jeder der detaillierten Ausschnitte verwendet das doppelte Token-Budget (65 Token) für insgesamt 129 Token. Verwenden Sie diese Option für Anwendungsfälle, die hohe Details erfordern.

Verwandte Ressourcen#

Weitere Informationen zum Service finden Sie in der LangChain-Dokumentation zu Basic LLM Chains.

View Localmind Automate's Advanced AI documentation.

AI glossary#

  • completion: Completions are the responses generated by a model like GPT.
  • hallucinations: Hallucination in AI is when an LLM (large language model) mistakenly perceives patterns or objects that don't exist.
  • vector database: A vector database stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.
  • vector store: A vector store, or vector database, stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.

Häufige Probleme#

Hier sind einige häufige Fehler und Probleme mit dem Basic LLM Chain Node und Schritte zur Behebung oder Fehlerbehebung.

Fehler: Keine Eingabeaufforderung angegeben#

Dieser Fehler wird angezeigt, wenn die Eingabeaufforderung leer oder ungültig ist.

Dieser Fehler kann in einem von zwei Szenarien auftreten:

  1. Wenn Sie die Eingabeaufforderung auf Unten definieren gesetzt haben und nichts in das Feld Text eingegeben haben.
    • Um das Problem zu beheben, geben Sie eine gültige Eingabeaufforderung in das Feld Text ein.
  2. Wenn Sie die Eingabeaufforderung auf Verbundener Chat-Trigger-Node gesetzt haben und die eingehenden Daten kein Feld namens chatInput enthalten.
    • Der Node erwartet das Feld chatInput. Wenn Ihr vorheriger Node dieses Feld nicht hat, fügen Sie einen Felder bearbeiten (Set) Node hinzu, um einen eingehenden Feldnamen in chatInput zu ändern.