Zum Inhalt

Azure OpenAI Chat Model Node#

Verwenden Sie den Azure OpenAI Chat Model Node, um die Chatmodelle von OpenAI mit Konversationsagenten zu nutzen.

Auf dieser Seite finden Sie die Node-Parameter für den Azure OpenAI Chat Model Node sowie Links zu weiteren Ressourcen.

Anmeldeinformationen

Informationen zur Authentifizierung für diesen Node finden Sie hier.

Parameter resolution in sub-nodes

Sub-nodes behave differently to other nodes when processing multiple items using an expression.

Most nodes, including root nodes, take any number of items as input, process these items, and output the results. You can use expressions to refer to input items, and the node resolves the expression for each item in turn. For example, given an input of five name values, the expression {{ $json.name }} resolves to each name in turn.

In sub-nodes, the expression always resolves to the first item. For example, given an input of five name values, the expression {{ $json.name }} always resolves to the first name.

Node-Parameter#

  • Model: Wählen Sie das Modell aus, das zur Generierung der Vervollständigung verwendet werden soll.

Node-Optionen#

  • Frequency Penalty: Verwenden Sie diese Option, um die Wahrscheinlichkeit zu steuern, mit der sich das Modell wiederholt. Höhere Werte verringern die Wahrscheinlichkeit, dass sich das Modell wiederholt.
  • Maximum Number of Tokens: Geben Sie die maximale Anzahl der verwendeten Token ein, die die Länge der Vervollständigung bestimmt.
  • Response Format: Wählen Sie Text oder JSON. JSON stellt sicher, dass das Modell gültiges JSON zurückgibt.
  • Presence Penalty: Verwenden Sie diese Option, um die Wahrscheinlichkeit zu steuern, mit der das Modell über neue Themen spricht. Höhere Werte erhöhen die Wahrscheinlichkeit, dass das Modell über neue Themen spricht.
  • Sampling Temperature: Verwenden Sie diese Option, um die Zufälligkeit des Sampling-Prozesses zu steuern. Eine höhere Temperatur erzeugt ein vielfältigeres Sampling, erhöht aber das Risiko von Halluzinationen.
  • Timeout: Geben Sie die maximale Anfragezeit in Millisekunden ein.
  • Max Retries: Geben Sie die maximale Anzahl von Wiederholungsversuchen für eine Anfrage ein.
  • Top P: Verwenden Sie diese Option, um die Wahrscheinlichkeit festzulegen, die die Vervollständigung verwenden soll. Verwenden Sie einen niedrigeren Wert, um weniger wahrscheinliche Optionen zu ignorieren.

Zugehörige Ressourcen#

Weitere Informationen zum Dienst finden Sie in der Azure OpenAI-Dokumentation von LangChain.

View Localmind Automate's Advanced AI documentation.

AI glossary#

  • completion: Completions are the responses generated by a model like GPT.
  • hallucinations: Hallucination in AI is when an LLM (large language model) mistakenly perceives patterns or objects that don't exist.
  • vector database: A vector database stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.
  • vector store: A vector store, or vector database, stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.