Zum Inhalt

Groq Chat Model Node#

Verwenden Sie den Groq Chat Model Node, um auf die großen Sprachmodelle von Groq für konversationelle KI- und Texterzeugungsaufgaben zuzugreifen.

Auf dieser Seite finden Sie die Node-Parameter für den Groq Chat Model Node sowie Links zu weiteren Ressourcen.

Anmeldeinformationen

Informationen zur Authentifizierung für diesen Node finden Sie hier.

Parameter resolution in sub-nodes

Sub-nodes behave differently to other nodes when processing multiple items using an expression.

Most nodes, including root nodes, take any number of items as input, process these items, and output the results. You can use expressions to refer to input items, and the node resolves the expression for each item in turn. For example, given an input of five name values, the expression {{ $json.name }} resolves to each name in turn.

In sub-nodes, the expression always resolves to the first item. For example, given an input of five name values, the expression {{ $json.name }} always resolves to the first name.

Node-Parameter#

  • Model: Wählen Sie das Modell aus, das die Vervollständigung generiert. Localmind Automate lädt verfügbare Modelle dynamisch von der Groq-API. Erfahren Sie mehr in der Groq-Modelldokumentation.

Node-Optionen#

  • Maximale Anzahl von Token: Geben Sie die maximale Anzahl der verwendeten Token ein, die die Länge der Vervollständigung bestimmt.
  • Sampling-Temperatur: Verwenden Sie diese Option, um die Zufälligkeit des Sampling-Prozesses zu steuern. Eine höhere Temperatur erzeugt eine vielfältigere Stichprobe, erhöht aber das Risiko von Halluzinationen.

Verwandte Ressourcen#

Weitere Informationen zum Dienst finden Sie in der Groq-API-Dokumentation.

View Localmind Automate's Advanced AI documentation.

AI glossary#

  • completion: Completions are the responses generated by a model like GPT.
  • hallucinations: Hallucination in AI is when an LLM (large language model) mistakenly perceives patterns or objects that don't exist.
  • vector database: A vector database stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.
  • vector store: A vector store, or vector database, stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.