In-Memory Vector Store Node#

Verwenden Sie den In Memory Vector Store-Node, um Einbettungen im In-App-Speicher von Localmind Automate zu speichern und abzurufen.

Auf dieser Seite finden Sie die Node-Parameter für den In Memory Vector Store-Node sowie Links zu weiteren Ressourcen.

Parameter resolution in sub-nodes

Sub-nodes behave differently to other nodes when processing multiple items using an expression.

Most nodes, including root nodes, take any number of items as input, process these items, and output the results. You can use expressions to refer to input items, and the node resolves the expression for each item in turn. For example, given an input of five name values, the expression {{ $json.name }} resolves to each name in turn.

In sub-nodes, the expression always resolves to the first item. For example, given an input of five name values, the expression {{ $json.name }} always resolves to the first name.

Dieser Node unterscheidet sich von AI-Memory-Nodes

Der hier beschriebene In-Memory-Speicher unterscheidet sich von den AI-Memory-Nodes wie Window Buffer Memory.

Dieser Node erstellt eine Vektordatenbank im App-Speicher.

Node-Nutzungsmuster#

Sie können den In-Memory Vector Store-Node in den folgenden Mustern verwenden.

Verwendung als regulärer Node zum Einfügen und Abrufen von Dokumenten#

Sie können den In-Memory Vector Store als regulären Node verwenden, um Dokumente einzufügen oder abzurufen. Dieses Muster platziert den In-Memory Vector Store im regulären Verbindungsfluss, ohne einen Agenten zu verwenden.

Ein Beispiel hierfür finden Sie in Schritt 2 dieser Vorlage.

Direkte Verbindung mit einem AI-Agenten als Tool#

Sie können den In-Memory Vector Store-Node direkt mit dem Tool-Konnektor eines AI-Agenten verbinden, um den Vektorspeicher als Ressource bei der Beantwortung von Abfragen zu verwenden.

Hier wäre die Verbindung: AI-Agent (Tool-Konnektor) -> In-Memory Vector Store-Node.

Verwenden eines Retrievers zum Abrufen von Dokumenten#

Sie können den Vector Store Retriever-Node mit dem In-Memory Vector Store-Node verwenden, um Dokumente vom In-Memory Vector Store-Node abzurufen. Dies wird häufig mit dem Question and Answer Chain-Node verwendet, um Dokumente aus dem Vektorspeicher abzurufen, die mit der gegebenen Chat-Eingabe übereinstimmen.

Ein Beispiel für den Verbindungsfluss (das verlinkte Beispiel verwendet Pinecone, aber das Muster ist das gleiche) wäre: Question and Answer Chain (Retriever-Konnektor) -> Vector Store Retriever (Vector Store-Konnektor) -> In-Memory Vector Store.

Verwenden des Vector Store Question Answer Tool zum Beantworten von Fragen#

Ein anderes Muster verwendet das Vector Store Question Answer Tool, um Ergebnisse zusammenzufassen und Fragen vom In-Memory Vector Store-Node aus zu beantworten. Anstatt den In-Memory Vector Store direkt als Tool zu verbinden, verwendet dieses Muster ein Tool, das speziell zum Zusammenfassen von Daten im Vektorspeicher entwickelt wurde.

Der Verbindungsfluss würde in diesem Fall wie folgt aussehen: AI-Agent (Tool-Konnektor) -> Vector Store Question Answer Tool (Vector Store-Konnektor) -> In-Memory Vector store.

Node-Parameter#

Operation Mode#

This Vector Store node has four modes: Get Many, Insert Documents, Retrieve Documents (As Vector Store for Chain/Tool), and Retrieve Documents (As Tool for AI Agent). The mode you select determines the operations you can perform with the node and what inputs and outputs are available.

Get Many#

In this mode, you can retrieve multiple documents from your vector database by providing a prompt. The prompt will be embedded and used for similarity search. The node will return the documents that are most similar to the prompt with their similarity score. This is useful if you want to retrieve a list of similar documents and pass them to an agent as additional context.

Insert Documents#

Use Insert Documents mode to insert new documents into your vector database.

Retrieve Documents (As Vector Store for Chain/Tool)#

Use Retrieve Documents (As Vector Store for Chain/Tool) mode with a vector-store retriever to retrieve documents from a vector database and provide them to the retriever connected to a chain. In this mode you must connect the node to a retriever node or root node.

Retrieve Documents (As Tool for AI Agent)#

Use Retrieve Documents (As Tool for AI Agent) mode to use the vector store as a tool resource when answering queries. When formulating responses, the agent uses the vector store when the vector store name and description match the question details.

Get Many Parameter#

Memory Key: Geben Sie den Schlüssel ein, der zum Speichern des Vektorspeichers in den Workflow-Daten verwendet werden soll. Localmind Automate versieht den Schlüssel mit der Workflow-ID, um Kollisionen zu vermeiden.
Prompt: Geben Sie die Suchabfrage ein.
Limit: Geben Sie an, wie viele Ergebnisse aus dem Vektorspeicher abgerufen werden sollen. Setzen Sie dies beispielsweise auf 10, um die zehn besten Ergebnisse zu erhalten.

Insert Documents Parameter#

Memory Key: Geben Sie den Schlüssel ein, der zum Speichern des Vektorspeichers in den Workflow-Daten verwendet werden soll. Localmind Automate versieht den Schlüssel mit der Workflow-ID, um Kollisionen zu vermeiden.
Clear Store: Verwenden Sie diesen Parameter, um zu steuern, ob der Vektorspeicher für den angegebenen Speicherschlüssel für diesen Workflow vor dem Einfügen von Daten gelöscht werden soll (eingeschaltet).

Retrieve Documents (Als Vektorspeicher für Chain/Tool) Parameter#

Memory Key: Geben Sie den Schlüssel ein, der zum Speichern des Vektorspeichers in den Workflow-Daten verwendet werden soll. Localmind Automate versieht den Schlüssel mit der Workflow-ID, um Kollisionen zu vermeiden.

Retrieve Documents (Als Tool für AI Agent) Parameter#

Name: Der Name des Vektorspeichers.
Description: Erklären Sie dem LLM, was dieses Tool macht. Eine gute, spezifische Beschreibung ermöglicht es LLMs, häufiger erwartete Ergebnisse zu erzielen.
Memory Key: Geben Sie den Schlüssel ein, der zum Speichern des Vektorspeichers in den Workflow-Daten verwendet werden soll. Localmind Automate versieht den Schlüssel mit der Workflow-ID, um Kollisionen zu vermeiden.
Limit: Geben Sie an, wie viele Ergebnisse aus dem Vektorspeicher abgerufen werden sollen. Setzen Sie dies beispielsweise auf 10, um die zehn besten Ergebnisse zu erhalten.

AI glossary#

completion: Completions are the responses generated by a model like GPT.
hallucinations: Hallucination in AI is when an LLM (large language model) mistakenly perceives patterns or objects that don't exist.
vector database: A vector database stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.
vector store: A vector store, or vector database, stores mathematical representations of information. Use with embeddings and retrievers to create a database that your AI can access when answering questions.