跳到主要内容

NVIDIA 组件

Bundle组件包 包含支持 Langflow 特定第三方集成的自定义组件。

本页描述了 NVIDIA bundle 中可用的组件。

NVIDIA

该组件使用 NVIDIA LLM 生成文本。 有关 NVIDIA LLM 的更多信息,请参阅 NVIDIA AI 文档

有关此组件在流程中的示例,请参阅 将 NVIDIA NIM 与 Langflow 集成

NVIDIA 参数

名称类型描述
max_tokensInteger输入参数。要生成的最大令牌数。设置为 0 表示无限令牌(高级功能)。
model_nameString输入参数。要使用的 NVIDIA 模型名称。默认:mistralai/mixtral-8x7b-instruct-v0.1
base_urlString输入参数。NVIDIA API 的基础 URL。默认:https://integrate.api.nvidia.com/v1
nvidia_api_keySecretString输入参数。用于身份验证的 NVIDIA API 密钥。
temperatureFloat输入参数。控制输出中的随机性。默认:0.1
seedInteger输入参数。种子控制作业的可重现性(高级功能)。默认:1
modelLanguageModel输出参数。使用指定参数配置的 ChatNVIDIA 实例。

NVIDIA Embeddings

NVIDIA Embeddings 组件使用 NVIDIA 模型 生成嵌入。

有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件

NVIDIA Embeddings 参数

名称类型描述
modelString输入参数。用于嵌入的 NVIDIA 模型,例如 nvidia/nv-embed-v1
base_urlString输入参数。NVIDIA API 的基础 URL。默认:https://integrate.api.nvidia.com/v1
nvidia_api_keySecretString输入参数。用于与 NVIDIA 服务进行身份验证的 API 密钥。
temperatureFloat输入参数。用于嵌入生成的模型温度。默认:0.1
embeddingsEmbeddings输出参数。用于生成嵌入的 NVIDIAEmbeddings 实例。

NVIDIA Rerank

该组件使用 NVIDIA API 查找和重新排列文档。

NVIDIA Retriever Extraction

该组件使用 NVIDIA nv-ingest 微服务进行数据接入、处理和文本文件提取。 更多信息请参阅 将 NVIDIA Retriever Extraction 与 Langflow 集成

NVIDIA System-Assist

该组件需要特定的系统环境。 有关此组件的信息,请参阅 将 NVIDIA G-Assist 与 Langflow 集成

Search