NVIDIA 组件
Bundle组件包 包含支持 Langflow 特定第三方集成的自定义组件。
本页描述了 NVIDIA bundle 中可用的组件。
NVIDIA
该组件使用 NVIDIA LLM 生成文本。 有关 NVIDIA LLM 的更多信息,请参阅 NVIDIA AI 文档。
有关此组件在流程中的示例,请参阅 将 NVIDIA NIM 与 Langflow 集成。
NVIDIA 参数
名称 | 类型 | 描述 |
---|---|---|
max_tokens | Integer | 输入参数。要生成的最大令牌数。设置为 0 表示无限令牌(高级功能)。 |
model_name | String | 输入参数。要使用的 NVIDIA 模型名称。默认:mistralai/mixtral-8x7b-instruct-v0.1 。 |
base_url | String | 输入参数。NVIDIA API 的基础 URL。默认:https://integrate.api.nvidia.com/v1 。 |
nvidia_api_key | SecretString | 输入参数。用于身份验证的 NVIDIA API 密钥。 |
temperature | Float | 输入参数。控制输出中的随机性。默认:0.1 。 |
seed | Integer | 输入参数。种子控制作业的可重现性(高级功能)。默认:1 。 |
model | LanguageModel | 输出参数。使用指定参数配置的 ChatNVIDIA 实例。 |
NVIDIA Embeddings
NVIDIA Embeddings 组件使用 NVIDIA 模型 生成嵌入。
有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件。
NVIDIA Embeddings 参数
名称 | 类型 | 描述 |
---|---|---|
model | String | 输入参数。用于嵌入的 NVIDIA 模型,例如 nvidia/nv-embed-v1 。 |
base_url | String | 输入参数。NVIDIA API 的基础 URL。默认:https://integrate.api.nvidia.com/v1 。 |
nvidia_api_key | SecretString | 输入参数。用于与 NVIDIA 服务进行身份验证的 API 密钥。 |
temperature | Float | 输入参数。用于嵌入生成的模型温度。默认:0.1 。 |
embeddings | Embeddings | 输出参数。用于生成嵌入的 NVIDIAEmbeddings 实例。 |
NVIDIA Rerank
该组件使用 NVIDIA API 查找和重新排列文档。
NVIDIA Retriever Extraction
该组件使用 NVIDIA nv-ingest
微服务进行数据接入、处理和文本文件提取。
更多信息请参阅 将 NVIDIA Retriever Extraction 与 Langflow 集成。
NVIDIA System-Assist
该组件需要特定的系统环境。 有关此组件的信息,请参 阅 将 NVIDIA G-Assist 与 Langflow 集成。