跳到主要内容

IBM

组件包 包含支持与 Langflow 特定第三方集成的自定义组件。

IBM 组件包提供对 IBM watsonx.ai 模型的访问,用于文本和嵌入生成。 这些组件需要 IBM watsonx.ai 部署和 watsonx API 凭据。

IBM watsonx.ai

IBM watsonx.ai 组件使用 IBM watsonx.ai支持的基础模型生成文本。

您可以在流程中需要语言模型的任何地方使用此组件。

A basic prompting flow using the IBM watsonx.ai component as the central language model component.

IBM watsonx.ai 参数

许多 IBM watsonx.ai 组件输入参数在可视化编辑器中默认为隐藏状态。 您可以通过组件标题菜单中的 控件 来切换参数。

名称类型描述
urlString输入参数。用于您的部署和区域的 watsonx API 基础 URL
project_idString输入参数。您的 watsonx 项目 ID
api_keySecretString输入参数。用于验证对指定 watsonx.ai 部署和模型的 watsonx API 访问的 watsonx API 密钥
model_nameString输入参数。要使用的 watsonx 模型名称。选项从 API 动态获取。
max_tokensInteger输入参数。要生成的最大令牌数。默认:1000
stop_sequenceString输入参数。应该停止生成的序列。
temperatureFloat输入参数。控制输出的随机性。默认:0.1
top_pFloat输入参数。控制核抽样,将模型限制为概率低于 top_p 值的令牌。范围:默认:0.9
frequency_penaltyFloat输入参数。控制频率惩罚。正值降低重复令牌的概率,负值增加概率。范围:默认:0.5
presence_penaltyFloat输入参数。控制存在惩罚。正值增加引入新主题的可能性。默认:0.3
seedInteger输入参数。模型的随机种子。默认:8
logprobsBoolean输入参数。是否返回输出令牌的对数概率。默认:True
top_logprobsInteger输入参数。在每个位置返回的最可能令牌数。默认:3
logit_biasString输入参数。用于偏置或抑制的令牌 ID 的 JSON 字符串。

IBM watsonx.ai 输出

IBM watsonx.ai 组件可以输出 模型响应Message)或 语言模型LanguageModel)。

当您想要将 IBM watsonx.ai 模型用作另一个 LLM 驱动组件(如 语言模型智能函数 组件)的 LLM 时,请使用 语言模型 输出。 有关更多信息,请参阅 语言模型 组件

IBM watsonx.ai 组件的 LanguageModel 输出是根据组件参数配置的 ChatWatsonx 实例。

IBM watsonx.ai Embeddings

IBM watsonx.ai Embeddings 组件使用 IBM watsonx.ai 中的支持的基础模型进行嵌入生成。

输出是使用 WatsonxEmbeddings 生成的 Embeddings

有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件

A basic embedding generation flow using the IBM watsonx.ai Embeddings component

IBM watsonx.ai Embeddings 参数

一些 IBM watsonx.ai Embeddings 组件输入参数在可视化编辑器中默认为隐藏状态。 您可以通过组件标题菜单中的 控件 来切换参数。

名称显示名称信息
urlwatsonx API 端点输入参数。用于您的部署和区域的 watsonx API 基础 URL
project_idwatsonx 项目 ID输入参数。您的 watsonx 项目 ID
api_keyAPI 密钥输入参数。用于验证对指定 watsonx.ai 部署和模型的 watsonx API 访问的 watsonx API 密钥
model_name模型名称输入参数。要使用的嵌入模型名称。支持默认嵌入模型,并在连接到您的 watsonx.ai 部署后自动更新。
truncate_input_tokens截断输入令牌输入参数。要处理的最大令牌数。默认:200
input_text在输出中包含原始文本输入参数。确定输出中是否包含原始文本。默认:True

默认嵌入模型

默认情况下,IBM watsonx.ai Embeddings 组件支持以下默认模型:

  • sentence-transformers/all-minilm-l12-v2:384 维嵌入
  • ibm/slate-125m-english-rtrvr-v2:768 维嵌入
  • ibm/slate-30m-english-rtrvr-v2:768 维嵌入
  • intfloat/multilingual-e5-large:1024 维嵌入

输入 API 端点和凭据后,组件会自动从您的 watsonx.ai 部署中获取可用模型列表。

相关参考

Search