跳到主要内容

IBM

组件包 包含支持与 Langflow 特定第三方集成的自定义组件。

IBM 组件包提供对 IBM watsonx.ai 模型的访问,用于文本和嵌入生成。 这些组件需要 IBM watsonx.ai 部署和 watsonx API 凭据。

IBM watsonx.ai​

IBM watsonx.ai 组件使用 IBM watsonx.ai 中支持的基础模型生成文本。

您可以在流程中需要语言模型的任何地方使用此组件。

A basic prompting flow using the IBM watsonx.ai component as the central language model component.

IBM watsonx.ai 参数​

许多 IBM watsonx.ai 组件输入参数在可视化编辑器中默认为隐藏状态。 您可以通过组件标题菜单中的 控件 来切换参数。

名称类型描述
urlString输入参数。用于您的部署和区域的 watsonx API 基础 URL。
project_idString输入参数。您的 watsonx 项目 ID。
api_keySecretString输入参数。用于验证对指定 watsonx.ai 部署和模型的 watsonx API 访问的 watsonx API 密钥。
model_nameString输入参数。要使用的 watsonx 模型名称。选项从 API 动态获取。
max_tokensInteger输入参数。要生成的最大令牌数。默认:1000。
stop_sequenceString输入参数。应该停止生成的序列。
temperatureFloat输入参数。控制输出的随机性。默认:0.1。
top_pFloat输入参数。控制核抽样,将模型限制为概率低于 top_p 值的令牌。范围:默认:0.9。
frequency_penaltyFloat输入参数。控制频率惩罚。正值降低重复令牌的概率,负值增加概率。范围:默认:0.5。
presence_penaltyFloat输入参数。控制存在惩罚。正值增加引入新主题的可能性。默认:0.3。
seedInteger输入参数。模型的随机种子。默认:8。
logprobsBoolean输入参数。是否返回输出令牌的对数概率。默认:True。
top_logprobsInteger输入参数。在每个位置返回的最可能令牌数。默认:3。
logit_biasString输入参数。用于偏置或抑制的令牌 ID 的 JSON 字符串。

IBM watsonx.ai 输出​

IBM watsonx.ai 组件可以输出 模型响应(Message)或 语言模型(LanguageModel)。

当您想要将 IBM watsonx.ai 模型用作另一个 LLM 驱动组件(如 语言模型 或 智能函数 组件)的 LLM 时,请使用 语言模型 输出。 有关更多信息,请参阅 语言模型 组件。

IBM watsonx.ai 组件的 LanguageModel 输出是根据组件参数配置的 ChatWatsonx 实例。

IBM watsonx.ai Embeddings​

IBM watsonx.ai Embeddings 组件使用 IBM watsonx.ai 中的支持的基础模型进行嵌入生成。

输出是使用 WatsonxEmbeddings 生成的 Embeddings。

有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件。

A basic embedding generation flow using the IBM watsonx.ai Embeddings component

IBM watsonx.ai Embeddings 参数​

一些 IBM watsonx.ai Embeddings 组件输入参数在可视化编辑器中默认为隐藏状态。 您可以通过组件标题菜单中的 控件 来切换参数。

名称显示名称信息
urlwatsonx API 端点输入参数。用于您的部署和区域的 watsonx API 基础 URL。
project_idwatsonx 项目 ID输入参数。您的 watsonx 项目 ID。
api_keyAPI 密钥输入参数。用于验证对指定 watsonx.ai 部署和模型的 watsonx API 访问的 watsonx API 密钥。
model_name模型名称输入参数。要使用的嵌入模型名称。支持默认嵌入模型,并在连接到您的 watsonx.ai 部署后自动更新。
truncate_input_tokens截断输入令牌输入参数。要处理的最大令牌数。默认:200。
input_text在输出中包含原始文本输入参数。确定输出中是否包含原始文本。默认:True。

默认嵌入模型​

默认情况下,IBM watsonx.ai Embeddings 组件支持以下默认模型:

  • sentence-transformers/all-minilm-l12-v2:384 维嵌入
  • ibm/slate-125m-english-rtrvr-v2:768 维嵌入
  • ibm/slate-30m-english-rtrvr-v2:768 维嵌入
  • intfloat/multilingual-e5-large:1024 维嵌入

输入 API 端点和凭据后,组件会自动从您的 watsonx.ai 部署中获取可用模型列表。

相关参考​

Search