LM Studio
组件包 包含支持与 Langflow 特定第三方集成的自定义组件。
LM Studio 组件包中的组件让您可以使用来自本地或托管 LM Studio 实例的模型。 组件可能需要使用 LM Studio API 密钥进行身份验证。有关 LM Studio 模型、连接和凭据的信息,请参阅 LM Studio 文档。
LM Studio 文本生成
LM Studio 组件使用 LM Studio 的本 地语言模型生成文本。
它可以输出 模型响应(Message
)或 语言模型(LanguageModel
)。
当您想要将 LM Studio 模型用作另一个 LLM 驱动组件(如 语言模型 或 智能函数 组件)的 LLM 时,请使用 语言模型 输出。
有关更多信息,请参阅 语言模型 组件。
LM Studio 文本生成参数
许多 LM Studio 组件输入参数在可视化编辑器中默认为隐藏状态。 您可以通过组件标题菜单中的 控件 来切换参数。
名称 | 类型 | 描述 |
---|---|---|
base_url | String | 输入参数。LM Studio 运行的 URL。默认:"http://localhost:1234" 。 |
api_key | LM Studio API Key | 输入参数。用于 LM Studio 身份验证的 API 密钥(如果需要)。 |
max_tokens | Integer | 输入参数。响应中生成的最大令牌数。默认:512 。 |
temperature | Float | 输入参数。控制输出的随机性。范围:[0.0, 2.0] 。默认:0.7 。 |
top_p | Float | 输入参数。通过核抽样控制多样性。范围:[0.0, 1.0] 。默认:1.0 。 |
stop | List[String] | 输入参数。遇到时停止生成的字符串列表。 |
stream | Boolean | 输入参数。是否流式传输响应。默认:False 。 |
presence_penalty | Float | 输入参数。惩罚重复令牌。范围:[-2.0, 2.0] 。默认:0.0 。 |
frequency_penalty | Float | 输入参数。惩罚频繁令牌。范围:[-2.0, 2.0] 。默认:0.0 。 |
LM Studio Embeddings
LM Studio Embeddings 组件使用 LM Studio 模型生成嵌入。
有关在流程中使用嵌入模型组件的更多信息,请参阅 嵌入模型 组件。
LM Studio Embeddings 参数
许多 LM Studio Embeddings 组件输入参数在可视化编辑器中默认为隐藏状态。 您可以通过组件标题菜单中的 控件 来切换参数。
名称 | 显示名称 | 信息 |
---|---|---|
model | 模型 | 输入参数。用于生成嵌入的 LM Studio 模型。 |
base_url | LM Studio 基础 URL | 输入参数。LM Studio API 的基础 URL。 |
api_key | LM Studio API 密钥 | 输入参数。用于 LM Studio 身份验证的 API 密钥。 |
temperature | 模型温度 | 输入参数。模型的温度设置。 |