Local LLM 是部署在用户本地计算机上的大语言模型,适合隐私敏感和轻量日常 AI 任务。

定义

Local LLM 指在用户本地计算机上部署和运行的大型语言模型。

核心要点

  • 优点是不依赖网络、隐私性较高,适合日常简单 AI 任务。
  • 通常不需要额外 API 费用,但依赖本地硬件能力。
  • 模型质量可能不如云端大模型,复杂任务效果需要具体测试。

相关概念

应用或例子

源材料中提到可通过 LM Studio 部署千问-3B,并与 Obsidian AI 插件配合使用。

此文件夹下有0条笔记。