NAS Docker部署Firefly：让AI写作助手7x24小时在线

你是不是也遇到过这样的场景：灵感来了想写点东西，但打开电脑却发现常用的AI写作工具要么需要排队，要么因为网络问题响应缓慢，要么担心自己的私有数据被云端平台拿去训练模型。作为一个经常需要处理文档的NAS玩家，我一直在寻找一个既能保护隐私、又能随时随地的AI写作方案。直到我在NAS上通过Docker部署了开源的Firefly项目，这个问题才算真正解决。今天就把这套完整的部署和调优经验分享给大家。

为什么选择Firefly作为私有AI写作助手

Firefly是一个优秀的开源AI写作框架，它最大的特点是可以完全本地化运行，支持接入多种大语言模型（如Llama、ChatGLM、Qwen等）。与直接使用云端AI服务相比，在NAS上部署Firefly有三大优势：

第一，数据隐私安全。所有文档、提示词和生成结果都存储在你的NAS本地，不会上传到任何第三方服务器，特别适合处理合同、论文初稿等敏感内容。

第二，成本可控。不需要按次付费或订阅会员，只要NAS的硬件配置足够，可以无限次使用。

第三，可定制性强。你可以自由调整模型参数、编写专属的写作模板，甚至可以结合NAS上的其他服务（如Calibre电子书库）实现批量内容生成。

硬件要求与Docker镜像选择

在开始部署前，先检查一下你的NAS配置。Firefly本身对硬件要求不高，但AI模型的推理过程比较吃内存和CPU。建议你的NAS至少具备8GB内存，如果计划运行7B参数以上的大模型，最好有16GB内存和一颗支持AVX2指令集的CPU（大多数Intel和AMD的x86架构CPU都支持）。

在Docker镜像选择上，我推荐使用muyunyun/firefly这个社区维护的镜像，它整合了Firefly主程序、Web管理界面和常用的模型下载脚本。打开NAS的Docker套件（群晖用户使用Container Manager，威联通用户使用Container Station），在注册表搜索firefly，找到对应镜像后下载最新版本。

三步完成Docker部署与配置

第一步，创建容器。在Docker管理界面点击“映像”中的firefly镜像，选择“启动”。在高级设置中，需要做两个关键映射：

端口映射：将容器内的8080端口映射到NAS的某个未占用端口（例如18080），这样可以通过http://NAS_IP:18080访问管理界面。
目录映射：创建一个本地文件夹（如/docker/firefly），映射到容器内的/app/data目录，用于存放模型文件和生成的文档。

第二步，配置环境变量。在创建容器的“环境”选项卡中，添加以下变量：

# 设置模型下载源，国内用户建议使用ModelScope
MODEL_SOURCE=modelscope
# 指定使用的模型，这里以Qwen2.5-7B为例
MODEL_NAME=Qwen/Qwen2.5-7B-Instruct
# 限制内存占用，避免影响NAS其他服务
MAX_MEMORY=8GB

第三步，启动容器并下载模型。点击“应用”启动容器后，进入容器终端（Docker管理界面中的“终端机”选项），执行以下命令下载模型：

cd /app
python download_model.py --model $MODEL_NAME

模型下载可能需要一段时间（7B模型约15GB），请耐心等待。下载完成后，重启容器使配置生效。

使用技巧：打造专属写作工作流

部署完成后，通过浏览器访问http://NAS_IP:18080，你会看到一个简洁的对话式写作界面。这里分享几个提升效率的实用技巧：

技巧一：自定义系统提示词。 在设置页面中，你可以编写一个固定的“角色设定”，比如“你是一位资深的科技博主，擅长用通俗易懂的语言解释复杂技术概念”。这样每次对话都会自动带上这个设定，生成的文字风格更统一。

技巧二：利用API接口实现自动化。 Firefly提供了兼容OpenAI格式的API接口（端口为18080/v1）。你可以结合NAS上的其他自动化工具（如群晖的Task Scheduler），定时调用API生成日报摘要或批量改写文章。以下是一个简单的curl调用示例：

curl http://localhost:18080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen2.5-7B-Instruct",
    "messages": [{"role": "user", "content": "帮我写一段关于NAS数据备份的引言，100字左右"}]
  }'

技巧三：多模型切换。 如果觉得7B模型生成速度慢，可以在环境变量中修改MODEL_NAME为Qwen/Qwen2.5-1.5B-Instruct，并重启容器。1.5B模型速度更快，适合处理简单任务；7B模型质量更高，适合长文创作。

常见问题与性能调优

在实际使用中，可能会遇到几个问题。如果生成文字时NAS响应缓慢，检查一下Docker容器的CPU限制，建议将容器CPU权重设置为“高”，确保AI推理获得足够的计算资源。如果模型下载速度慢，可以手动将MODEL_SOURCE改为huggingface，配合代理工具加速。

另外，为了延长NAS硬盘寿命，建议将模型文件存放在SSD缓存盘或专门的机械硬盘分区中，避免频繁读写系统盘。

通过以上步骤，你的NAS就变成了一台专属的AI写作服务器。无论是深夜灵感迸发，还是需要批量处理文档，Firefly都能随时待命。最关键的是，所有数据都掌握在自己手中，用起来格外安心。赶紧动手试试吧，相信你会爱上这种私有化AI带来的自由感。