Locally AI Playbook

本地AI代理易陷入看似忙碌却无效的循环，需harness-first设计预防。

• 重试循环：小改动后反复失败却不收敛，需基于任务状态改进而非迭代次数退出。
• 工具循环：过度调用工具因“有返回”而持续，需明确调用预算与停止规则。
• 澄清循环：过度询问歧义，区分阻塞与非阻塞情况，用默认假设推进。

本地AI硬件规划

• 🔥 硬件需求计算器: 根据模型大小、量化方式和使用场景（推理、RAG或微调）估算所需VRAM、GPU档次和系统RAM。

代理AI上下文工程

• 🔥 可靠代理构建要点: 将上下文窗口视为预算，限定数据、token和工具范围以控制成本、延迟并减少错误输出。

AMD Ryzen AI Halo以紧凑桌面设计挑战NVIDIA DGX Spark，提供126 TOPS算力，专为本地原型开发和私有模型部署打造。

• 支持Windows系统运行，便于与现有本地AI工具直接联动
• 可通过10Gbps以太网集群多台设备，扩展内存与算力处理更大模型
• 体积仅5.9英寸见方，适合桌面高效部署本地AI工作流

上下文工程是代理型AI成功的基础，它为提示词设定边界而非简单填充数据。

• 将上下文窗口视为预算而非空桶，可有效控制成本、延迟并减少错误输出。
• 代理需具备技能（程序化记忆包）和身份（权限限制），工作流则由技能组合而成并支持检查点与审计轨迹。
• 通过代理循环与安全护栏设计，确保模型仅与特定工具交互，实现可重复、可观测的可靠执行。

这款本地AI硬件计算器可根据模型大小、量化方式和使用场景，直接估算所需VRAM、GPU档次及系统RAM。 4-bit量化能将内存占用减少约4倍，是大多数本地部署的实用选择。 工具还附带运行时推荐与GPU选购建议，显著降低入门门槛。

Promptbox 将 AI 提示词存为 Markdown 笔记加 YAML 元数据，实现完全本地优先管理。

• 无网络调用、无账号，全部留在保险库，提升隐私与可移植性
• 支持 {{变量}} 表单填充、上下文变量（@selection、@clipboard 等）和 [[wikilinks]] 转录
• 提供快速选择器与 obsidian:// URI，可从 Raycast 等外部工具一键复用

Obsidian 插件集成

• 🔥 Codex Usage 插件: 支持在 Obsidian 中通过本地 helper 展示 AI 编码使用数据，支持 SHA-256 校验并保留凭证于本地。

本地邮件处理工作流

• 每日邮件 triage: 使用 Ollama 本地 Gemma 4 模型对 Gmail 进行分类汇总，仅提供摘要而不自动回复邮件。

硬件与模型运行

• M5 系列性能: M5 Pro/Max 将更多本地 LLM 推理与视频 AI 工作负载转向 GPU 加速执行。

Codex Usage插件可在Obsidian状态栏和仪表盘显示CodexBar风格的AI编码使用数据。

• 支持会话/周使用量、成本、重置信息及原始输出展示
• 明确安装托管助手并通过SHA-256校验确保安全，本地运行
• 启动后3秒自动刷新，最后快照即时加载

桌面端macOS/Windows可用，提升编码工作流透明度。

开源本地模型正成为对抗API封锁与数据主权风险的实用选择。

• 核心价值：完全离线运行，敏感数据不离开设备，无API key或服务条款限制
• 硬件要求：MacBook Air M4 24GB统一内存即可舒适运行8B模型
• 安装流程：下载Ollama.app、设置PATH、启动服务器后即可拉取Qwen 3 8B
  适合新手快速建立个人AI环境，提升工作隐私与效率。

用Ollama本地运行Gemma 4模型，每天自动读取Gmail邮件并分类为Urgent、Action Needed等六类，同时生成简短总结，大幅降低决策疲劳，但完全不发送回复，保留人工控制权。 隐私是核心，所有数据留在本地GPU上。

M5 Pro/Max 将本地 LLM 提示处理速度提升至 M4 的 4 倍、M1 的近 7 倍，大幅减少等待，让 LM Studio 等工具迭代更流畅。

• GPU 架构升级：每个 GPU 核心集成 Neural Accelerator，加速图像生成、视频增强和对象检测。
• 内存与带宽：M5 Max 支持 128GB 统一内存和 614GB/s 带宽，适合更大本地模型和多任务。
• 存储性能：读写达 14.5GB/s，加快模型加载与导出。
  M5 Pro 是多数本地 AI 用户的实用硬件选择。

Skills 与 MCP 工作流构建

• 🔥 Skills 可复用指令包: Skills 通过一次性定义任务方法（如工作流 YAML 结构、验证规则和项目约定），让 AI 代理按固定方式工作，避免重复编写长提示。
• MCP 系统访问集成: MCP...

Skills作为可复用指令包，能一次性教会AI代理工作流YAML结构、可用块、验证规则及项目规范，而非每次写长提示。配合MCP的系统访问，代理从代码生成器转变为懂领域知识的开发伙伴。技能设计直接决定代理能否遵循正确惯例并验证结果。

用Mac Mini M3专跑本地模型，笔记本专注日常工作，能有效分离资源竞争。

• 一键切换：KVM让双屏和外设瞬间切换，无需反复插拔
• 共享外设：键盘鼠标摄像头共用，桌面整洁且减少心智负担
• 预算友好：适合不想升级笔记本却想体验本地AI的用户

一个完全开源的本地AI工作流可自动从多源收集内容、生成快速摘要，并以结构化格式存储，便于知识管理场景下的高效访问。

Docker 官方文档展示如何用 docker-agent 连接本地模型，实现隐私、离线或低成本 AI 代理。

• Ollama：安装后用 ollama 别名直接配置，支持 llama3.2 等模型，无需 API key
• vLLM：高性能推理服务器，通过 providers 配置 base_url 接入
• LocalAI：Docker 一键运行，提供 OpenAI 兼容 API，适合多种后端

• 通过10Gbps本地交换机连接Mac Studio与DGX Spark，再经防火墙限制外网，实现受控企业网络中的气隙模拟。
• 将Model API Server地址从127.0.0.1改为0.0.0.0，并设置强API Key，使其他设备可安全访问推理服务。
• 安装NVIDIA Sync后，通过菜单栏快速访问DGX Dashboard与SSH，完成本地网络配置。
• 在Mac Studio的Agent Studio中添加DGX Spark为自定义Provider，即可构建企业级本地AI代理。

• 开源免费，支持Chrome与Firefox，可完全本地运行模型（llama.cpp、Ollama等），数据不离开设备
• 提供Ask只读模式与Act自动化模式，后者通过CDP实现点击、导航等可信操作
• 典型用例包括数据提取、研究总结、表单填写与多步任务自动化，直接提升生产力

VS Code Agent 插件规范

• 🔥 Agent plugins (Preview): VS Code 正式推出 Agent 插件，支持 slash commands、skills、custom agents、hooks 和 MCP servers 的打包分发。
• ponytail...

• ponytail 自动扫描过度工程、死代码与投机抽象，强制简洁编码风格
• 支持 /ponytail-review、/ponytail-audit 等命令，追踪故意简写并生成债务清单
• 实测减少 54% 代码量、降低 20% 成本、提速 27%，同时保持 100% 安全