Alex Finn 的本地 AI 机群:本地模型跑全天,前沿模型做复核,人用火箭表情放行
本地模型较慢、能力也不同,怎样把多台设备组织成能持续工作的 Agent 队伍?
导读
本地模型较慢、能力也不同,怎样把多台设备组织成能持续工作的 Agent 队伍?Alex Finn 按任务时效和风险分工:大内存机器在后台扫描代码、整理公开信息,较强的云端模型再检查可疑位置;当天安全报告里的 374 条发现只是待复核线索。设备通过私有网络连接,Agent 可以帮助安装模型和启动任务,仪表盘则显示机器、模型与排程。软件开发采用构建和复查两个循环,完成后将独立预览发到 Slack,由 Alex 实际测试,再用火箭表情批准合并。他同时运行多套 Agent,遇到更新导致部分系统停摆时,由其他实例接手。选择硬件时,他先看模型内存需求、可接受的等待时间,以及判断出错会带来的影响,再决定哪些工作适合长期放在后台运行。