离线运行

本期视频演示了在搭载AMD Ryzen AI Max Pro 395芯片的笔记本电脑上完全本地化运行AI智能体工作流。演示者使用Llama.cpp作为本地模型运行框架，测试了GPT OSS 20B、Qwen 3 Coder 30B、Qwen 3 VL 8B等多款开源模型，实测token生成速度分别达到40 tokens/s和51 tokens/s。通过OpenCode（开源版Cursor）连接本地模型，可实现AI辅助编程、网页生成、Python游戏开发等功能。在离线状态下，Qwen 3 VL 8B视觉模型仍能完成图片OCR和内容分析。核心优势在于数据隐私零泄露——所有对话、代码和业务信息均保留在本地硬盘，不会传输至云端或被用于训练第三方模型。128GB RAM是流畅运行30B参数模型的必要条件。这种"模型即服务"的本地部署方式，让用户在飞机等无网络环境下也能完整运行AI工作流。