做AI副业，先别急着买卡：聊聊低成本起步

最近和几个做开发的朋友聊，发现一个共同的卡点：想做一个 AI 项目——本地跑个大模型、用 ComfyUI 接点商单、或者给简历加一个 RAG/微调的实战——但一算硬件，四张 4090 48G 要 9 万多，再加上电源、散热、电费，还没开始就先被劝退。 如果你只是想先跑通一个项目、验证一个方向，其实不用先买卡。 社区里一位做 AI 的伙伴，把一台 4 卡 RTX 4090 48G 的机器按“云服务器”的方式共享出来：给你独立账号、独立环境，SSH / Jupyter 登录；你告诉他要跑什么，他按你的要求把环境装好、跑通，再交给你。 可以按需安装： · 系统：Ubuntu / CentOS · 计算栈：CUDA、PyTorch、TensorFlow、vLLM、SGLang · 应用：ComfyUI、Stable Diffusion WebUI、JupyterLab、Docker、conda · 模型：Qwen、Llama、Flux、SDXL、Wan 等常用权重可预下载 标准环境（CUDA + PyTorch + vLLM/ComfyUI + Jupyter）免费部署；特殊版本、复杂依赖、模型量化/微调环境按工作量另议。 硬件： · 4× RTX 4090 48G（魔改涡轮版），合计 192G 显存，单卡带宽 1008GB/s · 可按 1 / 2 / 4 卡分配，整机独享，不是共享切片 · 固态存储，宽带 + 内网穿透，7×24 通电，含电费 · 可限单卡功耗 350W 能跑什么（量级参考，batch=1）： · 32B INT4：单卡单流 40–55 tok/s，32 并发聚合 1000–1800 tok/s · 70B INT4：单卡 8K 上下文 20–25 tok/s；2 卡可到 32K · 235B MoE：4 卡 TP4，单流 25–40 tok/s · Flux 1024px：3–4 秒/张；Wan2.2 720p 5 秒：4–8 分钟/条 适合：想低成本验证 AI 项目的开发者、做毕设/论文的学生、接生图/视频商单的副业、需要私有化部署的小团队。 不适合：对外公共 API、挖矿、转租、需要 SLA 和等保的生产业务。 先说清楚：这是魔改 48G 卡，没有原厂质保；建议先试跑三天，自己跑稳定性。故障能换卡就换，换不了按未使用天数退。机器在国内，7×24 通电；不是公有云，没有 99.9% SLA，断电、断网、运营商抖动不可避免，重要任务请自己做容错。数据自己备份，退租删除实例和账号。 具体配置、成本分摊和租期，评论区聊，我让伙伴来回复。