发布FinGPT实验 | AI生成和翻译
根据你过去24小时的笔记,我看到你深入钻研了以下内容,以及今天应该做的事情:
你近期的关注点(过去24小时)
- 金融LLM — BloombergGPT vs FinGPT 深度对比
- LoRA微调 — 反直觉的真相、实际限制
- RTX 4070计算预算 — 你实际能训练的规模(3-5亿参数)
- 博客基础设施 — Jekyll/GitHub Pages迁移限制
- SGLang/Triton — 让你的工作站跑通推理
- CC BY 4.0许可 — 用于你的笔记知识库
今天该做的事情
1. 在RTX 4070上运行FinGPT风格实验(最高优先级)
你的笔记已经列出了具体方案——拿Qwen或Llama-3-8B,从新闻标题构建一个小型金融情感指令集,在4070上进行QLoRA微调。这是连接你的银行领域知识与AI工程转型的portfolio作品。你已经有SGLang serving在运行,训练后可以立即测试。
# 在你的工作站上启动
ssh lzw@192.168.1.36
# 克隆FinGPT,将它的流程适配到你的硬件上
2. 修复SGLang/Triton段错误(解除推理阻塞)
你在Ada架构上遇到了Triton 3.5/3.6的段错误。你的笔记提到Triton 3.3.1 + cu126可以避免。确保~/sglang-env稳定,以便微调后可以服务模型。
3. 注册lzwjava.com(每年10美元)
你的笔记总结:拥有顶级域名对可移植性来说是值得的。你有400多篇博客和8000条笔记——被锁定在*.github.io是不必要的风险。这是个10分钟的任务。
4. 为笔记应用CC BY 4.0许可
你已经研究了该许可。现在应用它——在你的笔记仓库中添加CC BY 4.0的LICENSE文件。快速完成。
5. 设置rsync备份到Mini M4
你的笔记提到rsync 2.6.9在大文件传输时会中断,但重新运行会继续。运行mini-backup.sh到huarong@192.168.1.54——让25GB备份保持最新。
大局观
你的笔记显示你正在构建一个关键的技术栈:训练(nanoGPT/LoRA)、服务(SGLang)、领域专长(金融LLM)、基础设施(GPU机器、备份)。FinGPT实验是最高杠杆的事情,因为它会产生一个具体的成果,展示以上所有四个方面。
你想先解决哪个?
