MLsharp Version 2.1.1937
GPU 内存自动回收
- 内存信息查询 - 实时获取 GPU 显存使用情况(总量、已用、可用、使用率)
- 缓存清理 - 自动清理 PyTorch 预留但未使用的显存
- 强制垃圾回收 - 完整的垃圾回收流程(清理缓存 → 同步 GPU → Python GC → 再次清理)
- 智能内存回收 - 当显存使用率超过阈值时自动清理(默认 85%)
- 自动内存监控 - 后台线程定期检查并自动清理显存(默认每 30 秒)
- 命令行参数 - 支持
--enable-auto-gc、--auto-gc-interval、--auto-gc-threshold等参数 - 配置文件支持 - 在 config.yaml 中配置内存回收策略
- 性能优化 - 防止显存泄漏,提高系统稳定性
- 日志记录 - 详细的内存清理日志,便于调试