Skip to content

MLsharp Version 2.1.1937

Choose a tag to compare

@ChidcGithub ChidcGithub released this 01 Feb 11:39
· 25 commits to main since this release
1e5f360

GPU 内存自动回收

  • 内存信息查询 - 实时获取 GPU 显存使用情况(总量、已用、可用、使用率)
  • 缓存清理 - 自动清理 PyTorch 预留但未使用的显存
  • 强制垃圾回收 - 完整的垃圾回收流程(清理缓存 → 同步 GPU → Python GC → 再次清理)
  • 智能内存回收 - 当显存使用率超过阈值时自动清理(默认 85%)
  • 自动内存监控 - 后台线程定期检查并自动清理显存(默认每 30 秒)
  • 命令行参数 - 支持 --enable-auto-gc、--auto-gc-interval、--auto-gc-threshold 等参数
  • 配置文件支持 - 在 config.yaml 中配置内存回收策略
  • 性能优化 - 防止显存泄漏,提高系统稳定性
  • 日志记录 - 详细的内存清理日志,便于调试