ayugespidertools-3.9.0
shengchenyang
released this
18 Dec 08:57
·
246 commits
to master
since this release
AyugeSpiderTools 3.9.0 (2023-12-18)
Deprecations
AsyncMysqlPipeline
改名为AyuAsyncMysqlPipeline
。AsyncMongoPipeline
改名为AyuAsyncMongoPipeline
。- 删除
oss
的模块及依赖。
注:最新示例请在 DemoSpider 中查看,以往旧版请切换对应分支查看。
New features
- 添加
oracle
的存储场景支持,目前有fty
及twisted
两种方式。 - 添加
mongodb:uri
的配置方式。
Bug fixes
- 解决
asyncio mysql
协程场景下可能会出现的被垃圾回收而阻塞的问题。 - 解决
mysql
或postgresql
的错误处理场景下由于权限等问题造成的循环递归问题。
Code optimizations
- 优化
.conf
模板示例,配置更明确且更易管理。 mypy check
.