jmcomic1.bet 使用GitHub Actions的禁漫天堂爬虫🤡
java这门语言能让小项目变成中项目, 中项目变成大项目 🤡
没什么牛逼的地方, 就是春节假期图一乐🤡
想当初我也是立志成为一位优雅的C#er, 结果现在想要做一个新项目居然首先用java🤡
刚刚暂时不方便打字，但是现在我不禁想问问大家, 是不是应该点一个Star⭐❓
希望大家使用的时候要注意下, 每一次使用爬虫下载都是对禁漫天堂的持续性访问, 所以尽量不要一次性添加太多本漫画, 这样会对禁漫天堂服务器带来比较持久的压力, 最好挑到喜欢的再选择下载, 谢谢🤞
⚠因为下载器是根据网页结构进行分析的, 如果禁漫天堂的页面进行了更新, 很可能会下载失败, 所以当使用过程中发现报错,下载失败,缺章漏页, 请提交issue通知我更新代码.
| 更新日期 | 更新内容 |
|---|---|
| 2023/02/16 17:00 | compiler-plugin更新到3.10.1版本，surefire-plugin更新到3.0.0-M9 |
| 2023/02/14 17:00 | 感谢@AragonSnow提供的最新图片切割算法, 大家情人节看漫快乐👀 |
| 2023/01/27 17:00 | 支持遇到反爬虫五秒盾时自动切换域名 |
| 2023/01/24 17:00 | 同步跟进quarkus框架到3.0.0.Alpha3版本，surefire-plugin更新到3.0.0-M8 |
| 2022/12/8 11:00 | 同步跟进quarkus框架到3.0.0.Alpha2版本. |
| 2022/11/15 17:00 | 支持直接将.webp格式转换为.jpg格式, 以免腾不出手的各位每次都双击打开下一张. |
| 2022/11/15 17:00 | 同步跟进quarkus框架到3.0.0.Alpha1版本. |
| 2022/11/05 21:00 | 修复由于不支持TLSv1.3导致握手失败问题. |
| 2022/10/25 11:00 | 同步跟进quarkus框架到2.13.3.Final版本. |
| 2022/10/7 17:30 | 抛弃切割判断算法, 因为我已经找到需要切割和不需要切割的分界线了, 判断相似度已经没有意义了, 版本升级到5.1.0, 起飞🦽. |
| 2022/10/7 14:30 | 优化切割判断算法, 抛弃原有的每一张图判断一次切割规则, 现在通过随机某一张图片判断整章漫画是否需要切割, 现在可能一章中有某一页是错的, 但是大部分都应该是正确的. |
| 2022/10/7 01:00 | 同步跟进quarkus框架到2.13.1.Final版本. |
v2.0.0之后现在支持直接使用Github Action进行下载, 不需要手动部署了.
Github Action是微软收购github之后推出的CI/CD工具, 你可以理解为这是一台微软免费给你白嫖的2核7G内存的服务器, 每次提交代码都可以触发运行一次服务器.
现在程序支持提交代码之后直接通过这个服务器帮你下载完成漫画, 然后打成一个压缩包, 提供给你下载.
感谢微软, 微软大法好🙌
通过以下步骤即可在GitHub Action上运行程序
- 点击图中fork按钮, fork一份我的项目给你自己.
如果你以前fork过一次, 然后我提交了代码对bug修复, 但是你不懂得如何将我的修复代码合并到你的仓库, 那你可以直接删掉你的仓库, 重新fork一次.
-
进入
/src/main/resources/downloadPath.json, 点击箭头所指的编辑按钮,对该文件进行编辑, 注意使用github action模式的时候只需要修改这个json文件, 其他任何文件都不需要修改, 也不要提交pull request到上游来. -
按照json格式填入漫画链接, 如果要下载一本, 那格式为(注意英文双引号) :
[ "https://18comic.org/album/180459" ]如果要下载两本或者多本, 格式为(注意英文逗号) :
[ "https://18comic.org/album/180459", "https://18comic.org/album/182168" ]
注意尽量不要一次性添加太多漫画, 否则下载起来时间要很久, 压缩包也会很大, 并且添加的链接要是直接能访问到禁漫天堂的网站, 而不是各种镜像站, 根据禁漫天堂的公告板提示, 你所添加的漫画域名应该来自以下2个 :
https://18comic.org (最好直接使用这个, 把你的漫画链接域名直接更换成这个就可以了.)
https://18comic.org (如果.vip无法使用, 则尝试使用这个.org站点)
添加完成之后, 点击下方提交按钮 :
-
提交完成之后进入Actions页面查看程序运行状况 :
绿色说明运行成功, 黄色说明正在运行, 红色说明运行失败. 运行成功之后, 点击对应的任务 :
点击箭头所指的finder-result压缩包文件, 即可下载已经打包好的爬虫图片, 注意下载这个压缩包的时间取决于你访问github的速度, 如果没有科学上网可能需要下载很久.
-
安装jdk19.
-
安装maven.
-
下载源代码并且修改application.properties文件中的以下几个配置 :
- comic.download.path : 下载到本地的目录
- comic.proxy.host : 科学上网的ip
- comic.proxy.port : 科学上网的端口
comic.download.path=C:\\Users\\jiayao\\Pictures
comic.proxy.host=127.0.0.1
comic.proxy.port=108084.执行mvn clean package 得到最后的jar包
如果直接下载我提供的jar包, 无法手动编辑jar包内的properties文件, 请在jar包所在的目录新建一个config文件夹, 在里面新建一个application.properties文件, 然后粘贴并且修改上述几个参数.
程序现在支持两种运行模式, 作为单次运行的前台模式, 和作为持续运行服务的后台模式
前台模式是指程序完成下载任务之后会自动关闭, 通过读取代码中的downloadPath.json文件内的链接, 或者启动时传入参数来进行下载, 每一次下载都要运行一次程序.
如果有条件手动打包程序, 则进入/src/main/resources/downloadPath.json目录, 按照json格式填入漫画链接, 如果要下载一本, 那格式为 :
[
"https://18comic.org/album/180459/"
]如果要下载两本或者多本, 格式为(注意逗号) :
[
"https://18comic.org/album/180459/",
"https://18comic.org/album/182168"
]前台模式与后台模式都支持下载整本漫画或者单独某个章节.
添加数据之后, 打包, 然后在确保已经有jdk19之后, 命令行中进入jar包所在的目录, 执行java -jar ./*.jar
即可按照前台模式运行程序, 程序会自动下载json文件中的所有漫画 , 当下载完成之后, 程序会自动退出.
如果没有条件打包程序, 但是有条件运行程序, 例如只装了jdk19但是没有安装maven等, 那就直接下载我提供的jar包, 按照前面说所方法在jar包所在的目录新建一个config文件夹,
在里面新建一个application.properties文件, 粘贴并且修改上述几个参数, 然后命令行进入jar所在的目录, 执行java -jar ./*.jar 漫画路径1 漫画路径2
,例如 java -jar ./*.jar https://18comic.org/album/180459 , 这时候这本漫画就会被下载, 多本漫画请用空格隔开.
后台模式是指程序将会作为一个服务持续运行, 通过等待接口请求来下载漫画, 每一次请求接口就会进行一次下载, 程序完成下载后不会自动关闭.
程序打包或者下载我提供的jar包, 然后在确保已经有jdk19之后, 命令行中进入jar包所在的目录, 执行java -jar ./*.jar -s(注意-s参数)即可按照后台模式运行程序 ,
当下载完成之后, 程序会继续等待服务.
运行程序之后打开浏览器, 在地址栏输入 :
http://localhost:7788/finder/download?homePage=你想要下载的漫画主页即可开始下载整本漫画, 例如
http://localhost:7788/finder/download?homePage=https://18comic.org/album/177680如果想要下载单独的某一个章节, 只需要输入对应的章节主页即可, 例如
http://localhost:7788/finder/download?homePage=https://18comic.org/photo/211115- 使用quarkus框架
- 支持github actions
- 没有用到爬虫库, 纯用hutool对html页面进行切分.
- 多线程异步爬虫.
- 对2020-10-27之后的反爬虫图片进行了反反爬虫处理.
- 使用jdk19的虚拟线程改造程序
- 支持github action
- 支持单独下载某个章节而不是每一次都下载完整的一本漫画.
- 支持下载整本只有一章的无章节漫画.
- 通过指定外部配置文件来覆盖内部配置文件, 对于直接下载jar包的用户不需要先解压修改配置文件后再压缩回去.
- @AragonSnow : 提供了新版禁漫天堂前端切割算法.
- @lizongcong : 提供了只有更新json文件才会触发action的建议.
- @calject : 提供了新版禁漫天堂前端切割算法.
- @Yiyi-philosophy : 提供了直接将.webp转换为.jpg的建议.