mirror of
https://github.com/luguoyixiazi/test_nine.git
synced 2025-12-06 14:52:49 +08:00
Update README.md
This commit is contained in:
luguoyixiazi
GitHub
52
README.md
52
README.md
@@ -8,19 +8,28 @@
|
||||
|
||||
## 参考项目
|
||||
|
||||
模型及V4数据集：https://github.com/taisuii/ClassificationCaptchaOcr
|
||||
resnet模型及V4数据集：https://github.com/taisuii/ClassificationCaptchaOcr
|
||||
|
||||
点选检测模型https://github.com/Peterande/D-FINE
|
||||
|
||||
api：https://github.com/ravizhan/geetest-v3-click-crack
|
||||
另一个点选检测模型https://github.com/facebookresearch/dinov3
|
||||
|
||||
另一个点选的检测模型https://github.com/ultralytics/ultralytics
|
||||
|
||||
api：https://github.com/ravizhan/geetest-v3-click-crack (此项目近期未更新，当前9.2.0-guwyxh参数修改```"captcha_token":"2064329542", "tsfq":"xovrayel")```
|
||||
|
||||
感谢@kissnavel 提供的关于我没玩的那两款的api
|
||||
|
||||
## 运行步骤
|
||||
|
||||
### 1.安装依赖（本地必选，使用docker跳至[5-b](#docker)）
|
||||
|
||||
（可选）a.如果要训练paddle的话还得安装paddlex及图像分类模块，安装看项目https://github.com/PaddlePaddle/PaddleX
|
||||
（可选）b.d-fine训练看项目https://github.com/Peterande/D-FINE
|
||||
（* 必选！）c.模型需要在项目目录下新建一个model文件夹，然后把模型文件放进去，具体命名可以是resnet18.onnx或者PP-HGNetV2-B4.onnx，默认使用PP-HGNetV2-B4模型，如果用resnet则use_v3_model设置为False，因为模型的输入输出不一样，可以自行修改，d-fine的模型同样放置此路径用于通过点选
|
||||
（可选）a-0. 如果要训练paddle的话还得安装paddlex及图像分类模块，安装看项目[https://github.com/PaddlePaddle/PaddleX](https://github.com/PaddlePaddle/PaddleX)
|
||||
（可选）a-1. d-fine训练看项目[https://github.com/Peterande/D-FINE](https://github.com/Peterande/D-FINE)
|
||||
（可选）a-2. dinov3使用看项目[https://github.com/Peterande/D-FINE](https://github.com/facebookresearch/dinov3) 具体分类基于patch token
|
||||
（可选）a-3. yolo训练看项目[https://github.com/Peterande/D-FINE](https://github.com/ultralytics/ultralytics)
|
||||
（可选）a-4. 基于dinov3的分类，架构极其简陋，从一组图片中抽取所有已定位的图片的特征图，而后在一组中以下侧作为锚点，设置1正面样本，其余均做负面样本，学习dinov3提取特征中影响相似度比对的维度
|
||||
（* 必选！）b.模型需要在项目目录下新建一个model文件夹，然后把模型文件放进去，具体命名可以是resnet18.onnx或者PP-HGNetV2-B4.onnx，默认使用PP-HGNetV2-B4模型，如果用resnet则use_v3_model设置为False，因为模型的输入输出不一样，可以自行修改，d-fine的模型同样放置此路径用于通过点选，另外的dinov3和yolo1n和我自己做的任务头整体组合为一个流水线作业，全都要放进去
|
||||
|
||||
```
|
||||
pip install -r requirements.txt
|
||||
@@ -38,7 +47,7 @@ pip install -r requirements_without_train.txt
|
||||
- 数据集详情参考上面标注的项目，但是上面项目是V4数据集，V3没有demo，自行发挥吧，用V4练V3不改代码正确率有点感人
|
||||
- 主要是V4的尺寸和V3有差别，V4的api直接给两张图，一张是目标图，一张是九宫格，V3放在一起要切目标，且V3目标图清晰度很低，V4九宫格切了之后是100 * 86的图（去掉黑边），但是V3九宫格切的是112 * 112，不确定V4九宫格内容在V3基础上做了什么变换，反正改预处理就完事了
|
||||
|
||||
##### b. 训练PP-HGNetV2-B4（可选）
|
||||
##### a-0. 训练PP-HGNetV2-B4（可选）
|
||||
|
||||
在paddle上随便找的，数据集格式如下，如果拿V4练V3，建议是多整点变换
|
||||
|
||||
@@ -50,17 +59,22 @@ pip install -r requirements_without_train.txt
|
||||
└─验证集和测试集同上
|
||||
```
|
||||
|
||||
##### b. 训练d-fine（可选）
|
||||
##### a-1. 训练d-fine（可选）
|
||||
|
||||
数据集格式如d-fine中标识，如果不修改源码则num_classes需+1，采用coco格式即可，我用的320*320，dataloader注释掉了RandomZoomOut、RandomHorizontalFlip、RandomIoUCrop（这些我全写在数据集生成中了）
|
||||
|
||||
##### c. 如果要切V3的九宫格图用crop_image.py的crop_image_v3，切V4则使用crop_image，自行编写切图脚本
|
||||
##### a-2. 训练基于dinov3和yolo的流水线（可选）
|
||||
|
||||
数据集格式我自己拟定的，因为一次加载使用一个锚点一个正面多个负面，所以我先组织了格式，当然原始标注时还是用的coco，将每个image上的所有标注全组合在两个列表，根据y轴划分top和bottom，以bottom为锚点（实际上没差，但是实际使用不涉及top组内比对就跳过了节省资源），top中1✅多❌
|
||||
|
||||
##### b. 如果要切V3的九宫格图用crop_image.py的crop_image_v3，切V4则使用crop_image，自行编写切图脚本
|
||||
|
||||
### 3.训练模型（可选）
|
||||
|
||||
- 训练resnet18运行 `python train.py`
|
||||
- 如果训练PP-HGNetV2-B4运行`python train_paddle.py`
|
||||
- 训练d-fine参照原项目，一个模型拿下，比ddddocr+相似性检测资源开销小点
|
||||
- 训练代码极其简单，可以基于我提出的思路即数据集组织，使用llm直接生成，yolo训练参考其仓库即可，dinov3没训练，也没拿来做定位，因为定位头的规模大于yolo11n，不划算
|
||||
|
||||
### 4-a.PP-HGNetV2-B4模型和resnet模型转换为onnx（可选）
|
||||
|
||||
@@ -72,17 +86,28 @@ pip install -r requirements_without_train.txt
|
||||
- 依原项目转换
|
||||
- 推理时图像预处理应于训练时一致，d-fine仓库中onnx推理的预处理和训练不一致……
|
||||
|
||||
### 4-c. 复合模型转onnx（可选）
|
||||
|
||||
- yolo依原项目转换
|
||||
- dinov3直接使用官方即可，只是拿来提取特征
|
||||
- 分类的导出也是pytorch和onnx内置函数，由于太小所以没必要做什么操作
|
||||
- 之所以不组合为一个模型主要还是考虑到未来如果更新，可以复用，dinov3提取的特征实际上可以完成上述所有任务，虽然定位的模型会大一点，但一个几百kb大小的头可以替代九宫格的分类模型，点选定位如果只划分上下的部分或许也能用更小的模型
|
||||
|
||||
### 5-a.启动fastapi服务（必须要有训练完成的onnx格式模型）
|
||||
|
||||
运行 `python main.py`（默认用的paddle的onnx模型，如果要用resnet18可以自己改注释）或者`uvicorn main:app --host 0.0.0.0 --port 9645 --reload`
|
||||
基于环境变量可以自定义加载哪些模型，目前支持use_pdl，use_dfine，use_multi，日志也有环境变量改，LOG_LEVEL
|
||||
|
||||
由于轨迹问题，可能会出现验证正确但是结果失败，所以建议增加retry次数，训练后的paddle模型正确率在99.9%以上
|
||||
运行 `python main.py`（九宫格默认用的paddle的onnx模型，如果要用resnet18可以自己改注释）或者`uvicorn main:app --host 0.0.0.0 --port 9645 --reload`
|
||||
|
||||
由于轨迹问题，可能会出现验证正确但是结果失败，所以建议增加retry次数，训练后的paddle模型正确率在99.9%以上，
|
||||
由于dinov3的onnx和pth不完全一致，导致基于pth训练的头精度低了一点，4613张图里面错了1张，如果采用量化的dinov3会多错几张，当然，可以使用onnx量化提取的特征训练，但是速度比pth慢得多就是了，再说吧
|
||||
|
||||
### 5-b.使用docker启动服务
|
||||
|
||||
镜像地址为<span id="docker">luguoyixiazi/test_nine:25.7.2</span>
|
||||
镜像地址为<span id="docker">luguoyixiazi/test_nine:25.7.2</span> 此版本特供只需要九宫格和便笺的
|
||||
镜像地址为<span id="docker">luguoyixiazi/test_nine:25.11.2</span> 此版本在上述基础上支持🛤和3z
|
||||
|
||||
运行时只需指定绑定的port和两个环境变量`use_pdl`和`use_dfine`，1为启用模型，0为不启用，默认均启用，api端口为/pass_uni，必填参数gt、challenge，单独的pass_nine和pass_icon也写了，有更多可选参数
|
||||
运行时只需指定绑定的port和两个环境变量`use_pdl`和`use_dfine`和`use_multi`，1为启用模型，0为不启用，默认均启用，api端口为/pass_uni，必填参数gt、challenge，单独的pass_nine和pass_icon也写了，有更多可选参数
|
||||
|
||||
### 6.api调用
|
||||
|
||||
@@ -103,8 +128,11 @@ def game_captcha(gt: str, challenge: str):
|
||||
|
||||
在snap hutao中的服务端口为/pass_hutao,返回值已做对齐，填写api如`(http://127.0.0.1:9645/pass_hutao?gt={0}&challenge={1})`即可
|
||||
|
||||
添加了辅助api加载卸载模型和查看模型，以及更改日志等级
|
||||
|
||||
具体调用代码看使用项目，此处示例仅为API url和参数示例
|
||||
|
||||
#### --宣传--
|
||||
|
||||
欢迎大家支持我的其他项目(搭配使用)喵~~~~~~~~
|
||||
|
||||
|
||||
Reference in New Issue
Block a user