九宫格+点选测试代码

本项目仅供学习交流使用，请勿用于商业用途，否则后果自负。

本项目仅供学习交流使用，请勿用于商业用途，否则后果自负。

本项目仅供学习交流使用，请勿用于商业用途，否则后果自负。

参考项目

resnet模型及V4数据集：https://github.com/taisuii/ClassificationCaptchaOcr

点选检测模型https://github.com/Peterande/D-FINE

另一个点选检测模型https://github.com/facebookresearch/dinov3

另一个点选的检测模型https://github.com/ultralytics/ultralytics

api：https://github.com/ravizhan/geetest-v3-click-crack (此项目近期未更新，当前9.2.0-guwyxh参数修改"captcha_token":"2064329542", "tsfq":"xovrayel")

感谢 @kissnavel 提供的关于我没玩的那两款的api

运行步骤

1.安装依赖（本地必选，使用docker跳至5-b）

（可选）a-0. 如果要训练paddle的话还得安装paddlex及图像分类模块，安装看项目https://github.com/PaddlePaddle/PaddleX （可选）a-1. d-fine训练看项目https://github.com/Peterande/D-FINE （可选）a-2. dinov3使用看项目https://github.com/Peterande/D-FINE 具体分类基于patch token （可选）a-3. yolo训练看项目https://github.com/Peterande/D-FINE （可选）a-4. 基于dinov3的分类，架构极其简陋，从一组图片中抽取所有已定位的图片的特征图，而后在一组中以下侧作为锚点，设置1正面样本，其余均做负面样本，学习dinov3提取特征中影响相似度比对的维度 （* 必选！）b.模型需要在项目目录下新建一个model文件夹，然后把模型文件放进去，具体命名可以是resnet18.onnx或者PP-HGNetV2-B4.onnx，默认使用PP-HGNetV2-B4模型，如果用resnet则use_v3_model设置为False，因为模型的输入输出不一样，可以自行修改，d-fine的模型同样放置此路径用于通过点选，另外的dinov3和yolo1n和我自己做的任务头整体组合为一个流水线作业，全都要放进去

pip install -r requirements.txt

仅推理

pip install -r requirements_without_train.txt

2.自行准备数据集，V3和V4有区别（可选），点选可以自己生成，要有旋转、重叠、换色

a. 训练resnet18（可选）

• 数据集详情参考上面标注的项目，但是上面项目是V4数据集，V3没有demo，自行发挥吧，用V4练V3不改代码正确率有点感人
• 主要是V4的尺寸和V3有差别，V4的api直接给两张图，一张是目标图，一张是九宫格，V3放在一起要切目标，且V3目标图清晰度很低，V4九宫格切了之后是100 * 86的图（去掉黑边），但是V3九宫格切的是112 * 112，不确定V4九宫格内容在V3基础上做了什么变换，反正改预处理就完事了

a-0. 训练PP-HGNetV2-B4（可选）

在paddle上随便找的，数据集格式如下，如果拿V4练V3，建议是多整点变换

   dataset
   ├─images   #所有图片存放路径
   ├─label.txt #标签路径，每一行数据格式为 <序号>+<空格>+<类别>，如15 地球仪
   ├─train.txt #训练图片，每一行数据格式为 <图片路径>+<空格>+<类别>，如images/001.jpg 0
   └─验证集和测试集同上

a-1. 训练d-fine（可选）

数据集格式如d-fine中标识，如果不修改源码则num_classes需+1，采用coco格式即可，我用的320*320，dataloader注释掉了RandomZoomOut、RandomHorizontalFlip、RandomIoUCrop（这些我全写在数据集生成中了）

a-2. 训练基于dinov3和yolo的流水线（可选）

数据集格式我自己拟定的，因为一次加载使用一个锚点一个正面多个负面，所以我先组织了格式，当然原始标注时还是用的coco，将每个image上的所有标注全组合在两个列表，根据y轴划分top和bottom，以bottom为锚点（实际上没差，但是实际使用不涉及top组内比对就跳过了节省资源），top中1✅多❌

b. 如果要切V3的九宫格图用crop_image.py的crop_image_v3，切V4则使用crop_image，自行编写切图脚本

3.训练模型（可选）

• 训练resnet18运行 python train.py
• 如果训练PP-HGNetV2-B4运行python train_paddle.py
• 训练d-fine参照原项目，一个模型拿下，比ddddocr+相似性检测资源开销小点
• 训练代码极其简单，可以基于我提出的思路即数据集组织，使用llm直接生成，yolo训练参考其仓库即可，dinov3没训练，也没拿来做定位，因为定位头的规模大于yolo11n，不划算

4-a.PP-HGNetV2-B4模型和resnet模型转换为onnx（可选）

• 运行 python convert.py（自行进去修改需要转换的模型，一般是选loss小的）
• paddle模型转换要装paddle2onnx，详情参见https://www.paddlepaddle.org.cn/documentation/docs/guides/advanced/model_to_onnx_cn.html

4-b.d-fine转换为onnx（可选）

• 依原项目转换
• 推理时图像预处理应于训练时一致，d-fine仓库中onnx推理的预处理和训练不一致……

4-c. 复合模型转onnx（可选）

• yolo依原项目转换
• dinov3直接使用官方即可，只是拿来提取特征
• 分类的导出也是pytorch和onnx内置函数，由于太小所以没必要做什么操作
• 之所以不组合为一个模型主要还是考虑到未来如果更新，可以复用，dinov3提取的特征实际上可以完成上述所有任务，虽然定位的模型会大一点，但一个几百kb大小的头可以替代九宫格的分类模型，点选定位如果只划分上下的部分或许也能用更小的模型

5-a.启动fastapi服务（必须要有训练完成的onnx格式模型）

基于环境变量可以自定义加载哪些模型，目前支持use_pdl，use_dfine，use_multi，日志也有环境变量改，LOG_LEVEL

运行 python main.py（九宫格默认用的paddle的onnx模型，如果要用resnet18可以自己改注释）或者uvicorn main:app --host 0.0.0.0 --port 9645 --reload

由于轨迹问题，可能会出现验证正确但是结果失败，所以建议增加retry次数，训练后的paddle模型正确率在99.9%以上， 由于dinov3的onnx和pth不完全一致，导致基于pth训练的头精度低了一点，4613张图里面错了1张，如果采用量化的dinov3会多错几张，当然，可以使用onnx量化提取的特征训练，但是速度比pth慢得多就是了，再说吧

5-b.使用docker启动服务

镜像地址为luguoyixiazi/test_nine:25.7.2 此版本特供只需要九宫格和便笺的

镜像地址为luguoyixiazi/test_nine:25.11.2 此版本在上述基础上支持🛤和3z

运行时只需指定绑定的port和两个环境变量use_pdl和use_dfine和use_multi，1为启用模型，0为不启用，默认均启用，api端口为/pass_uni，必填参数gt、challenge，单独的pass_nine和pass_icon也写了，有更多可选参数

6.api调用

python调用如：

import httpx

def game_captcha(gt: str, challenge: str):
	res = httpx.get("http://127.0.0.1:9645/pass_uni",params={'gt':gt,'challenge':challenge},timeout=10)
	# 或者依旧使用pass_nine路径：
	# res = httpx.get("http://127.0.0.1:9645/pass_nine",params={'gt':gt,'challenge':challenge,'use_v3_model':True,"save_result":False},timeout=10)
	datas = res.json()['data']
    if datas['result'] == 'success':
        return datas['validate']
    return None # 失败返回None 成功返回validate

在snap hutao中的服务端口为/pass_hutao,返回值已做对齐，填写api如(http://127.0.0.1:9645/pass_hutao?gt={0}&challenge={1})即可

添加了辅助api加载卸载模型和查看模型，以及更改日志等级

具体调用代码看使用项目，此处示例仅为API url和参数示例

--宣传--

欢迎大家支持我的其他项目(搭配使用)喵~~~~~~~~