.. _algorithm_layout_detection:
=================
布局检测算法
=================
简介
=================
``布局检测`` 是文档内容提取的基础任务,目标对页面中不同类型的区域进行定位:如 ``图像`` 、 ``表格`` 、 ``文本`` 、 ``标题`` 等,方便后续高质量内容提取。对于 ``文本`` 、 ``标题`` 等区域,可以基于 ``OCR模型`` 进行文字识别,对于表格区域可以基于表格识别模型进行转换。
模型使用
=================
布局检测模型支持以下模型:
.. raw:: html
模型 |
简述 |
特点 |
模型权重 |
配置文件 |
DocLayout-YOLO |
基于YOLO-v10模型改进: 1. 生成多样性预训练数据,提升对多种类型文档泛化性 2. 模型结构改进,提升对多尺度目标感知能力 详见DocLayout-YOLO |
速度快、精度高 |
doclayout_yolo_ft.pt |
layout_detection.yaml |
YOLO-v10 |
基础YOLO-v10模型 |
速度快,精度一般 |
yolov10l_ft.pt |
layout_detection_yolo.yaml |
LayoutLMv3 |
基础LayoutLMv3模型 |
速度慢,精度较好 |
layoutlmv3_ft |
layout_detection_layoutlmv3.yaml |
在配置好环境的情况下,直接执行 ``scripts/layout_detection.py`` 即可运行布局检测算法脚本。
**执行布局检测程序**
.. code:: shell
$ python scripts/layout_detection.py --config configs/layout_detection.yaml
模型配置
-----------------
**1. DocLayout-YOLO / YOLO-v10**
.. code:: yaml
inputs: assets/demo/layout_detection
outputs: outputs/layout_detection
tasks:
layout_detection:
model: layout_detection_yolo
model_config:
img_size: 1024
conf_thres: 0.25
iou_thres: 0.45
model_path: path/to/doclayout_yolo_model
visualize: True
- inputs/outputs: 分别定义输入文件路径和可视化输出目录
- tasks: 定义任务类型,当前只包含一个布局检测任务
- model: 定义具体模型类型,例如 ``layout_detection_yolo``
- model_config: 定义模型配置
- img_size: 定义图像长边大小,短边会根据长边等比例缩放,默认长边保持1024
- conf_thres: 定义置信度阈值,仅检测大于该阈值的目标
- iou_thres: 定义IoU阈值,去除重叠度大于该阈值的目标
- model_path: 模型权重路径
- visualize: 是否对模型结果进行可视化,可视化结果会保存在outputs目录下
**2. LayoutLMv3**
.. note::
LayoutLMv3 默认情况下不能直接运行。运行时请将配置文件修改为configs/layout_detection_layoutlmv3.yaml,并且请按照以下步骤进行配置修改:
1. **Detectron2 环境配置**
.. code-block:: bash
# 对于 Linux
pip install https://wheels-1251341229.cos.ap-shanghai.myqcloud.com/assets/whl/detectron2/detectron2-0.6-cp310-cp310-linux_x86_64.whl
# 对于 macOS
pip install https://wheels-1251341229.cos.ap-shanghai.myqcloud.com/assets/whl/detectron2/detectron2-0.6-cp310-cp310-macosx_10_9_universal2.whl
# 对于 Windows
pip install https://wheels-1251341229.cos.ap-shanghai.myqcloud.com/assets/whl/detectron2/detectron2-0.6-cp310-cp310-win_amd64.whl
2. **启用 LayoutLMv3 注册代码**
请取消注释以下链接中的代码行:
- `第2行 `_
- `第8行 `_
.. code-block:: python
from pdf_extract_kit.tasks.layout_detection.models.yolo import LayoutDetectionYOLO
from pdf_extract_kit.tasks.layout_detection.models.layoutlmv3 import LayoutDetectionLayoutlmv3
from pdf_extract_kit.registry.registry import MODEL_REGISTRY
__all__ = [
"LayoutDetectionYOLO",
"LayoutDetectionLayoutlmv3",
]
.. code:: yaml
inputs: assets/demo/layout_detection
outputs: outputs/layout_detection
tasks:
layout_detection:
model: layout_detection_layoutlmv3
model_config:
model_path: path/to/layoutlmv3_model
- inputs/outputs: 分别定义输入文件路径和可视化输出目录
- tasks: 定义任务类型,当前只包含一个布局检测任务
- model: 定义具体模型类型,例如layout_detection_layoutlmv3
- model_config: 定义模型配置
- model_path: 模型权重路径
多样化输入支持
-----------------
PDF-Extract-Kit中的布局检测脚本支持 ``单个图像`` 、 ``只包含图像文件的目录`` 、 ``单个PDF文件`` 、 ``只包含PDF文件的目录`` 等输入形式。
.. note::
根据自己实际数据形式,修改configs/layout_detection.yaml中inputs的路径即可
- 单个图像: path/to/image
- 图像文件夹: path/to/images
- 单个PDF文件: path/to/pdf
- PDF文件夹: path/to/pdfs
.. note::
当使用PDF作为输入时,需要将 ``layout_detection.py``
.. code:: python
# for image detection
detection_results = model_layout_detection.predict_images(input_data, result_path)
中的 ``predict_images`` 修改为 ``predict_pdfs`` 。
.. code:: python
# for pdf detection
detection_results = model_layout_detection.predict_pdfs(input_data, result_path)
可视化结果查看
-----------------
当config文件中 ``visualize`` 设置为 ``True`` 时,可视化结果会保存在 ``outputs`` 目录下。
.. note::
可视化可以方便对模型结果进行分析,但当进行大批量任务时,建议关掉可视化(设置 ``visualize`` 为 ``False`` ),减少内存和磁盘占用。