lanyuanxiaoyao 750ef50a8d refactor: 重构解析器架构并添加编码检测和配置管理
简化 parse_input() 为纯调度器,通过遍历 readers 的 supports() 方法识别输入类型,移除 URL 特殊处理和文件检查逻辑。各 reader 的 parse() 方法负责完整验证(文件存在、格式有效性)。

新增功能:
- 添加 chardet 编码自动检测,支持多种中文编码回退机制
- 创建统一配置类管理编码、下载超时、日志等级等配置项
- HTML reader 支持本地文件编码检测和 URL 统一处理

安全性改进:
- 修复 safe_open_zip() 路径遍历漏洞,使用 pathlib 规范化路径
- 添加边界检查,search_markdown() 检查负数参数

其他改进:
- 修复类型注解(argparse.Namespace)
- 日志系统仅输出 ERROR 级别,避免干扰 Markdown 输出
- 更新 BaseReader 接口文档,明确 supports() 和 parse() 职责划分
- 同步 delta specs 到主 specs(document-reading、html-reader、configuration、encoding-detection)
2026-03-08 16:33:40 +08:00
2026-03-08 11:50:34 +08:00

lyxy-document

帮助 AI 工具读取转换文档到 Markdown 的统一工具。

功能特性

支持多种文档格式的解析,统一转换为 Markdown

  • Office 文档: DOCX、XLSX、PPTX
  • PDF 文档: 支持 OCR 优先解析
  • HTML/URL: 支持本地 HTML 文件和在线 URL 下载解析

安装

基础安装

uv add lyxy-document

可选依赖分组

按文件类型按需安装:

# 仅安装 DOCX 支持
uv add "lyxy-document[docx]"

# 仅安装 XLSX 支持
uv add "lyxy-document[xlsx]"

# 仅安装 PPTX 支持
uv add "lyxy-document[pptx]"

# 仅安装 PDF 支持
uv add "lyxy-document[pdf]"

# 仅安装 HTML 支持
uv add "lyxy-document[html]"

# 仅安装 HTTP/URL 下载支持
uv add "lyxy-document[http]"

组合分组:

# 安装所有 Office 格式支持
uv add "lyxy-document[office]"

# 安装 WebHTML + HTTP支持
uv add "lyxy-document[web]"

# 安装全部功能
uv add "lyxy-document[full]"

# 安装开发依赖
uv add --dev "lyxy-document[dev]"

使用方法

命令行使用

# 解析文档为 Markdown
uv run lyxy-document-reader document.docx

# 统计字数
uv run lyxy-document-reader document.docx -c

# 统计行数
uv run lyxy-document-reader document.docx -l

# 提取所有标题
uv run lyxy-document-reader document.docx -t

# 提取指定标题及其内容
uv run lyxy-document-reader document.docx -tc "标题名称"

# 搜索文档内容(支持正则表达式)
uv run lyxy-document-reader document.docx -s "搜索关键词" -n 2

Python API 使用

from core import parse_input, process_content
from readers import READERS

# 实例化 readers
readers = [ReaderCls() for ReaderCls in READERS]

# 解析文件
content, failures = parse_input("document.docx", readers)

if content:
    # 处理内容(移除图片、规范化空白)
    content = process_content(content)
    print(content)
else:
    print("解析失败:")
    for failure in failures:
        print(failure)

项目结构

lyxy-document/
├── lyxy_document_reader.py    # 统一 CLI 入口
├── core/                       # 核心模块
│   ├── exceptions.py           # 自定义异常体系
│   ├── markdown.py             # Markdown 工具函数
│   └── parser.py               # 统一解析调度器
├── readers/                    # 格式阅读器
│   ├── base.py                 # Reader 基类
│   ├── docx/                   # DOCX 阅读器
│   ├── xlsx/                   # XLSX 阅读器
│   ├── pptx/                   # PPTX 阅读器
│   ├── pdf/                    # PDF 阅读器
│   └── html/                   # HTML/URL 阅读器
├── utils/                      # 工具函数
│   └── file_detection.py       # 文件类型检测
└── tests/                      # 测试

解析器优先级

DOCX

  1. docling
  2. unstructured
  3. pypandoc-binary
  4. MarkItDown
  5. python-docx
  6. XML 原生解析

XLSX

  1. docling
  2. unstructured
  3. MarkItDown
  4. pandas
  5. XML 原生解析

PPTX

  1. docling
  2. unstructured
  3. MarkItDown
  4. python-pptx
  5. XML 原生解析

PDFOCR 优先)

  1. docling OCR
  2. unstructured OCR
  3. docling
  4. unstructured
  5. MarkItDown
  6. pypdf

HTML/URL

  1. trafilatura
  2. domscribe
  3. MarkItDown
  4. html2text

开发

安装开发依赖

uv sync --dev

运行测试

uv run pytest

代码格式化

uv run black .
uv run isort .

类型检查

uv run mypy .

许可证

MIT License

Description
No description provided
Readme 1.4 MiB
Languages
Python 99.8%
Shell 0.2%