Files
lyxy-document/core/parser.py
lanyuanxiaoyao 750ef50a8d refactor: 重构解析器架构并添加编码检测和配置管理
简化 parse_input() 为纯调度器,通过遍历 readers 的 supports() 方法识别输入类型,移除 URL 特殊处理和文件检查逻辑。各 reader 的 parse() 方法负责完整验证(文件存在、格式有效性)。

新增功能:
- 添加 chardet 编码自动检测,支持多种中文编码回退机制
- 创建统一配置类管理编码、下载超时、日志等级等配置项
- HTML reader 支持本地文件编码检测和 URL 统一处理

安全性改进:
- 修复 safe_open_zip() 路径遍历漏洞,使用 pathlib 规范化路径
- 添加边界检查,search_markdown() 检查负数参数

其他改进:
- 修复类型注解(argparse.Namespace)
- 日志系统仅输出 ERROR 级别,避免干扰 Markdown 输出
- 更新 BaseReader 接口文档,明确 supports() 和 parse() 职责划分
- 同步 delta specs 到主 specs(document-reading、html-reader、configuration、encoding-detection)
2026-03-08 16:33:40 +08:00

76 lines
2.3 KiB
Python

"""统一解析调度器,负责根据输入类型选择合适的 reader 进行解析。"""
import argparse
import sys
from typing import List, Optional, Tuple
from core.exceptions import FileDetectionError, ReaderNotFoundError
from core.markdown import (
normalize_markdown_whitespace,
remove_markdown_images,
)
from readers import BaseReader
def parse_input(
input_path: str,
readers: List[BaseReader],
) -> Tuple[Optional[str], List[str]]:
"""
统一解析入口函数,遍历 readers 选择合适的 reader 进行解析。
返回: (content, failures)
- content: 成功时返回 Markdown 内容,失败时返回 None
- failures: 各解析器的失败原因列表
"""
if not input_path:
raise FileDetectionError("输入路径不能为空")
for reader in readers:
if reader.supports(input_path):
return reader.parse(input_path)
raise ReaderNotFoundError(f"未找到支持的 reader: {input_path}")
def process_content(content: str) -> str:
"""处理解析后的 Markdown 内容"""
content = remove_markdown_images(content)
content = normalize_markdown_whitespace(content)
return content
def output_result(
content: str,
args: argparse.Namespace,
) -> None:
"""根据命令行参数输出结果"""
if args.count:
print(len(content.replace("\n", "")))
elif args.lines:
print(len(content.split("\n")))
elif args.titles:
from core.markdown import extract_titles
titles = extract_titles(content)
for title in titles:
print(title)
elif args.title_content:
from core.markdown import extract_title_content
title_content = extract_title_content(content, args.title_content)
if title_content is None:
print(f"错误: 未找到标题 '{args.title_content}'")
sys.exit(1)
print(title_content, end="")
elif args.search:
from core.markdown import search_markdown
search_result = search_markdown(content, args.search, args.context)
if search_result is None:
print(f"错误: 正则表达式无效或未找到匹配: '{args.search}'")
sys.exit(1)
print(search_result, end="")
else:
print(content, end="")