lanyuanxiaoyao
2b81dd49fe
将所有 HTML Parser 的函数签名从接收 HTML 字符串改为接收文件路径， 与其他 Reader（PDF、DOCX 等）保持一致。 主要变更： - 修改 PARSERS 列表，移除 lambda 表达式，直接传递函数引用 - 在 HtmlReader.parse() 中统一管理临时文件（UTF-8 编码） - 每个 Parser 使用独立的临时文件副本，用完即清理 - 移除 download_and_parse() 方法，逻辑合并到 parse() 中 - 更新相关测试，改为直接传递文件路径 受影响的 Parser： - trafilatura.parse(html_content) -> parse(file_path) - domscribe.parse(html_content) -> parse(file_path) - markitdown.parse(html_content, temp_file_path) -> parse(file_path) - html2text.parse(html_content) -> parse(file_path)
37 lines
1.4 KiB
Python
37 lines
1.4 KiB
Python
"""测试 Trafilatura HTML Reader 的解析功能。"""
|
||
|
||
import pytest
|
||
from scripts.readers.html import trafilatura
|
||
|
||
|
||
class TestTrafilaturaHtmlReaderParse:
|
||
"""测试 Trafilatura HTML Reader 的 parse 方法。"""
|
||
|
||
def test_normal_file(self, temp_html):
|
||
"""测试正常 HTML 文件解析。"""
|
||
file_path = temp_html(content="<h1>标题</h1><p>段落内容</p>")
|
||
content, error = trafilatura.parse(file_path)
|
||
if content is not None:
|
||
assert "标题" in content or "段落" in content
|
||
|
||
def test_file_not_exists(self, tmp_path):
|
||
"""测试文件不存在的情况。"""
|
||
non_existent_path = str(tmp_path / "non_existent.html")
|
||
content, error = trafilatura.parse(non_existent_path)
|
||
assert content is None
|
||
# 如果库未安装，也会返回 None，但错误信息不同
|
||
assert error is not None
|
||
|
||
def test_empty_file(self, temp_html):
|
||
"""测试空 HTML 文件。"""
|
||
file_path = temp_html(content="<html><body></body></html>")
|
||
content, error = trafilatura.parse(file_path)
|
||
assert content is None or content.strip() == ""
|
||
|
||
def test_special_chars(self, temp_html):
|
||
"""测试特殊字符处理。"""
|
||
file_path = temp_html(content="<p>中文测试 😀 ©®</p>")
|
||
content, error = trafilatura.parse(file_path)
|
||
if content is not None:
|
||
assert "中文" in content or "测试" in content
|