116 lines
4.9 KiB
Python
116 lines
4.9 KiB
Python
"""文件解析工具
|
|
|
|
将上传的简历文件（PDF / Word / TXT）转换为「文本单元数组」或纯文本字符串。
|
|
- PDF：使用 LiteParse（JSON 模式）按文本块的阅读顺序提取，每个文本块作为一个单元。
|
|
关闭 OCR —— 文本型简历无需 OCR，且 OCR 默认会联网下载字库导致严重阻塞。
|
|
- Word：按段落（paragraph）切分，表格行用 \t 拼成一个单元。
|
|
- TXT：按换行切分。
|
|
单元数组用于 AI 提取时按行号定位 description/summary，避免 AI 照抄长文本。
|
|
|
|
另提供 parse_to_markdown：基于 LiteParse 的 Markdown 结构化输出（保留标题/列表/加粗等
|
|
语义层级），可用于需要整篇结构化文本的 AI 场景。
|
|
"""
|
|
|
|
import io
|
|
from collections import Counter
|
|
|
|
from docx import Document
|
|
from liteparse import LiteParse
|
|
|
|
from app.core.logger import log
|
|
|
|
# LiteParse 解析器复用实例（关闭 OCR、静默日志）。线程安全由调用方的 to_thread 串行保证。
|
|
_PDF_SEGMENT_PARSER = LiteParse(output_format="json", ocr_enabled=False, quiet=True)
|
|
_PDF_MARKDOWN_PARSER = LiteParse(output_format="markdown", ocr_enabled=False, quiet=True)
|
|
|
|
|
|
def _drop_repeated(segments: list[str], threshold: int = 3) -> list[str]:
|
|
"""过滤重复出现的行（水印/页眉页脚特征）：完全相同且出现次数 >= threshold 的行整体丢弃"""
|
|
counts = Counter(segments)
|
|
return [s for s in segments if counts[s] < threshold]
|
|
|
|
|
|
def _pdf_segments(content: bytes) -> list[str]:
|
|
"""解析 PDF：使用 LiteParse 按阅读顺序遍历每页文本块，每块作为一个独立单元，过滤空行。
|
|
|
|
不在预处理阶段合并行——是否合并/分段/排除噪声全部交给 AI 的行号区间决定。
|
|
"""
|
|
result = _PDF_SEGMENT_PARSER.parse(content)
|
|
segments: list[str] = []
|
|
for page in result.pages:
|
|
for item in page.text_items:
|
|
text = item.text.strip()
|
|
if text:
|
|
segments.append(text)
|
|
return segments
|
|
|
|
|
|
def _docx_segments(content: bytes) -> list[str]:
|
|
"""解析 Word (.docx)，按段落切分为单元，表格行用 \t 拼为一个单元"""
|
|
try:
|
|
doc = Document(io.BytesIO(content))
|
|
except Exception:
|
|
raise ValueError("无法解析该 Word 文件，如果是旧版 .doc 格式，请另存为 .docx 后重试")
|
|
segments: list[str] = []
|
|
for para in doc.paragraphs:
|
|
text = para.text.strip()
|
|
if text:
|
|
segments.append(text)
|
|
for table in doc.tables:
|
|
for row in table.rows:
|
|
row_text = "\t".join(cell.text.strip() for cell in row.cells)
|
|
if row_text.strip():
|
|
segments.append(row_text)
|
|
return segments
|
|
|
|
|
|
def _txt_segments(content: bytes) -> list[str]:
|
|
"""解析 TXT，自动检测编码，按换行切分为单元"""
|
|
text = None
|
|
for encoding in ("utf-8", "gbk", "gb2312", "latin-1"):
|
|
try:
|
|
text = content.decode(encoding)
|
|
break
|
|
except (UnicodeDecodeError, LookupError):
|
|
continue
|
|
if text is None:
|
|
text = content.decode("utf-8", errors="replace")
|
|
return [line.strip() for line in text.splitlines() if line.strip()]
|
|
|
|
|
|
def parse_to_segments(filename: str, content: bytes) -> list[str]:
|
|
"""根据文件名后缀自动选择解析方法，返回「文本单元数组」"""
|
|
suffix = filename[filename.rfind("."):].lower() if "." in filename else ""
|
|
log.info(f"解析文件: {filename}，类型: {suffix}")
|
|
if suffix == ".pdf":
|
|
segments = _pdf_segments(content)
|
|
elif suffix in (".docx", ".doc"):
|
|
segments = _docx_segments(content)
|
|
elif suffix == ".txt":
|
|
segments = _txt_segments(content)
|
|
else:
|
|
raise ValueError(f"不支持的文件类型: {suffix}，支持: .pdf, .docx, .doc, .txt")
|
|
return _drop_repeated(segments)
|
|
|
|
|
|
def parse_to_text(filename: str, content: bytes) -> str:
|
|
"""根据文件名后缀自动选择解析方法，返回纯文本（单元用换行拼接）"""
|
|
return "\n".join(parse_to_segments(filename, content))
|
|
|
|
|
|
def parse_to_markdown(filename: str, content: bytes) -> str:
|
|
"""将简历解析为 Markdown 结构化文本（保留标题/列表/加粗等语义层级）。
|
|
|
|
PDF 使用 LiteParse 的 Markdown 输出；Word/TXT 无版式信息，退化为换行拼接的纯文本。
|
|
适用于需要整篇结构化文本喂给 LLM 的场景。
|
|
"""
|
|
suffix = filename[filename.rfind("."):].lower() if "." in filename else ""
|
|
log.info(f"解析文件(markdown): {filename}，类型: {suffix}")
|
|
if suffix == ".pdf":
|
|
return _PDF_MARKDOWN_PARSER.parse(content).text
|
|
if suffix in (".docx", ".doc"):
|
|
return "\n".join(_drop_repeated(_docx_segments(content)))
|
|
if suffix == ".txt":
|
|
return "\n".join(_drop_repeated(_txt_segments(content)))
|
|
raise ValueError(f"不支持的文件类型: {suffix}，支持: .pdf, .docx, .doc, .txt")
|