开始前准备
- 无需登录,直接打开文本整理工具。
- 使用可公开的测试清单,保留原文件备份。
适用界面版本 2026-10-16 · 核对范围
先看这三点
- 行去重按完整行比较,区分大小写并保留首次出现顺序。
- 先整理空格再去重,可能得到不同结果。
- 字符、UTF-8 字节与模型 Token 是不同计量。
一份清单为什么看似去重失败
打开文本整理,粘贴下面五行。第二行末尾有一个空格,第三行为空。点击“行去重”后,Alpha 与 Alpha 仍被视为两行,因为工具比较完整内容。
Alpha
Alpha
beta
BETA
选择符合业务目的的处理顺序
要消除前后空格造成的差异,先点“去首尾空格”,然后点“用结果继续处理”;再点“去空行”,复用结果;最后点“行去重”。结果为三行:Alpha、beta、BETA。这个顺序已用当前处理函数核对。
若你希望不区分大小写,再执行“转小写”、复用、行去重,结果为 alpha 和 beta。大小写可能是产品编码的一部分,批量改动前先确认规则。
怎样理解四个统计数字
页面统计字符、非空字符、非空行和 UTF-8 字节。字符按 Unicode 码点计算:你好 👋\nA 包含 6 个码点、4 个非空字符、2 个非空行和 13 个 UTF-8 字节。多个码点组成的表情可能不等于视觉上的一个字符。这些数字都不能直接代替模型的 Token 用量。
原始输入与结果如何衔接
单次操作把结果放在右侧,不直接修改左侧原文。只有点击“用结果继续处理”才会将结果作为新输入。执行多步清理时,每步先检查结果;完成后复制或下载 .txt。编辑原文后结果会失效,需要重新处理。
适合与不适合的材料
该工具适合逐行清单、普通文本和简短日志整理。它不是 CSV/Excel 表格解析器,带引号内换行的表格不能简单按行拆开。需要复查时保留原文与最终结果;所有输入处理均在浏览器完成。
来源与核实
文中算例已对照当前工具实现验证;配图(如有)来自实际本地操作。
- 文本整理工具 →有界 YOUJIE · 核实于 2026年10月16日