不重复词语列表

在线去除重复词语

把关键词、标签、词汇或其他文本整理成一份不重复词语列表。你可以决定保留哪次出现的写法,以及完整结果使用什么分隔符。

  • 浏览器本地处理
  • 保持原文出现顺序
  • 完整复制与下载

生成你需要的不重复词语列表

工具会按中文分词或完整拉丁词进行匹配,并明确区分大小写与变音符号规则。标点只作为词语边界,不会进入结果。

更多匹配选项

忽略拉丁字母变音符号

开启后会把 café 与 cafe 视为同一个词,但仍保留你选择的原始写法。

中文按浏览器的中文分词规则识别词语;英文撇号和连字符可保留在词内。标点和表情符号只作为边界。

词语或文本

粘贴文本,或打开一个受支持的本地文件。

0 个词语·0 个字符TXT、Markdown 或 CSV · 最大 1 MB

CSV 会按纯文本读取。本工具不解析列、引号字段或多行记录。

你的文本和文件内容只保留在此设备上,不会上传处理。

不重复词语列表

页面预览可能缩短;复制和下载始终使用完整结果。

不重复词语会显示在这里

粘贴文本、打开受支持的文件,或试用示例即可生成结果。

什么时候需要一份不重复词语列表

当每个词语都是一个独立项目,而你希望把每组重复词只保留一次并生成新结果时,使用这个工具。

整理关键词和标签

合并调研词、标签或分类词,移除重复词语,并让最终列表保持原文首次或末次出现的稳定顺序。

准备词汇表和术语表

把收集到的词汇归并成每个匹配词只保留一种写法,方便后续审阅、教学或导入其他系统。

生成扁平词语列表

当任务不是删除整行或整条记录时,可生成按换行、空格、逗号或自定义字符分隔的词语结果。

示例:把重复词语整理成稳定列表

选择保留首次出现后,结果会按每个词语第一次匹配的位置排列;拉丁字母的大小写和变音符号可分别设置。

输入文本
报告、分析、数据、用户。

报告、数据、隐私、用户。
不重复词语列表
报告
分析
数据
用户
隐私

标点只用于划分词语,不会被复制到新生成的列表中。

使用方法

  1. 1

    添加词语或文本

    粘贴最多 1,000,000 个字符,或打开一个最大 1 MB 的 TXT、Markdown 或纯文本 CSV 文件。

  2. 2

    选择匹配和输出规则

    决定保留首次还是最后一次写法,设置拉丁字母大小写与变音符号匹配,再选择结果分隔方式。

  3. 3

    检查并导出完整列表

    查看词语总数与重复词语组;即使页面预览被缩短,复制和下载仍会使用完整结果。

工具如何识别并返回词语

这些设置只改变新生成的列表,不会改写输入区中的原始文本。

按语言规则识别单个词语

中文使用浏览器的中文分词规则;拉丁文字中的撇号和连字符可保留在词内,空白、标点和表情符号作为边界。

保留首次或最后一次写法

你选择的那次出现决定结果中的原始写法,保留下来的词语仍按它们在原文中的位置稳定排列。

大小写与变音符号只影响拉丁字母

中文本身不受这两项设置影响;它们用于处理夹杂的英文或其他拉丁文字。当前工具按单个词语处理,不删除重复短语或整句。

文件、预览与格式限制

以下边界用于保证浏览器工作区响应顺畅,并让输出行为保持可预期。

一个本地文件,最大 1 MB
支持 TXT、Markdown 和纯文本 CSV;每次输入最多 1,000,000 个字符。
CSV 只按纯文本读取
本工具不会选择列,也不会解析表头、引号字段、转义分隔符或多行记录。
页面预览有上限
结果预览最多显示 20,000 个字符,重复词语组最多显示 100 组;复制和下载仍使用完整列表。

本地处理,文本保持私密

粘贴的文本和受支持的文件内容会直接在你的浏览器中读取与处理,不会为了生成词语列表而上传。

正式环境可能收集有限的页面与操作流程数据,但输入、输出、文件名、文件内容和自定义分隔符不会作为 Analytics 字段发送。

如需了解网站层面的完整遥测与数据处理边界,请阅读英文版隐私政策

常见问题

它会直接删除原文中的重复词语吗?

不会。工具会另外生成一份不重复词语列表,输入区中的原始文本会保留且不被修改。

可以保留最后一次出现,而不是第一次吗?

可以。选择“保留最后出现的写法”后,结果会使用该次出现的原始写法,并按保留位置在原文中的顺序排列。

中文词语如何识别?能处理重复短语吗?

中文由浏览器的中文分词规则切分,再按单个词语比较。第一版不检测 bigram、固定搭配、重复短语或整句,因此遇到专有词组时应检查结果。

可以按 CSV 的某一列去重吗?

不可以。CSV 只按纯文本读取。请先用经过验证、能正确解析 CSV 的工具提取目标列,再使用这个词语列表流程。

复制会包含预览上限之外的内容吗?

会。复制和下载使用完整生成结果,只有页面上的交互预览会被缩短。

相关工具

你可以返回首页处理整行、列表项和文件,也可以切换到另一个词语级工作流程。

返回在线去重工具
只想检查重复用词,不想删除任何内容?使用重复词检测器查看频率、位置和上下文,同时让原始文章保持不变。查找重复用词
在线去除重复词语 — 免费生成不重复词语列表