1. 项目概述：构建土耳其语义关系语料库的混合方法

在自然语言处理领域，语义关系识别是理解语言深层含义的基础任务。对于土耳其语这类低资源语言而言，构建大规模语义关系数据集面临三大核心挑战：首先，黏着语的形态复杂性导致单个词根能衍生数百种有效词形；其次，现有资源多依赖英语WordNet的翻译投影，存在文化偏差；最后，专业领域术语（如法律、医疗）覆盖率严重不足。

我们团队开发的混合协议创新性地结合了三种技术路径：

• 分布式语义表示 ：利用FastText的子词嵌入特性捕捉土耳其语丰富的形态变化
• 大语言模型推理 ：通过Gemini 2.5-Flash的上下文理解能力识别细粒度语义关系
• 词典验证锚定 ：整合高质量人工标注数据作为质量基准

这种组合拳以65美元的成本构建了包含843,000个语义对的土耳其语义关系语料库（TSRC），规模达到现有最佳资源的10倍。下游任务验证显示，基于该数据训练的嵌入模型在同义词检索任务中达到90%的top-1准确率，分类模型的F1-macro值同样达到90%。

关键突破：我们的方法首次实现了在低资源语言中，以工业化规模生产接近人工标注质量的语义关系数据。特别值得注意的是，对于土耳其语中常见的"词根+多后缀"组合（如"karar"→"kararları"/"kararında"），FastText的子词建模能自动建立语义关联，解决了传统词嵌入面临的词形爆炸问题。

2. 技术架构解析

2.1 三阶段处理流程

2.1.1 上下文准备阶段

我们从77,000个法律领域专业术语出发，通过命名实体识别(NER)扩展到110,000词项。这里采用领域适应的BiLSTM-CRF模型，在土耳其法律文本上微调的F1值达到92.3%。词向量使用Facebook发布的土耳其语FastText模型(cc_tr_300)，其关键优势在于：

• 子词单元处理 ：将单词拆解为3-6字符的n-gram组合，例如"mahkeme"(法院)会被表示为<mah, ahk, hke,...>的向量组合
• 形态学感知 ：共享词根的词汇自动获得相似表示，如"karar"(决定)、"kararları"(其决定)、"kararında"(在决定中)的余弦相似度>0.85
• 领域适应 ：针对法律术语的特殊性，我们在1.2GB土耳其法律文本上进行了增量训练

层次聚类采用余弦距离作为度量，公式为：

distance = 1 - (u·v)/(||u||·||v||)

选择0.4作为距离阈值是基于网格搜索的结果——在验证集上，该值能在召回率(85%)和精确度(92%)之间取得最佳平衡。最终生成13,000个语义簇，平均每个簇包含8.5个词项。

2.1.2 LLM语义增强阶段

Gemini 2.5-Flash的选用基于以下考量：

• 多语言能力 ：在土耳其语理解任务中比GPT-4高7.2%的准确率
• 成本效益 ：每百万token输入仅需0.075美元
• 长上下文支持 ：1M token的窗口允许批量处理整个语义簇

提示工程(Prompt Engineering)的关键设计包括：

1. 严格定义三类关系 ：

   • 同义词：100%语境可替换（如"mahkeme"↔"yargı"）
   • 反义词：语义对立（如"alıcı"↔"satıcı"）
   • 共下位词：共享上位词但不可互换（如"hukuk"↔"ceza"）

2. 黄金规则 ：

   {
     "禁止不确定分类": "跳过模糊关系",
     "必须结构化输出": "严格JSON格式",
     "禁止自反关系": "词项不能作为自己的同义词"
   }
   

3. 知识增强 ：允许模型基于内部知识添加合理的新关系

2.1.3 词典整合阶段

整合的《土耳其同义词词典》包含20,000条目，通过以下过滤策略确保质量：

• 仅保留最多两个同义词候选的条目
• 排除需要语境判断的模糊词对（如"güzel"可表示"美丽"或"好"）
• 移除与LLM生成结果重复的条目

最终保留16,000个高精度词对，作为整个语料库的质量锚点。

2.2 数据统计与特性

TSRC的最终构成如下表所示：

类别	数量	占比	数据源
同义词	148,367	17.60%	82% LLM + 18% 词典
反义词	87,967	10.44%	100% LLM
共下位词	606,612	71.96%	100% LLM
总计	842,946	100%	-

类型-标记比(Type-Token Ratio)仅为0.02，表明语料库具有高度互联性——平均每个词项参与6.7个语义关系。例如法律术语"tazminat"(赔偿)同时出现在：

• 同义词链："tazminat"↔"ödeme"
• 反义词对："tazminat"↔"ceza"
• 共下位词集：{"tazminat", "faiz", "borç"}

3. 模型训练与验证

3.1 嵌入模型构建

采用multilingual-e5-large作为基础架构，其优势在于：

• 基于XLM-RoBERTa的560M参数模型
• 专门优化的多语言对比学习目标
• 支持土耳其语子词tokenization

数据准备策略 ：

• 正样本：严格同义词对
• 负样本：反义词+随机采样词对（比例3:1）
• 硬负样本：共下位词对（实验证明加入会降低性能）

损失函数采用带缓存的多元排序损失(CMNRL)：

loss = -log(exp(sim(u,v)/τ) / [exp(sim(u,v)/τ) + Σexp(sim(u,v_j)/τ)])

其中温度系数τ=0.07，batch size=128，在NVIDIA RTX 3060上训练8个epoch。

性能表现 ：

• Top-1准确率：90.2%
• Top-5准确率：97.8%
• 推理速度：1,200 queries/sec

3.2 分类模型优化

经过六种模型对比，最终选择turkish-e5-large：

• 在5-way交叉验证中F1-macro达0.87
• 对土耳其语形态变化具有鲁棒性
• 支持64 token的序列长度（覆盖99.7%样本）

关键训练技巧 ：

1. 类别加权损失：反义词权重=1.5，同义词=1.2
2. 动态采样：每epoch重新平衡数据集
3. BF16混合精度：减少40%显存占用

最终模型在测试集上的表现：

类别	精确率	召回率	F1
同义词	0.76	0.90	0.83
反义词	0.91	0.93	0.92
共下位词	0.93	0.95	0.94

4. 应用场景与局限

4.1 典型应用场景

• 法律文书分析 ：TSRC包含4.2万法律术语关系，可用于合同条款比对
• 金融风控 ：识别"hedge"↔"risk avoidance"等金融术语等价关系
• 医疗问答系统 ：建立"diabetes"↔"hyperglycemia"等医学术语映射

4.2 当前局限性

1. 领域偏差 ：75%词项来自法律/金融领域
2. 词形覆盖 ：未系统包含所有屈折形式
3. 动态更新 ：需建立持续学习机制纳入新词

实际部署中发现，当处理包含大量口语表达的社交媒体文本时，模型性能会下降约15%。这时需要配合规则引擎进行预处理，例如将"dimi"(口语"对吧")标准化为"değil mi"。

5. 扩展与改进方向

基于用户反馈，我们正在推进以下增强：

1. 多模态扩展 ：结合视觉信息判断"bank"(银行/河岸)等歧义词
2. 方言适应 ：收集东南安纳托利亚方言词表
3. 增量学习 ：每月自动纳入新出现的术语

一个有趣的发现是：当引入词性标注约束后（如限制形容词只与形容词构成关系），同义词判断准确率可再提升2.3%。这提示我们形态句法信息在土耳其语语义分析中具有特殊价值。