Qwen3.5-4B-Condenser API详解：轻松集成文本压缩功能到你的应用

【免费下载链接】Qwen3.5-4B-Condenser 项目地址: https://ai.gitcode.com/hf_mirrors/twinkle-kit/Qwen3.5-4B-Condenser

Qwen3.5-4B-Condenser是一款基于Qwen3.5-4B模型微调的文本压缩工具，它能将长文本高效压缩为结构化摘要，同时保留核心信息，非常适合需要处理大量文本数据的应用场景。本文将详细介绍其API使用方法，帮助开发者快速集成到自己的项目中。

核心功能：文本压缩的强大能力

Qwen3.5-4B-Condenser作为一款专业的文本压缩工具，采用了独特的双部分输出结构：

• Summary部分：包含文本的核心主题和2-4个关键事实，采用电报式风格（去除"the"、"a"等虚词），确保信息密度最大化
• More部分：作为信息索引，列出可从原始文本中恢复的类别关键词（如"birthplace, death place, age"），而非具体数值

这种结构使下游模型能够先读取摘要，再决定是否需要访问原始文本，极大提升了处理效率。

快速开始：API调用基础

准备工作

首先确保已安装必要的依赖库，并通过以下命令克隆项目仓库：

git clone https://gitcode.com/hf_mirrors/twinkle-kit/Qwen3.5-4B-Condenser

API调用示例

以下是使用OpenAI兼容客户端调用Qwen3.5-4B-Condenser API的基本示例：

from openai import OpenAI

client = OpenAI(base_url='http://localhost:8000/v1', api_key='EMPTY')

SYSTEM = '你是文本压缩助手...'  # 完整系统提示见下方
USER_TEMPLATE = '下游模型将读取你的压缩内容...'  # 完整用户模板见下方

query = '居里夫人出生于哪个城市？'
title = '玛丽·居里生平'
body = '玛丽·居里（1867年11月7日－1934年7月4日），出生于华沙...'  # 完整文本内容
text = f'{title}: {body}'
budget = max(160, int(len(text) * 0.5))  # 计算压缩预算

resp = client.chat.completions.create(
    model='qwen3.5-4b-condenser',
    messages=[
        {'role': 'system', 'content': SYSTEM},
        {'role': 'user', 'content': USER_TEMPLATE.format(
            query=query, budget=budget, text=text)}
    ],
    temperature=0.3,
    max_tokens=max(128, int(budget * 0.6) + 16)
)
print(resp.choices[0].message.content)

详细参数说明

系统提示（System Prompt）

系统提示是固定的，定义了压缩的基本规则和格式要求，完整内容可在项目的README.md中找到。核心要点包括：

• 压缩不能丢失源文本的主要信息
• 输出必须包含## Summary和## More两个部分
• 采用电报式风格，去除虚词，使用冒号和逗号表示"是"或"有"
• 摘要必须包含主题和2-4个具体核心事实
• 输出语言必须与源文本语言一致

用户提示模板（User Prompt Template）

用户提示模板包含三个关键参数：

• {query}：提供排序提示的用户问题（非过滤条件）
• {budget}：字符数硬限制，计算公式为max(160, int(len(title+body) * 0.5))
• {text}：格式为{title}: {body}的待压缩文本

API请求参数

参数	说明	推荐值
model	模型名称	qwen3.5-4b-condenser
temperature	生成温度，控制随机性	0.3
max_tokens	最大生成 tokens 数	max(128, int(budget * 0.6) + 16)

输出格式解析

模型输出遵循固定格式，包含两个部分：

## Summary
<主题 + 2-4个具体核心事实，与查询相关的事实优先>

## More
<逗号分隔的类别关键词，需要展开才能查看具体值>

例如，对于居里夫人的生平文本，压缩输出可能如下：

## Summary
Marie Curie: French-Polish physicist/chemist, founder of radioactivity research, first female Sorbonne professor.
- Nobel x2 (Physics + Chemistry); first woman Nobel laureate; only person with Nobels in two sciences.
- Discovered polonium + radium; coined "radioactivity"; proved it is an atomic property.

## More
birthplace, death place, age, cause of death, degree years, in-school firsts x2, element naming origin

高级配置：调整压缩行为

压缩预算调整

压缩预算budget控制输出的最大长度，默认设置为源文本长度的50%（但不低于160字符）。根据实际需求，可以调整这一比例：

# 更激进的压缩（30%）
budget = max(160, int(len(text) * 0.3))

# 较宽松的压缩（70%）
budget = max(160, int(len(text) * 0.7))

温度参数调整

temperature参数控制输出的随机性，较低的值（如0.1-0.3）会产生更确定的结果，较高的值（如0.5-0.7）会增加多样性：

# 更确定的输出
temperature=0.1

# 更多样化的输出
temperature=0.6

实际应用场景

1. 长文本预处理

在检索系统中，可使用Qwen3.5-4B-Condenser预先压缩长文档，减少存储和传输成本：

def preprocess_document(title, body):
    text = f'{title}: {body}'
    budget = max(160, int(len(text) * 0.5))
    # API调用代码...
    return compressed_summary

2. 智能问答系统

在问答系统中，先压缩候选文档，帮助模型快速定位相关信息：

def find_answer(question, documents):
    compressed_docs = [preprocess_document(doc['title'], doc['body']) for doc in documents]
    # 基于压缩文档的问答逻辑...
    return answer

3. 内容摘要生成

为新闻、文章自动生成结构化摘要，提升阅读效率：

def generate_article_summary(article):
    # API调用代码...
    return {
        'summary': compressed_content.split('## Summary')[1].split('## More')[0].strip(),
        'key_points': compressed_content.split('## More')[1].strip()
    }

性能优化建议

批量处理

对于大量文本，建议实现批量处理机制，提高处理效率：

def batch_compress(texts, batch_size=10):
    results = []
    for i in range(0, len(texts), batch_size):
        batch = texts[i:i+batch_size]
        # 批量API调用...
        results.extend(batch_results)
    return results

缓存策略

对重复出现的文本，实现缓存机制避免重复处理：

from functools import lru_cache

@lru_cache(maxsize=1000)
def cached_compress(text, budget):
    # API调用代码...
    return result

常见问题解答

Q: 压缩后的文本会丢失重要信息吗？

A: 不会。模型设计时特别强调"不丢失主要信息"原则，通过## Summary保留核心事实，## More部分索引所有可用信息类别。

Q: 如何处理非英文文本？

A: 目前模型主要针对英文优化，非英文文本的压缩效果未经充分测试，建议谨慎使用。

Q: 最小支持的文本长度是多少？

A: 对于长度低于250字符的文本，压缩效果可能不理想（压缩比可能超过0.7），这是小文本的固有局限。

总结

Qwen3.5-4B-Condenser提供了一种高效、结构化的文本压缩解决方案，通过简单的API调用即可将其集成到各种应用中。无论是长文本预处理、智能问答系统还是内容摘要生成，它都能显著提升文本处理效率，同时保留关键信息。

通过本文介绍的方法，你可以轻松开始使用Qwen3.5-4B-Condenser，并根据实际需求调整参数，优化性能。如有更多问题，可参考项目中的README.md获取详细信息。

【免费下载链接】Qwen3.5-4B-Condenser 项目地址: https://ai.gitcode.com/hf_mirrors/twinkle-kit/Qwen3.5-4B-Condenser