问题:生成长文本时,ai会偷懒的问题?

思考:为什么会偷懒?猜测是因为单次生成token限制,据查chatgpt单次回答最大token限制为4096,为了能在这个限制内完成回答,ai会在后面“偷懒”。

注:一个汉字并不等于一个token,如需计算准确数,请自行搜索token计算器

答案:分段生成,让ai单次回答数小于单次token限制。

如:

一、我要撰写一篇“什么内容”,请为我撰写大纲

二、我要撰写一篇“什么内容”,请按如下大纲分段生成,每段内容不多于2000字,每段内容需等我回复“可以”后方可继续生成下一段内容。

"""

生成的大纲

"""

注:最好不要操过单次对话token限制,负责ai会忘记前面的内容

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐