ystemsrx/Erotic_Literature_Collection · 大佬是如何处理这种超长文本的呢？

简单来说可以分隔它们或引入历史记录，比如这样：
举个例子假设document中的内容是“这是一个非常长的内容用来做测试”
这样切割：

[
  {"text": "这是一个非常长的"},
  {"text": "非常长的内容用来做测试"}
]

也可以这样：

[
  {
    "conversations": [
      {
        "from": "human",
        "value": "生成一段..."
      },
      {
        "from": "gpt",
        "value": "这是一个非常长的内容"
      },
      {
        "from": "human",
        "value": "继续生成"
      },
      {
        "from": "gpt",
        "value": "用来做测试"
      }
    ]
  }
]

上述只是举两个例子，实际格式或用法会有更多