Skip to content

Commit

Permalink
Update README.md
Browse files Browse the repository at this point in the history
  • Loading branch information
scutcyr authored Jun 6, 2023
1 parent 6f96224 commit 58c0ff5
Showing 1 changed file with 1 addition and 1 deletion.
2 changes: 1 addition & 1 deletion README.md
Original file line number Diff line number Diff line change
Expand Up @@ -34,7 +34,7 @@
<img src="./figure/multi_turn.png" width=900px/>
</p>

考虑到当前十分欠缺多轮共情对话数据集,我们一方面,构建了超过15万规模的 **单轮长文本心理咨询指令与答案(SoulChatCorpus-single_turn)** ,回答数量超过50万(指令数是当前的常见的心理咨询数据集 [PsyQA](PsyQA. https://github.com/thu-coai/PsyQA) 的6.7倍),并利用ChatGPT与GPT4,生成总共约100万轮次的 **多轮回答数据(SoulChatCorpus-multi_turn)** 。特别地,我们在预实验中发现,纯单轮长本文驱动的心理咨询模型会产生让用户感到厌烦的文本长度,而且不具备引导用户倾诉的能力,纯多轮心理咨询对话数据驱动的心理咨询模型则弱化了模型的建议能力,因此,我们混合SoulChatCorpus-single_turn和SoulChatCorpus-multi_turn构造成超过120万个样本的 **单轮与多轮混合的共情对话数据集SoulChatCorpus** 。所有数据采用“用户:xxx\n心理咨询师:xxx\n用户:xxx\n心理咨询师:”的形式统一为一种指令格式。
考虑到当前十分欠缺多轮共情对话数据集,我们一方面,构建了超过15万规模的 **单轮长文本心理咨询指令与答案(SoulChatCorpus-single_turn)** ,回答数量超过50万(指令数是当前的常见的心理咨询数据集 [PsyQA](https://github.com/thu-coai/PsyQA) 的6.7倍),并利用ChatGPT与GPT4,生成总共约100万轮次的 **多轮回答数据(SoulChatCorpus-multi_turn)** 。特别地,我们在预实验中发现,纯单轮长本文驱动的心理咨询模型会产生让用户感到厌烦的文本长度,而且不具备引导用户倾诉的能力,纯多轮心理咨询对话数据驱动的心理咨询模型则弱化了模型的建议能力,因此,我们混合SoulChatCorpus-single_turn和SoulChatCorpus-multi_turn构造成超过120万个样本的 **单轮与多轮混合的共情对话数据集SoulChatCorpus** 。所有数据采用“用户:xxx\n心理咨询师:xxx\n用户:xxx\n心理咨询师:”的形式统一为一种指令格式。

我们选择了 [ChatGLM-6B](https://huggingface.co/THUDM/chatglm-6b) 作为初始化模型,进行了**全量参数的指令微调**,旨在提升模型的共情能力、引导用户倾诉能力以及提供合理建议的能力。

Expand Down

0 comments on commit 58c0ff5

Please sign in to comment.