IvyGPT 常春藤医疗大模型💊 产生最贴近真实医生问诊效果的医疗大语言模型
近期在通用领域中出现的大语言模型(LLMs),例如ChatGPT,在遵循指令和产生类人响应方面表现出了显著的成功。然而,这样的大型语言模型并没有被广泛应用于医学领域,导致响应的准确性较差,无法提供关于医学诊断、药物等合理的建议。为了应对这一挑战,我们提出了IvyGPT,这是一个医疗大语言模型,它在高质量的医学问答数据上进行了监督微调,并使用人类反馈的强化学习进行了训练。该项目的特性包括:
- 🍦支持在医疗问答LLM上全流程训练:监督训练、奖励模型、强化学习 (RLHF);
- 🏵️多微调方法支持:LoRA、QLoRA等;
- 🥄高效智能的数据集制作工具:奖励模型训练数据集生成工具-Rank Dataset Generator、监督训练数据集生成工具-Instruction Dataset Generator;
- 🧽超30万高质量医患对话数据集用于支持训练;
在这里我们不仅关注IvyGPT项目本身,我们还深入到开源社区中,持续的关注各位开发者关于医疗LLM的开发动态,我们对许多的工作表示惊叹。如:
- 英文医疗LLM领域:ChatDoctor、PMC-LLaMA、medAlpaca;
- 中文医疗LLM领域:ChatMed、Med-ChatGLM、Huatuo-Llama-Med-Chinese、DoctorGLM、MedicalGPT-zh、QiZhenGPT、BianQue、MedicalGPT、LLM-Pretrain-FineTune;
关于常春藤:
常春藤是一种常见的攀援植物,其拉丁学名为Hedera helix。常春藤的叶子呈现出深绿色,具有闪亮的光泽,常被用作装饰植物。此外,常春藤在医学领域也有其应用,其叶子中含有一些活性成分,可以用于治疗一些疾病。例如,常春藤可以用于治疗呼吸道疾病、消化系统疾病、皮肤病等。此外,常春藤还具有镇静、镇痛、抗炎等作用,可以用于缓解焦虑、失眠、疼痛等症状。
常春藤是一种常绿的攀援植物,它的寓意在医学上也很美好。常春藤的攀爬和延伸象征着医学的不断发展和进步,它的常绿象征着医学的持久不变和永恒的价值。此外,常春藤还有着坚韧、适应力强等特点,这也是医学工作者所需要具备的品质。因此,常春藤在医学上被赋予了积极向上的寓意,它象征着医学工作者不断追求进步和创新的精神。
常春藤在医院患者身上也有着美好的寓意。常春藤的攀爬和延伸象征着患者的希望和努力,他们在疾病的折磨下仍然坚强地向前迈进,不断寻求治疗和康复的方法。常春藤的常绿象征着患者们的生命力和坚韧不拔,他们在面对疾病时不会轻易放弃,而是坚持不懈地与疾病作斗争。因此,常春藤在医院患者身上也被赋予了积极向上的寓意,它象征着患者们对生命的热爱和追求,以及对未来的信心和希望。
关于本开源模型
本模型基于ChatGLM2训练而来,面向个人及中小企业用户使用。
如果您觉得此项目有帮助,请引用
@Misc{IvyGPT,
title = {IvyGPT},
author = {wangrongsheng, Tao Tan},
howpublished = {\url{https://github.com/wangrongsheng/IvyGPT}},
year = {2023}
}
- Downloads last month
- 0