不确定这里是否适合提问或者哪里能得到帮助，但我是使用大语言模型（LLM）的绝对新手。我在医疗和教育领域工作，正试图创建一个能扮演患有某种隐秘疾病患者的LLM，这样学生就能向它提问来判断出是什么疾病。这个想法是能帮助学生学会如何巧妙提问来缩小鉴别诊断范围，并在与真实患者交流前对这项技能更加熟练。我用gemma2:27b做出了很棒的原型，我只给了它一个提示，它就能很好地扮演角色、给学生反馈、直到最后才透露诊断结果并且在整个过程中完全符合医学准确性。现在我想把这个扩展成一个网站与学生分享，而不只是我电脑上的一个原型。我觉得这意味着我应该使用像OpenAI、Gemini、Claude、DeepSeek等主要的LLM API中的一个。但我用这些都没能得到好的结果——它们总是混淆自己是患者还是提供反馈的引导者，总是过早透露诊断结果，有时自相矛盾（比如先说头疼然后紧接着又说不头疼），有时还会犯医学错误。我知道这不是一个很容易解决的问题，但我真的很沮丧，也不知道该怎么办。
讨论总结
原帖作者是医疗和教育领域的初学者，在Gemma2:27b上创建了一个能很好进行角色扮演的LLM患者原型，但在将其扩展到网站并使用其他如DeepSeek、ChatGPT、Gemini等模型时遇到问题。评论者们从不同角度进行了讨论，一些分享了自己使用不同模型的经验，更多的则是针对原帖作者的困境提出各种解决方案，整体氛围较为积极地解决问题。
主要观点
- 👍 Gemma 27B在复杂场景角色扮演方面有较好的一致性。
- 支持理由：评论者martinerous提到有类似经历表明Gemma 27B在角色扮演场景中表现出较好的一致性。
- 反对声音：无。
- 🔥 原帖作者已经有能用的版本，不应该纠结于扩展到其他模型。
- 正方观点：原帖已有在广泛可用模型上能用的版本，没必要再寻求其他模型。
- 反方观点：原帖作者希望扩展到其他模型是为了更多功能或其他需求。
- 💡 可以利用谷歌API使用Gemma2:27b或者在网站安装相关程序并本地使用Gemma2:27b模型。
- 解释：这是评论者针对原帖主在扩展项目时遇到问题给出的两种可行方案。
- 💡 角色扮演受系统提示等因素影响较大，值得对相关因素进行实验并做背景阅读。
- 解释：这有助于原帖主改善角色扮演在其他模型上的效果。
- 💡 如果gemma2:27b够用可继续使用并能扩展规模，模型之间存在差异，让不同模型达到相同结果不容易。
- 解释：从模型特性出发解释原帖主遇到的问题并提供一种解决思路。
金句与有趣评论
- “😂 Gemma 27B can be really consistent, although it had some annoying formatting quirks that made me look for alternatives.”
- 亮点：指出Gemma 27B的优点和存在的问题，简洁地概括了对该模型的使用感受。
- “🤔 你有一个在广泛可用模型上能用的版本，你想多了。”
- 亮点：直接表达一种观点，认为原帖作者不需要纠结于扩展到其他模型。
- “👀 Role playing is very sensitive to things like the system prompt, temperature and min P.”
- 亮点：提出角色扮演的关键影响因素，为原帖主解决问题提供了方向。
- “😎 如果gemma2:27b工作完全符合您的用例，除非有原因不这样做，否则可能值得使用它。”
- 亮点：从实际应用的角度给出建议，考虑到原帖主在Gemma2:27b上已取得成果的情况。
- “💡 你需要使用一个系统提示来获得你正在寻找的反应并且使其能够扩展到课堂规模。”
- 亮点：针对原帖主的项目扩展需求提出具体的操作建议。
情感分析
总体情感倾向为积极解决问题。主要分歧点在于原帖作者是否应该继续寻求在其他模型上实现成果，一方认为已有可用版本不必再纠结，另一方可能是出于更多功能、兼容性或者普及性等原因想要在其他模型上实现。
趋势与预测
- 新兴话题：继续探索如何在不同模型上实现类似Gemma2:27b上的成果，尤其是在医疗教育领域的角色扮演应用。
- 潜在影响：如果找到有效的解决方案，将有助于LLM在医疗教育领域更广泛的应用，提高学生在角色扮演场景下的学习效果。
详细内容：
《在 LLM 模型应用中遭遇的困境与探索》
最近，Reddit 上有一篇关于使用语言模型（LLM）的帖子引发了广泛关注。这篇帖子获得了众多点赞和大量评论。
原帖作者表示自己是 LLM 使用的初学者，在医疗和教育领域工作，试图制作一个能扮演患有秘密疾病患者的 LLM 模型，以便让学生通过提问来判断疾病。使用 gemma2:27b 做出了出色的原型，但在将其扩展为网站分享给学生时遇到了困难，使用其他主流 LLM 的 API 如 OpenAI、Gemini、Claude、DeepSeek 等都无法获得满意效果，存在角色混淆、提前泄露诊断结果、自相矛盾和医学错误等问题。
讨论的焦点主要集中在如何解决这些问题以及选择合适的模型和方法。有人认为 Gemma 27B 能保持一致性，Mistral 22B 也不错，但有时会显得不够务实和天真。有人指出作者有些过度思考，比如使用已有的能正常运行的模型就行。还有人建议利用 Google 的相关服务或特定的平台。
有用户分享道：“Your experience matches mine when I do roleplays with complex scenarios. Gemma 27B can be really consistent, although it had some annoying formatting quirks that made me look for alternatives. Mistrals seem to be the only other models with scenario consistency comparable to Gemma. Mistral 22B is my current daily driver, but I often wish it was more pragmatic. Sometimes Mistral can get too naive and cliche. Gemma felt a bit more unique and realistic.”
也有人表示：“Role playing is very sensitive to things like the system prompt, temperature and min P. It might be worth experimenting a bit and doing some background reading on role playing settings.”
还有特别有见地的观点，比如：“It seems like you could create a lot of synthetic and non synthetic datasets about diseases and their stages and the signs and symptoms that manifest with those with a given probability possibly with those probabilities conditioned by other factors like patient age / gender / comorbidities or whatever may influence an individual’s presentation.”
讨论中的共识是作者需要更深入地探索和尝试不同的方法和设置，以找到最适合自己需求的解决方案。
在这场热烈的讨论中，大家各抒己见，为作者提供了多样的思路和建议，也让更多人对 LLM 模型在特定领域的应用有了更深入的思考。
感谢您的耐心阅读！来选个表情，或者留个评论吧！