主要可能需要根据公司现有资料训练一下,然后让他生成文章,回答问题这些。 这些需求的话,32b 模型能满足吗?如果组个机器,双 2080ti 22g 版合适吗,还是需要更好点的配置?
1
xjh1024 3 小时 52 分钟前
macmini m4pro 大内存就够你这个需求了,自己在 已有设备上先试一下 ollama 看多少 b 能满足你的需求
给个参考,m4 + 32g 跑 16b 速度 一个人用可以接受 |