mkdirmushroom 最近的时间轴更新
mkdirmushroom

mkdirmushroom

V2EX 第 434020 号会员,加入于 2019-08-05 16:57:59 +08:00
今日活跃度排名 2205
根据 mkdirmushroom 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
mkdirmushroom 最近回复了
1 小时 44 分钟前
回复了 yavdein 创建的主题 Apple 买丐版 Mac Mini M4 用来搭本地大模型的,是不是伪需求
@yavdein https://qwenlm.github.io/blog/qwq-32b-preview/
看数据很厉害,实际效果就不知道了,我已经不想测试了哈哈,前面好几个开源模型脚踢 o1 ,拳打 Claude3.5 的,实际测试效果真的很一般。
1 小时 55 分钟前
回复了 yavdein 创建的主题 Apple 买丐版 Mac Mini M4 用来搭本地大模型的,是不是伪需求
同样的 qwen2.5 14B q4 量化模型,推理速度 m4 16g 不如 m1 pro 32g 。大模型对内存带宽的要求挺高的,m4 的内存带宽只有 120GB/s 。

至于应用场景,我之前也很推崇本地大模型,毕竟数据隐私能够得到保证。但是目前开源模型( 32B 以下)的质量明显不如商用模型,真的硬要找个应用场景的话,放在家里当个智能语音助手蛮好。
我也是。。。券都领了也不行
@feikaras 我个人觉得不是一起工作发热过大的原因,因为外置网卡往内置硬盘上传文件,也是不稳定的,而且测试的时候硬盘温度并不高。
@feikaras 其他的网络协议测试过也一样
@zliang888 是的,我测试过,网络设置里手动选择 2.5G ,会比较稳定,选择 5G 也比 10G 稳定,但是大文件跑一会也会掉速。
@kyor0 已经退掉了,后面有机会重新入手后再测试
@mkdirmushroom ”我得更偏向是软件问题而不是硬件问题,表达得不够清楚,抱歉。”

我更偏向是软件问题而不是硬件问题,表达得不够清楚,抱歉。
@mkdirmushroom 我更偏向是软件问题而不是硬件问题,表达得不够清楚,抱歉
@feikaras 这个 Mac mini 是买个家人轻度剪辑使用的,所以对本地 NAS 访问速度要求较高。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5416 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 10ms · UTC 08:28 · PVG 16:28 · LAX 00:28 · JFK 03:28
Developed with CodeLauncher
♥ Do have faith in what you're doing.