bigfat 发表于 2024-7-24 09:55:43

关于AI电脑配置的问题

大家好,我是偶然间搜到这个论坛。发现大家主要谈软件的问题,硬件问题讨论的很少。
我现在想要升级自己的AI产出设备,目前(2024年7月)普通家用消费级显卡兼顾性能与价格的最佳选择是4060ti16g。
但是我看到有大佬配置的使用计算卡配置的电脑更加诱人,V100四卡用sxm2接口的,单卡16g目前不到2000(24年1月还不到1000),可以组四卡,关键是sxm2接口的带宽比PCIE高出很多。
不知道大家平常用什么设备搞AI创作,能不能分享一下大家的配置,有没有使用计算卡的老哥,推荐一下配置?

随风漂流 发表于 2024-7-24 10:36:43

显存越大越好,有钱直接上4090

bigfat 发表于 2024-7-24 10:41:31

随风漂流 发表于 2024-7-24 10:36
显存越大越好,有钱直接上4090

现在4090一张1.3万,显存24G。
4张V100-16G,不到0.8万,显存64G。
1张V100-32G,0.8万左右,显存32G。

目前看纸面参数V100比4090好,但是因为不是主流消费产品,网上相关帖子很少。不知道能不能下手。

随风漂流 发表于 2024-7-24 11:02:48

bigfat 发表于 2024-7-24 10:41
现在4090一张1.3万,显存24G。
4张V100-16G,不到0.8万,显存64G。
1张V100-32G,0.8万左右,显存32G。


cuda 数量对比了吗

bigfat 发表于 2024-7-24 11:08:32

建议看一下B站UP主视频:4090涨价?不怕!一半的价格,速度却能秒它!(https://www.bilibili.com/video/BV1FN4y1k7gp/?spm_id_from=333.999.0.0&vd_source=f72bc0fee50170988a71beab4610a0e8)

三张4060ti训练时间比4090短。
4090单卡cuda是16384个,4060ti单卡cuda是4352个,V100单卡cuda是5120个。
页: [1]
查看完整版本: 关于AI电脑配置的问题