akatom 发表于 2025-5-4 10:53:02

想运行一个深度学习的模型进行推理

数据集大概2T， 应该也需要显卡，请问有啥线上运行的方案吗？

某某人 发表于 2025-5-4 11:20:01

亲，这么大数据量的话，建议考虑用云服务提供商的GPU实例，阿里云或者AWS都有现成方案。成本可能高点，但方便快捷！

奧巴马 发表于 2025-5-4 12:47:47

这数据量,普通4090搞不定.<br />
还是租吧.但是成本也不会低.

akatom 发表于 2025-5-4 12:55:55

<div class="quote"><blockquote><font size="2"><a href="https://hostloc.com/forum.php?mod=redirect&goto=findpost&pid=16361721&ptid=1407129" target="_blank"><font color="#999999">奧巴马 发表于 2025-5-4 12:47</font></a></font><br />
这数据量,普通4090搞不定.<br />
还是租吧.但是成本也不会低.</blockquote></div><br />
okay 了解了
页: [1]
查看完整版本: 想运行一个深度学习的模型进行推理