我知道這很糟糕，但直到我開始使用GPU實例（8x A100或H100 POD）時，我才真正意識到定價差異有多大。據我最後了解，按需定價是每小時40美元，而1年期預留實例是每小時25美元。這意味著預留實例每年的費用超過20萬美元，兩年內我花的錢就足以買下自己的8x H100 POD（根據LambdaLabs的價格），再加上足夠支付一名工程師來同時監控五個POD。這簡直是瘋了。按需定價的話，這個POD一年內就能回本（包括管理成本）。
源讨论我们1亿美元的B轮融资原帖 503 条评论 · 导入时统计我认为更多的云服务提供商可能会压低很多价格。想想看，像亚马逊这样的公司购买服务器硬件，然后按vcpu（如果能得逞的话会进行限制）每月出租。加上内存和IO，你就会看到账单在几个月/几周内就支付了服务器的成本，多个租户分摊所有硬件，每个租户每月支付几十到几百美元。 当然使用基于云的虚拟机有很多好处，我也会使用它们。但你为可怜的计算能力和内存支付了非常高的溢价。价格下降有很多空间，唯一阻止它的原因是缺乏竞争。亚马逊之所以如此富有，是有原因的：似乎没有人挑战他们在AWS上的定价。当然，让他们处理所有硬件的麻烦是有价值的。这就是为什么公司会使用它们。我在G…
完整原文把你的经验，加入这段讨论。
那只是硬件。如果你需要自己构建和维护开发运维工具，复杂性和成本会很快增加。 在内部完成所有事情可能仍然更便宜，但你会承担很多风险，并且会让自己陷入缺乏灵活性的境地。 这就是为什么人们选择AWS，而不是许多更便宜的竞争性云服务提供商的原因。
完整原文对于GPU来说其实并不那么糟糕，考虑到它们的使用寿命比普通计算要短得多。数据中心级的CPU服务器成本相当于典型公共云价格的12-24个月，但你可以运行6-8年。
完整原文尊重不同观点，分享具体经验。
登录后即可发帖、评论、转发和引用。