广义上讲，我们的客户选择自行托管有三个原因。
Posted: Sun Mar 02, 2025 8:28 am
问题 3：组织在选择自行托管时应该考虑什么？
Meryem Arik，TitanML 首席执行官兼联合创始人
我认为 API 非常棒，如果你能够使用它们来满足你的用例，那么总的来说，我认为这是一件非常好的事情。
安全性和隐私性：如果您还不是 Azure 客户，并且想要在自己的 VPC 甚至本地数据中心部署某些东西，那么您除了自行托管之外别无选择。如果您真的需要完全的隐私和控制，那么您必须自行托管。
性能： 一般来说，最好的模型是类似GPT 4 的模型，但是当你查看特定领域的模型时，你可以通过自托管更小、更专业的模型来获得更好的性能。
可扩展性和成本：当您从非常小的规 保加利亚 Whatsapp 数据 模开始使用时，使用基于 API 的模型会便宜得多，因为您可以按代币付费。当您开始在大规模企业规模上部署它时，每个代币的成本就会开始增加，而在您自己的基础设施中部署一个更小的模型在规模上会便宜得多。
364_EverydayAIRoadshowChi_240404
Q4：我们是否正在走向由少数大型基础模型主导的模型生态系统，还是多样化的生态系统？
Meryem Arik，TitanML 首席执行官兼联合创始人
我认为 API 非常棒，如果你能够使用它们来满足你的用例，那么总的来说，我认为这是一件非常好的事情。
安全性和隐私性：如果您还不是 Azure 客户，并且想要在自己的 VPC 甚至本地数据中心部署某些东西，那么您除了自行托管之外别无选择。如果您真的需要完全的隐私和控制，那么您必须自行托管。
性能： 一般来说，最好的模型是类似GPT 4 的模型，但是当你查看特定领域的模型时，你可以通过自托管更小、更专业的模型来获得更好的性能。
可扩展性和成本：当您从非常小的规 保加利亚 Whatsapp 数据 模开始使用时，使用基于 API 的模型会便宜得多，因为您可以按代币付费。当您开始在大规模企业规模上部署它时，每个代币的成本就会开始增加，而在您自己的基础设施中部署一个更小的模型在规模上会便宜得多。
364_EverydayAIRoadshowChi_240404
Q4：我们是否正在走向由少数大型基础模型主导的模型生态系统，还是多样化的生态系统？