阿里云文档 2025-04-25

如何在PolarDB内部署和使用基于KVCache的大模型

KVCache(Key-Value Cache)是Transformer模型的一种优化技术,主要用于加速大模型服务。PolarDB for AI支持将基于KVCache的大模型部署至PolarDB集群并进行在线调用。

阿里云文档 2025-04-17

部署、查看和调试DeepSeek模型

本文介绍如何部署、查看开源和自研的模型服务,例如DeepSeek模型、Qwen模型等。

阿里云文档 2025-04-14

QwQ-32B模型部署

本文为您介绍如何在Dify on DMS部署阿里云的QWQ-32B模型,以充分利用资源、降低LLM推理成本。

阿里云文档 2025-03-26

多可用区基础版

为避免机房级别故障导致Lindorm服务整体不可用,Lindorm推出了跨可用区部署模式(多可用区基础版)。本文介绍多可用区基础版的架构以及与多可用区高可用版的区别,为您提供购买参考。

阿里云文档 2025-03-26

部署高可用的Dify服务

Dify on DMS支持通过对象存储OSS的数据共享能力,实现多副本部署方案。您可以为Dify配置双副本规格,当一个副本发生故障时,另一个副本可以继续为Dify提供服务。多副本部署方案可以提高Dify服务的高可用性、性能和容错能力。本文为您介绍如何一键购买资源并部署Dify和基于现有资源部署Dify。

问答 2024-02-07 来自:开发者社区

OceanBase数据库开源 ovd 部署了 ocp ce 之后获取ip的问题?

OceanBase数据库开源 ovd 部署了 ocp ce 之后 ,添加主机时一直要在 localhost 获取 ocpagent 这个错有人碰上过吗?理论上应该是去 ocpserver 的 ip 去获取的才对吧?

问答 2023-12-24 来自:开发者社区

请问OceanBase数据库在单机环境下,如何部署ocp来接管express呢?

请问OceanBase数据库在单机环境下,如何部署ocp来接管express呢?

问答 2023-12-24 来自:开发者社区

OceanBase数据库部署完成后,不能像ocp一样拥有可视化的性能监控吗?

OceanBase数据库部署完成后,ocp express是只能完成集群命令组的命令,不能像ocp一样拥有可视化的性能监控吗?

问答 2023-12-24 来自:开发者社区

OceanBase数据库使用oat web界面部署ocp的时候,报这个错,有遇到过的么?

OceanBase数据库使用oat web界面部署ocp的时候,报这个错,有遇到过的么?

问答 2023-12-12 来自:开发者社区

OceanBase数据库我部署ocp机器的内存剩余11G 帮忙看下?

OceanBase数据库我部署ocp机器的内存剩余11G 帮忙看下?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

X
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等