金山云 > AI服务平台

AI服务平台 (KEI)

Kingsoft Cloud Elatic Inference

AI服务全生命周期管理,满足AI应用创建、测试、部署、监控、优化、边缘计算等各种场景,实现企业AI生态快速建设。

核心优势

  • 异构资源,负载均衡

    支持模型一键部署到CPU、GPU、FPGA、边缘节点等多种异构设备,并支持根据业务负载及资源的调用情况,自动调整弹性资源节点,实现动态实时自动负载均衡资源管理。

  • 多种方式,快速部署

    支持TensorFlow、MXnet、Caffe等多种模型快速部署,支持将镜像快速部署为稳定、高可用的服务

  • 优化加速,急速预测

    针对模型和框架的优化加速,包括软件加速、硬件加速等,提升模型运行效率,提供极致推理性能

  • 多层管控,全程追踪

    全生命周期跟踪管控应用效果,及时预警,可设置自动更新规则、自动模型更新。支持模型模型分流、模型热部署、灰度测试,根据实际业务表现情况,快速更新模型

  • AI市场,快速变现

    AI市场,包含数据、模型、解决方案等多种服务,帮助服务开发商及服务使用者搭建AI生态圈,助力企业AI急速起航。

产品功能

  • 快速部署

    KEI支持多种模型快速部署,包括不同来源、格式、计算框架等模型快速部署,支持KDL、KML、KAL模型一键部署。
  • 自动扩缩容

    支持手动、自动调整弹性实例扩展策略,根据业务负载情况,动态实时自动管理计算资源,以最合适的计算资源应对业务情况。
  • 优化加速

    支持手动、自动调整弹性实例扩展策略,根据业务负载情况,动态实时自动管理计算资源,以最合适的计算资源应对业务情况。
  • 版本管理

    KEI支持模型多版本管理,使用模型版本管理功能,可对模型服务的不同版本进行静态配置及管理。
  • 灰度测试

    KEI支持模型流量管理功能,用户可方便地在模型服务中进行模型质量灰度测试。
  • 模型质量动态评估、模型择优

    KEI支持模型质量监控,用户可针对服务设置模型更新机制,通过模型质量监控,KEI会自动调用ReTrain程序进行模型更新,并最终通过模型热部署及模型质量最优匹配机制进行新模型的应用。
  • AI市场

    KEI内置AI服务市场,用户可通过AI服务市场快速接入模型、数据、解决方案等,也可将企业自身模型、数据、解决方案上架到模型市场,进行变现。

金山云,开启您的云计算之旅

注册有礼
咨询
服务
在线客服

在线客服人员为您答疑解惑