Kingsoft Cloud Elastic Inference

AI服务平台

AI服务全生命周期管理,满足AI应用创建、测试、部署、监控、优化、边缘计算等各种场景,实现企业AI生态快速建设
核心优势
产品功能

核心优势

异构资源,负载均衡

支持模型一键部署到CPU、GPU、FPGA、边缘节点等多种异构设备,并支持根据业务负载及资源的调用情况,自动调整弹性资源节点,实现动态实时自动负载均衡资源管理

多种方式,快速部署

支持TensorFlow、MXnet、Caffe等多种模型快速部署,支持将镜像快速部署为稳定、高可用的服务

优化加速,急速预测

针对模型和框架的优化加速,包括软件加速、硬件加速等,提升模型运行效率,提供极致推理性能

多层管控,全程追踪

全生命周期跟踪管控应用效果,及时预警,可设置自动更新规则、自动模型更新。支持模型模型分流、模型热部署、灰度测试,根据实际业务表现情况,快速更新模型

AI市场,快速变现

AI市场,包含数据、模型、解决方案等多种服务,帮助服务开发商及服务使用者搭建AI生态圈,助力企业AI急速起航

产品功能

快速部署

KEI支持多种模型快速部署,包括不同来源、格式、计算框架等模型快速部署,支持KDL、KML、KAL模型一键部署

自动扩缩容

支持手动、自动调整弹性实例扩展策略,根据业务负载情况,动态实时自动管理计算资源,以最合适的计算资源应对业务情况

优化加速

支持手动、自动调整弹性实例扩展策略,根据业务负载情况,动态实时自动管理计算资源,以最合适的计算资源应对业务情况

版本管理

KEI支持模型多版本管理,使用模型版本管理功能,可对模型服务的不同版本进行静态配置及管理

灰度测试

KEI支持模型流量管理功能,用户可方便地在模型服务中进行模型质量灰度测试

模型质量动态评估、模型择优

KEI支持模型质量监控,用户可针对服务设置模型更新机制,通过模型质量监控,KEI会自动调用ReTrain程序进行模型更新,并最终通过模型热部署及模型质量最优匹配机制进行新模型的应用

AI市场

KEI内置AI服务市场,用户可通过AI服务市场快速接入模型、数据、解决方案等,也可将企业自身模型、数据、解决方案上架到模型市场,进行变现