一种低延迟的机器学习即服务的生成方法

（12）发明专利申请

（21）申请号 CN201910796537.6 （22）申请日 2019.08.27

（71）申请人 上海丙晟科技有限公司

地址 200040 上海市静安区灵石路718号A5幢101室

（10）申请公布号 CN110490334A

（43）申请公布日 2019.11.22

（72）发明人 李攀登

（74）专利代理机构 北京盛凡智荣知识产权代理有限公司

代理人 赵芳蕾

（51）Int.CI

权利要求说明书 说明书 幅图

（54）发明名称

一种低延迟的机器学习即服务的生成方法

（57）摘要

本发明公开了一种低延迟的机器学习即服

务的生成方法，模型抽象层提供了一个通用的API，可以抽象出现有机器学习框架和模型的异构性；模型参数寻优层位于模型抽象层的上方，负责动态选择、组合和优化预测模型的参数；模型管理层通过模型存储层的信息对模型进行管理，以实现应用端可以动态并无感知的情况下获取最优的预测服务；事件服务层，这层负责与应用端交互，并存储应用端用户请求的信息，反馈给模

型层，以实现动态自动优化模型参数；模型监测层负责对上线模型服务的调用监测，以及时发现调用过程中出现的问题，提高模型运维的透明性。降低现有预测服务栈的复杂性，并实现预测服务的低延迟、高吞吐量、模型准确性等关键属性。

法律状态

法律状态公告日2019-11-22 2019-11-22 2019-12-17

法律状态信息

公开 公开

实质审查的生效

法律状态

公开 公开

实质审查的生效

权利要求说明书

一种低延迟的机器学习即服务的生成方法的权利要求说明书内容是....请下载后查看

说明书

一种低延迟的机器学习即服务的生成方法的说明书内容是....请下载后查看