-
Notifications
You must be signed in to change notification settings - Fork 78
serving server配置详解
utu edited this page Feb 27, 2020
·
5 revisions
serving-server的配置文件
-
serving-server.properties
源码中的配置文件没有罗列出所有配置,只保留了必需的配置,其他配置都采用了默认值。如果需要可以根据以下表格来在配置文件中新增条目。
配置项 | 配置项含义 | 默认值 |
---|---|---|
ip | 监听ip | 0.0.0.0 |
port | 服务监听端口 | 8000 |
inferenceWorkerThreadNum | 用于预测的线程池大小 | 机器核心数 |
remoteModelInferenceResultCacheSwitch | 预测结果的缓存开关 | true |
OnlineDataAccessAdapter | host端使用,一般用于获取特征,需要自定义开发 | MockAdapter |
InferencePostProcessingAdapter | guest端使用,用于在预测结束后的后处理,默认类不做任何处理 | PassPostProcessing |
InferencePreProcessingAdapter | guest端使用,用于在预测前的一些预处理 ,默认不做任何处理 | PassPreProcessing |
useRegister | 使用注册中心,如果为true会将serving-server中的接口注册至zookeeper | true |
useZkRouter | 如果为true,在rpc调用时会使用注册中心中的地址进行路由 | true |
zk.url | zookeeper 集群地址 ,例子:zookeeper://localhost:2181?backup=localhost:2182,localhost:2183 | zookeeper://localhost:2181 |
serviceRoleName | 角色名称,该值会在接口路由时会用到,详情可参考路由表的配置 | serving |
modelCacheMaxSize | 模型缓存最大数量 | default 50 |
remoteModelInferenceResultCacheTTL | 该参数在guest端起作用,为guest端本地内存中(非redis)缓存host端所返回结果的过期时间,单位秒 | 300 |
remoteModelInferenceResultCacheMaxSize | 该参数在guest端起作用,为guest端本地内存中(非redis)缓存host端所返回结果最大条数 | default 10000 |
inferenceResultCacheTTL | 该参数在guest端起作用,代表预测结果的过期时间,单位秒 | 30 |
inferenceResultCacheCacheMaxSize | 该参数在guest端起作用,为guest端本地内存中(非redis)缓存预测结果最大条数 | 1000 |
redis.ip | redis ip | 127.0.0.1 |
redis.port | redis 端口 | 6379 |
redis.password | redis密码 | fate_dev |
redis.timeout | redis链接超时时间 | 2000 |
redis.maxTotal | redis连接池最大数量 | 100 |
redis.maxIdle | redis连接池最大空闲链接 | 100 |
external.remoteModelInferenceResultCacheTTL | redis中缓存host返回结果过期时间,该参数用在guest端,单位秒 | 86400 |
external.remoteModelInferenceResultCacheDBIndex | host返回数据使用的redis数据库 | 0 |
external.inferenceResultCacheTTL | redis缓存预测结果的时间 | 300 |
external.inferenceResultCacheDBIndex | 预测结果使用的redis数据库 | 0 |
external.processCacheDBIndex | securityBoot 使用的redis数据库 | 0 |
canCacheRetcode | 可以缓存结果的 returncode,当returnCode为配置中的选项时,认为该次请求可以缓存 | 0,102 |
acl.enable | 是否使用zookeeper acl | false |
acl.username | acl 用户名 | 默认空 |
acl.password | acl 密码 | 默认空 |
proxy | 己方serving-proxy的内部grpc地址,比如 127.0.0.1:8879,只有在不使用zk时才需要配置 | 默认空 |