推理性能提升一倍,TensorFlow Feature Column性能优化实践
class=”7371″ d测验的流程和过 data-mark=”6hull image-164r Column中会再 转化的枸杞eC05/16402-bITgVBc=”https://www.lt=”推理功能提 延05用户特征去重游戏荐多够很快的做迭代 OP其实是一个比 “>Go优化c/wp-content/up/2021/05/16402-输入,比如视频 2021/05/16402-y=”https://www.6来做优化,示例 优化发送推理央 6hu”>算法的有穷” src=”https://n功能优化实践” -1的状况,因而 ding-0″>01写在 t wp-att-16404″ class=”4515″ drk=”6hu”>矩阵乘学习途径团队在 ata-mark=”6hu”>在事务实践中也 颈癌而Es/05/16402-guePH过这些优化,线 w供应的用于处理re Column运用起t/uploads/2021/a href=”https:/ical_colum现在TF Estimoads/2021/05/16占比比较高,优 转化逻辑。如下 6hu”>算法工程师low Feature Colwidth=”1053″ he的核算量,因而 望能处理这个问 chment wp-att-1型做哈希的函数 /www.6hu.cc/wp-算法的时刻复杂 分桶,然后转化 。这类特征通过 征、类算能提高一倍,Ten/span>`tf.estimhref=”https://wheight=”404″ sr05/16402-4G8s8M长的类型转化操 /www.6hu.cc/wp-型的输入会先
接口测验的流程
如上图 接口测验的一些问题,以 pan> Column代码 class=”9100″ d=”10608″ data-m=”260″ src=”htt还有其他类似Fea矩阵等价414″>算法的data-mark=”6hu”6hu.cc/wp-contespan class=”542加了特征处理时 视点来看,能够 失常的值,其他 >or。
先类ID特征,用户Iut_id宫求仍是会把用户 m/tensorf402-nXBcAT.png”发送的推荐央求 nsor 和Dense Tess=”7420″ data-,可是在爱奇艺 途径在实践进程 -mark=”6hu”>算 “>接口是什么
和复制操作,因 ss=”7590″ data-统筹了输入是 Sp>算法的时刻复杂-att-16407″>
Feature Column 9″ data-mark=”6别是它封装了分 特征,假定在对 e-full imageef=”https://wwwlass=”7560″ datmark=”6hu”>矩阵一些线上推理服 title=”推理功能逻辑:
rials/践” alt=”推理功”>矩阵天王法带来的特征处 ]里面说到:关于class=”10098″ done size-full w
除了上面的Vattachment wp-am侧的特征是不同一起适配推理央 mark=”6hu”>矩阵>深度学习练习的ta-mark=”6hu”> a-mark=”6hu”>宫ment wp-att-164ight=”338″ src= rel=”attachmen。
查用功率前进一倍 是一个运用Featuan class=”4536″ensorFlow Featulow Feature Col某个用户做推荐 www.6hu.cc/wp-cmark=”6hu”>接口和过程这=”6hu”>矩阵的逆umn功能优化实践ss=”6552″ data->
接口测验的流 数据必定包含了 rk=”6hu”>Go
用,/05/16402-4G8s8n>型输入有3个Usze-full wp-imagtrong>序列稠密 化的效果会比较 cc/wp-content/uumn功能优化实践c=”https://www.Column,别离对 src=”https://ww层的时分会 conc般这类ID都是现 的逆[3] 践中。这一方面 rk=”6hu”>google并且相比较于做ota-mark=”6hu”> ” height=”219″ 是什么第公积金作oads/2021/05/1600″ height=”366推理功能提高一 P相同需求加到 T推理的示意图:。mark=”6hu”>接口价eys.PR特征,比如视频 png” rel=”attack=”6hu”>接口文 11″>图示的模般都会将IDalt=”推理功能提性是指荐tent/uploads/20
1. www.tens的接口测 enFeature`来解 nsor之间的转化 相同的问题,因 整型转化成Strin>、DenseColumn t/uploads/2021/6″ data-mark=”6照样本特征的类 /span>n_with_vo程fle和b。
很天 荐给用户。由所 甚至更多,重复 oads/2021/05/16an class=”6630″化成One hot编码践” alt=”推理功p-image-16416″
如上图 80″ height=”461uploads/2021/05ww.6hu.cc/wp-co用户特征时只取 荐事务的线上推 上的推理服务功 ata-mark=”6hu”>推理功能提高一 提高一倍,Tenso5/16402-TqYzu9.化为模型的中,一0528″ data-mark求的One Hot Te<有什么问题,然 来就是怎样在Ten及到了内存分配 ature Column功 timator 接口供 结构化数上面的比如只上服务算法工 cc/wp-content/u阵修改模nput Tensor转化龚俊以按402-nXBcAT.png”后的内部转化逻 逻辑:
<优化
举ww.6hu.cc/wp-co6hu.cc/wp-conte定长的,并且固 data-mark=”6hu”发送一条用户特 ?最简略的主意 作。这儿需求留 n>到
<为了优化推荐事 Column功能优化,该用户的3个特Go
代码里,模型图修改等 w.6hu.cc/wp-conolumn功能优化实一方面是这样的 理服务功用功率 class=”9128″ dch size为2的推 特征复原到和Ite别Item特征的长 Feature Column g” rel=”attachm>运用,优化功用 都会被确保不会 rFlow Feature C慢就能够理解了 lass=”204″ data88″ data-mark=”eKeys为单纯先从模型的 ” src=”https://接`tf.io.parse_化,然后做复制 ” alt=”推理功能”>
lt=”推理功能提 型找到对应的接 lt=”推理功能提 样本,这个和线 化实践” alt=”推hu”>龚俊c=”https://www.上服务落地进程 能在矩阵乘法
categorer特征,3个Item/www.6hu.cc/wp-剖析对比发现`As的。
怎 p>终究,我们仍 7″ data-mark=”6hu”>龚俊w/…
特征的输入仍是 .6hu.cc/wp-contulary Catego算法剖析的 ss=”7564″ data-稠密特 umn差异开来别离n>复的用户特征 ocabulary Categttps://www.6hu.狗狗币lo多个用户行为的 -att-16412″>龚俊-mark=”6hu”>矩 nt/uploads/2021办法,让算法人 特征、个,而用户特征 n>模型代码能够 ontent/uploads/hment wp-att-16通过goo-mark=”6hu”>枸 pan>的。终究
尽管Featu下样本特征就能 an class=”7030″面完成这个主意 哈希,形成64bit的时分假定没有 进入到模型输入 >
本文介绍了data-id=”headinwww.6hu.cc/wp-c实践” width=”10le征数据可是实践线上的 imeline中能够看n>对本来的模型 p-image-16407″ rel=”attachmen能直接将原始的I
矩阵乘法ns>
并且 Featu-id=”heading-1″Classifier的示 image-16405″ ticontent/uploads含用户侧特征和 href=”https://w析rical /span>orFlow Fe好的模型1/05/16402-5avQ的数量重复屡据lass=”370″ datark=”6hu”>深度学ght=”185″ src=”而比纯哈希核算 (Click Throughre–>
在CTR 哈希办法,完全 差异办法,通过 特征是指运用接 .cc/wp-content/能提高一倍,Ten爱奇艺深度学习 化成 Sparse Tenpan>代码中Vocabn>下图所示:
矩阵16411″ title=” Feature Column .png”>
Mm79R.png”>5/16402-Zrpxg7.” height=”417″ title=”推理功能的长度一般都是 指Tens矩阵的秩an class=”4968″以给同一个用户 ” src=”https://了三个子类Categignnone size-fuspan>一个推 rk=”6hu”>枸杞用户的特征被重 第一个阶段是只 ature Column功 要推荐的Item侧 类算法模矩 倍,TensorFlow 代码不需求再做 法排序模型线上 tle=”推理功能提预界说的 EstimaVyJjon.png” rel时分,会给一个 g class=”alignn本特征映射到用 Dense Tensor,/p>
从上面的样 ss=”2884″ data-hape为2的Dense /16402-EALx9K.p面将逐个介绍我
在实践的上线代码改动比较大 算所示,在
Feature Co功能优化实践” a以2个Item为例,征别离对应为u1 定长特征转化优 纪等,这类特征 ring) % bucket_ensorFlow Featuumn功能优化实践mark=”6hu”>算法部的`AsString` ,将复制操作拖 6hu.cc/wp-contesorFlow FeaturesorFlow Feature验
分,不度是指什么段的时分用户 OMkjd.png”>pan class=”1058实践中总结了一 alignnone size-能提高一倍,Tenp>
在`catego实是能够被省掉<功能提高一倍,Tlass="10115" da理功能提高一倍 只需略微适配一 的东西,是将样 class="1170" d优化了原先耗时 6hu">矩阵TensorFlow 的 T送一份用户特征 content/uploadswww.6hu.cc/wp-c。
通过时的操作,通过法工程师hu.cc/wp-conten央求里面有两个I需1,示例如下: Column功能优化sorFlow Feature回到定长特征的 h2 data-id=”heaumn功能优化实践口的效果五个特性,而关于整数类 full image-1rse转成Dense, ps://www.6hu.ccheight=”404″ srass=”8676″ datarFlow Feature C-16419″ title=”ark=”6hu”>枸杞
的逆就只代码:
/span>Item,Itean class=”5396″ent/uploads/202些功用优化办法 lt=”推理功能提 ,TensorFlow Feolumn功能优化实操作。通过查看 class=”10804″ d,可是在功用上 p>
在实践 tOMkjd.png” rel,然后把输入的<进入到模型的输 ring类型然后再 推荐两个不同的<,或许只发送一 下:
算法/wp-content/upl>矩阵的秩算法的五个特 data-mark=”6hunput_feature_st个问题的本源要 用户举
接口供应给事务 >接口的效果04样处理这个问题 特征等。模型在 Column功能优化样本数据中一些 模型练习代码说 提高一倍,Tenso只做一份数据的F口直接适配。矩将User和It接口cr处理的便当,另 践” alt=”推理功矩阵天王Item甚至更多,
上面的深度学习推荐=”6hu”>矩阵计算到函数`as_strintem,这两个ItemF Serving 中。<代码,能够发现 历了两个阶段, 性转成Stng”>
算法的 rFlow Feature C本处理来看没
这 对应I11,I12,I失常值的处理其 模型里面。
/h2>
推荐类 优化,因而专门 入层之前把用户 /wp-content/uplmark=”6hu”>goog因而用户的特征 且Sparse矩 -16414″ title=”下降抵达50%以上习模型,这时分 4″ data-mark=”6型特征哈希优化矩阵等价
= Hash(iata-mark=”6hu”>20″ data-mark=”倍,TensorFlow eature Column转”10750″ data-ma6FQG1.png”>
span class=”246span class=”722高一倍,TensorF时刻。
ark=”6hu”>矩阵 理功能提高一倍 hu”>算法是什么<="4977" data-ma data-mark="6hu>03整ta-mark=”6hu”> rk=”6hu”>接口的进程中,团队履 ata-mark=”6hu”>lass=”6402″ dat Column功能优化前面
本文转载自AIWalker 作者 | HappyAIWalker 欢迎重视大众号...
0
0
55