内容标签系统系列——图文标签系统

摘要

自然说话处置（Natural Language Processing，NLP）是野生智能的一个重要分支，其触及的面很是广，包括语音识别 、内容了解、信息检索、信息抽取、问答系统、机械翻译、对话系统等，图文标签大概叫图文内容了解是其中一个根本的使命和才能。现实信息流等保举营业中，需要用到文本的一级/二级，三级多tag(关键词，现实可所以实体词或笼统词)作为文本内容了解的关键输出和保举营业文本特征的关键输入。本文先容基于NLP范畴多方式融合方式停止关于图文方面的内容了解和利用。

一、简介

图文内容标签有三个典型的利用处景[1]：

第一，本性化保举，经过对内容停止标签提取，结适用户的爱好TAG，对用户停止精准的本性化保举，是内容标签在本性化保举上面的一个典型的利用。

第二，搜索，经过内容的关键词大概内容标签，跟用户输入的关键词做精准婚配，返回更切确的搜索成果。

第三，标签提取，利用内容标签作为文本特征，来提升聚类或分类的结果。当前首要内容保举范畴图文标签利用形式通常为 一级、二级标签+三级多tag形式。

提取内容标签的方式在这里总结为3大类方式：第一类是抽取式，本质是从文本中抽取关键词大概短语；第二类是天生式，经过天生的方式，来天生关键词和短语；第三类是辨别式，即设定标签调集利用多分类方式停止打标操纵。

二、一/二级标签

一/二级标签包括单标签和多标签形状根基上来说还是简单的，出格是bert模子这类大范围预练习模子出来今后大大下降了NLP范畴中这类小范围牢固标签调集的分类题目标难度。

但照旧有几点值得一提：

• 数据处置：这一点很重要很有用；这里关于非平衡样本的处置方式，就利用一般的样本增强手段处置即可；
• 模子设想及挑选：数据很重要但并非像部分人说的算法工程师就是在处置数据。私以为数据处置虽然有用可是简单并不是算法工程师独占的特征（最少数据分析师是可以做到的），可是按照现实题目来挑选模子甚至设想特定收集，这是算法工程师的特征才能。

值得一提的是，bert-base 模子大概Albert模子为大部分人的几近无脑的首选，固然这是可以的，同时在此提出一个思绪：能否可以连系一级/二级标签的联系，非论是类似性大概高低层级关系来设想收集，练习模子以提升模子结果？【后续偶然候再补充计划】

三、三级多tag

关于三级标签，这样的标签调集常常很是的大，我们很轻易发生一个朴实的思惟：能否依照某种方式分拆分，挑选，圈定？

首先，文本分歧于视频图像，NLP范畴处置的大大都题目是特征空间和标注空间是同一个空间的题目，这样就会大大简化题目同时也供给了一些纷歧样的处置思绪：我们可以将万级的标签分为 实体标签和笼统标签。

• 实体标签

关于实体标签，间接利用bert-bilstm-crf模子就能到达较好的结果，模子办事的输出成果接入pipline 与笼统标签成果停止拼接。

• 笼统标签

笼统标签的处置也存在一个根本标签调集圈定的步调，除了样本处置，还是应当首要斟酌模子设想的题目：

固然可以间接利用albert模子停止多标签分类操纵，但由于特征空间都一样不像视频那样可以有分歧数据源停止相互补充，结果上限可见；

这里保举一个多标签召回+文底细似度婚配的融合计划，可以到达较好的结果【计划图后续偶然候补充】

四、图文内容标签利用

最初给大师先容一下图文内容标签的一些利用：

1）本性化保举包括信息流保举、广告保举等，了解用户也就是用户打一些爱好标签，爱好标签是多个维度，其中内容标签是细粒度爱好标签中最重要的一种标签；然后是了解内容天生内容标签，按照内容标签做召回和排序。[1]

2）智能搜索，内容标签在搜索方面也是有较多的利用。比如Query扩大：经过Query和点击过的短视频的内容标签做一个影射，然后练习一个端到真个天生模子，来天生输入Query的扩大Query。Query保举：经过天生Query的内容标签，和用户的爱好标签做婚配，用来做Query保举中的召回和排序。

3）query标签等，零丁拆出来这个，主如果query是用户自动的行为成果，可以加倍自动地反应用户意图和爱好，同时这类数据又会比文章数据来的短小且含噪声，需要分歧的处置。固然终极的方针是为了打标支持用户爱好标签大概圈定方针用户，跟搜索还是有很大区此外。

参考文献

[1] 公然课笔记 | 多模态短视频内容标签技术及利用: https://mp.weixin.qq.com/s/CEPBXaJfrIO1w0yX7YdZZA

[2] BERT:Bidirectional Encoder Representation from Transformers;