Python文本颜色渲染
Python文本颜色渲染小工具,用于NLP中文本的可视化。
如何评估LSTM每个时间步的重要性?这是一个很久很久以前做的实验,鉴于做了一些NLU的可视化,趁着对文本的重要性可视化理解相关的实验和研究意犹未尽,一于今天也把这个实验整理一下并可视化以及开源实现代码。
最近的一些在NLU中可视化实验总结,包括AttentionPooling1D、GlobalMaxPooling1D的物理意义,这里分享一下。
说道对抗训练容易让人联想到GAN这类生成模型,不过本文说的是一种提高模型稳健性的模型训练方法。这种方法最初出现在CV中,稍加修改可以引入到NLP中。本文先介绍对抗训练相关知识,然后讲述对抗训练作为正则化手段在NLP的Embedding中的应用。