All Posts

Pattern Exploiting Training(PET)是一种少样本半监督训练方法，通过添加任务描述，将输入重构成填空风格的语句。

本文介绍了ELMo模型，包括其网络结构、模型训练和模型使用，ELMo通过双向语言模型生成上下文感知的词嵌入。

本文介绍了Batch Normalization和Layer Normalization的原理、优缺点以及工作机制。

本文介绍了幂律分布和指数分布的定义、特性及其期望和方差的计算方法。

本文介绍了神经网络训练过程中基于梯度的优化算法，包括反向传播、梯度下降法、动量优化算法等。

本文提供了 Htop 的命令速查表，方便用户快速查找和使用 Htop 的各种命令。

本文介绍了对比学习在文本表征中的应用，包括其基本原理和在NLP中的具体应用。

本文介绍了Okapi BM25算法，讨论了其在词频和文档长度上的约束，并与传统的TF-IDF方法进行了对比。

语义相似度在检索系统、智能问答系统等场景有重要应用，本文介绍了文本相似度模型的发展历程和评价指标。