归档 | Erwin Feng Blog

2023

2023-05-23掌握基本面投资艺术：精炼的 prompt 模板

2022

2022-12-15确定性变量的随机化技巧

2021

2021-10-16分析与拓展：Transformer中的MultiHeadAttention为什么使用scaled？
2021-10-11Tensorflow的多卡训练：原理和实践
2021-10-09机器学习之分类问题的评估指标总结
2021-09-11天马行空：设计自己的激活函数
2021-09-07函数光滑近似（4）：Heaviside step函数及其应用
2021-08-24引入参数控制softmax的smooth程度
2021-08-23分析与拓展：多分类模型的输出为什么使用softmax？
2021-08-19一种基于光滑逼近的正态分布采样法
2021-08-15GELU由来：从狄拉克函数到GELU激活函数
2021-08-12Lp范数的上下界分析
2021-08-12logsumexp函数分析
2021-06-08分析Mish激活函数的设计思路
2021-05-18阿尔法经济学：Shiller模型介绍
2021-03-20形形色色的Sigmoid（S型）函数
2021-03-01NER任务的深度总结
2021-02-27序列标注：从HMM、MEMM到CRF
2021-02-23CRF的简洁实现
2021-01-23Grad-CAM在NLP可视化中的应用

2020

2020-12-25Python文本颜色渲染
2020-12-15Python中简便的多进程通信方法
2020-12-09NLU任务：仅使用字形信息也有效？
2020-11-23如何评估LSTM每个时间步的重要性？
2020-11-22分词与词频统计的并行化
2020-11-17积分梯度：神经网络可视化方法及其在NLU中的应用
2020-11-16NLP中GlobalMaxPooling的可视化理解
2020-11-15NLP中AttentionPooling的可视化理解
2020-11-11使用神经网络进行分布变换
2020-10-29NLP中的对抗训练：从概念、原理到实践
2020-09-21漫谈注意力机制（七）：Transformer模型之BERT、BERT-wwm、RoBERTa、ALBERT简述
2020-08-22floor、ceil、round、trunc函数都是什么？
2020-08-17Tensorflow出现CUDNN_STATUS_INTERNAL_ERROR的解决方法
2020-08-15Tensorflow占满显存怎么办？
2020-08-12在Ubuntu20.04上安装Tensorflow遇到的问题和解决方法
2020-07-23采样（四）：从正态分布构造均匀分布
2020-07-15时间序列都有哪些机器学习任务？
2020-06-17不使用sudo执行docker命令
2020-06-17解决Linux下git无法显示中文的问题
2020-06-04构建支持Systemd的Linux容器
2020-05-15max函数光滑逼近：一种与softmax相关的形式
2020-04-10备份你的Linux系统
2020-03-31Transformer中Position Embedding的原理与思考
2020-03-15Python之通过装饰器来计算代码段执行时间
2020-02-20随机矩阵正交性证明
2020-02-15一文搞懂时间序列多步预测的原理
2020-01-16把Python项目打包成一个文件
2020-01-13Linux系统中安装多版本gcc

2019

2019-11-27文本匹配的经典方法
2019-11-17时间序列的特征工程详解
2019-10-18列出集合的所有子集的numpy实现
2019-08-30从函数光滑近似的角度统一理解激活函数
2019-08-17磁盘故障预测思路和有关论文（更新）
2019-07-25死锁问题：简单的解决方案
2019-07-12Python数据处理技巧
2019-07-09Embedding之字词混合的两种对齐方案
2019-06-25采样（三）：重要性采样与接受拒绝采样
2019-06-18采样（二）：从正态分布采样
2019-06-12采样（一）：从均匀分布、指数分布和拉普拉斯分布采样
2019-06-07变分推断：多角度理解
2019-05-18softmax:建立hard-attention到soft-attention的桥梁
2019-05-07谈算法工程师的数学素养
2019-05-05集成回归的有效性证明（更新）
2019-04-26Google的激活函数Swish是怎么设计出来的？
2019-04-25Sigmoid函数导出的另外一个角度
2019-04-12函数光滑近似（3）：abs函数
2019-04-10函数光滑近似（2）：softmax与argmax
2019-04-08函数光滑近似（1）：maximum函数
2019-04-08古典音乐列表
2019-04-03信息论视角的极大似然估计
2019-03-31使用Conda或Docker创建多版本Python环境
2019-03-20深入理解神经网络中的Padding和Masking
2019-03-10信息聚合漫谈：加权平均思路
2019-03-09漫谈注意力机制（六）：Transformer与位置信息
2019-03-07漫谈注意力机制（五）：自注意力与Transformer
2019-03-06漫谈注意力机制（四）：注意力机制的退化之AttentionPooling
2019-03-05漫谈注意力机制（三）：全局注意力与局部注意力
2019-03-04漫谈注意力机制（二）：硬性注意力机制与软性注意力机制
2019-03-03漫谈注意力机制（一）：人类的注意力和注意力机制基础
2019-03-01漫谈序列编码：MLP、CNN、RNN
2019-02-28如何评估词向量化的优劣？
2019-02-27求句向量的思路探索
2019-02-21词向量系列（6）：动态词向量CoVe之ELMo
2019-02-15词向量系列（5）：fastText快速轻量的有监督方法
2019-02-14词向量系列（4）：Glove一个别致的思路
2019-02-12词向量系列（3）：深入Word2Vec及其实现
2019-01-31优化算法系列（5）：SGD改进之Adam一个综合方案和派生（更新）
2019-01-24理解神经网络中Embedding层的原理
2019-01-12序列标注之NER、CWS经典模型HMM实现

2018

2018-12-27文本分类中的一些Tricks分享
2018-12-25词向量系列（2）：VSM和主题模型思路
2018-12-21优化算法系列（4）：SGD改进之自适应学习率调整
2018-12-17优化算法系列（3）：SGD改进之梯度估计修正
2018-12-16优化算法系列（2）：深入讨论SGD及其改进思路
2018-12-14优化算法系列（1）：梯度下降算法与推导
2018-12-12中文分词详解：从词典匹配到深度学习方法
2018-12-10词向量系列（1）：VSM与词袋模型
2018-12-05简述语义匹配的发展
2018-11-27深入理解CNN及其网络架构设计
2018-11-20深度学习中的参数初始化及其数学分析
2018-11-18浅谈随机向量与随机矩阵
2018-11-11概率图模型系列（5）：条件随机场CRF
2018-11-09概率图模型系列（4）：MEMM
2018-11-07概率图模型系列（3）：隐马尔可夫模型（HMM）
2018-11-04概率图模型系列（2）：最大熵原理和最大熵模型
2018-11-03概率图模型系列（1）：朴素贝叶斯分类器
2018-10-30范数正则化的原理分析（二）：参数约束与最大熵原理
2018-10-29范数正则化的原理分析（一）：贝叶斯学派角度
2018-10-25集成分类的有效性证明
2018-10-15Logistic模型及其推广
2018-09-26马尔可夫链及其Python实现（补充）
2018-09-19交叉验证和数据泄漏
2018-09-10机器学习中分类与回归问题常用的损失函数
2018-09-08极大似然估计与最小二乘法的关系
2018-09-07频率学派与贝叶斯学派之争
2018-09-03最大熵原理、最大熵约束与概率分布
2018-08-28漫谈“熵”
2018-08-25漫谈概率论与信息论中的不等式
2018-08-22解释常见的统计分布
2018-08-20Minkowski距离、Mahalanobis距离、Wasserstein距离
2018-08-19神经的贝叶斯公式
2018-08-15简单说说神经网络中的Embedding
2018-08-10概念：odds vs logits
2018-08-08一图理解区块链
2018-08-05Python3.5新增关键字async和await
2018-07-29一个绝妙的idea：变长文本序列转换成定长向量
2018-07-25常用Linux技巧总结
2018-06-07ZFS文件系统中的ARC缓存算法
2018-05-26牛顿迭代法的导出
2018-05-16Hexo中mathjax渲染问题的解决和测试（更新）
2018-04-08避免计时攻击：使用hmac进行socket连接认证
2018-03-07一致性hash算法及其实现
2018-03-01让Go的HTTP客户端走socks5代理
2018-02-24为Redis编写安全通道
2018-02-14浅谈Linux I/O模型
2018-02-10生成随机密码
2018-01-29一个有趣的开源项目：itchat使用介绍
2018-01-20Trie树原理和实现
2018-01-19Linux安装PostgreSQL数据库
2018-01-18Python使用三个特殊方法实现对类属性的访问控制
2018-01-17Python定时事件调度器
2018-01-17Python程序退出时的回调
2018-01-08处理二进制数据结构
2018-01-08浅谈内存映射文件
2018-01-07Go语言中HTTP包剖析（客户端）
2018-01-07Go语言中HTTP包剖析（服务器端）
2018-01-06Python描述符原理

2017