这节课的内容讲的有点浅,所以我看到是李沐的gluon教程,配合这节课的内容。
台大李宏毅深度学习——Batch normalization & SELU
学习一下batch normalization和SELU,顺便看点深度学习的八卦。
李宏毅深度学习作业——language model
之前用LSTM做过情感分析,李宏毅老师17年的课程第一个大作业是做一个完形填空的language model,试着做了一个简单的demo。
PyTorch实现LSTM情感分析
2018.08.16更新一个textCNN。
尝试使用LSTM做情感分析,这个gluon有非常详细的例子,可以直接参考gluon的官方教程。这里尝试使用PyTorch复现一个。数据用的是IMDB的数据http://ai.stanford.edu/~amaas/data/sentiment/aclImdb_v1.tar.gz
word2vec的PyTorch实现
Word Embedding现在是现在NLP的入门必备,这里简单实现一个CBOW的W2V。
2018-07-06更新一发用一篇小说来训练模型的脚本。
2018-08-02更新一发negative sampling版本。
台大李宏毅深度学习——神经网络一些骚操作
神经网络自2012年躲过世界末日后开始寒武纪大爆发的既视感,从最原始的FC开始出现了各种很风骚的操作。这里介绍三种特殊的结构:spatial transformer layer,highway network & grid LSTM,还有recursive network。
经济思想史读书笔记——亚当·斯密
“亚当·斯密在政治经济学的历史中占据如此中心的位置,以至于这个谨慎的水手不愿在这样广阔的海洋上开始着手航行。”——亚历山大·格雷
线性代数 13
两个线性代数里面在机器学习领域大放异彩的算法,SVD和PageRank。
线性代数 12
稍微介绍一下两种特殊的矩阵,orthogonal matrix和symmetric matrix。
经济思想史读书笔记——重商主义、重农主义及其他先驱
值得注意的是,发明家们并不具备被称为“科学态度”的客观性。——威廉·莱特温