64

论文笔记:Visualization Analysis for Recurrent Networks

 5 years ago
source link: http://www.zmonster.me/2018/11/10/visualization-analysis-for-rnn.html?amp%3Butm_medium=referral
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

这篇论文是清华大学语音和语言技术中心(Center for Speech and Language Technologies, CSLT )2016 年的一篇论文,不过奇怪的是在 Google Scholar 上找了一圈,给出的引用链接竟然是 CSLT 的 wiki 链接,难道是没有正式发表的一篇论文吗?

这篇论文主要从从近年来 LSTM 在 ASR 中的优异表现出发,用一些可视化方法,希望能深入理解这种有效性是如何产生的,非常有意思。这方面相关的工作有

  1. 2013 年的《Training and analysing deep recurrent neural networks》
  2. 2014 年的《Empirical evaluation of gated recurrent neural networks on sequence modeling》
  3. 2015 年的《LSTM: A search space odyssey》
  4. 2015 年 Andrej Karpathy 的《Visualizing and understanding recurrent networks》
  5. 2015 年的《Visualizing and understanding neural models in nlp》
  6. 2016 年的《Representation of linguistic form and function in recurrent neural networks》
  7. 2016 年的《Simplifying long short-term memory acoustic models for fast training and decoding》

后续这些论文的笔记我也会补充上来。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK