1. What Is Natural Language Processing?
2. Review of Deep Learning
3. Working with Raw Text
4. Topic Modeling and Word Embeddings
5. Text Generation, Machine Translation, and Other Recurrent Language Modeling Tasks

1. What Is Natural Language Processing?

เกี่ยวกับDeep learning
– ทำให้ computer เข้าใจภาษาในแนว natural way , as human
– เข้าใจ sentiment of text , speech recognition , generating response to questions
– ใช้ DL และ chatbot ในการตอบคำถาม customer
– auto-spellcheck on cellphone
– AI Assistant eg Cortana , Siri

The History of Natural Language processing
NLP คล้ายกับทาง computational linguistics , ทำให้เป็น rule-based models
ย้อนกลับไป Formal language – เป็น regular , context-free , formal grammar
Single-layer perceptron (SLP) เป็นจุดเริ่มต้นของ ML , AI

SLP - single-layer perceptron
SLP – single-layer perceptron

SLP เริ่มต้น design โดย neurophysiologist – Warren McCulloch
– และอันนี้เป็น part หนึ่งของ Alan Turing’s research ใน 1930 , และต่อมาเป็น Formal language theory
– จากนั้น ประมาณ 1950 NLP ได้แบ่งเป็น 2 แขนง ตามความเชื่อ
1. support symbolic approach to language modelling
2. support stochastic approach

p 3

2. Review of Deep Learning

3. Working with Raw Text

4. Topic Modeling and Word Embeddings

5. Text Generation, Machine Translation, and Other Recurrent Language Modeling Tasks