목록2022/03/31 (1)
Hey Tech
[NLP] 언어모델(Language Model)의 개념 및 특징
본 포스팅에서는 통계학적 언어 모델의 개념 및 특징에 대해 알아봅니다. 📚 목차 1. 개념 2. 확률적 표현 3. 적용분야 1. 개념 1.1. 개요 언어 모델(Language Model)은 문장이 얼마나 자연스러운지 확률적으로 계산함으로써 문장 내 특정 위치에 출현하기 적합한 단어를 확률적으로 예측하는 모델입니다. 더욱 쉽게 설명하자면, 언어 모델은 문장 내 앞서 등장한 단어를 기반으로 뒤에 어떤 단어가 등장해야 문장이 자연스러운지 판단하는 도구입니다. 언어 모델은 크게 통계학적 언어 모델과 인공신경망 기반의 언어 모델이 있습니다. 최근에는 BERT, GPT-3와 같은 인공신경망 기반의 언어 모델의 성능이 뛰어나 대부분의 자연어처리 문제에서는 인공신경망 기반의 언어 모델을 사용합니다. 본 포스팅에서는 통..
AI & 빅데이터/자연어처리(NLP)
2022. 3. 31. 14:12