let us not love with words or tongue but actions and truth.

EM알고리즘 3

순차데이터의 인식

시간성 특성이 없는 데이터 축을 바꿔도 문제의 본질이 바뀌지 않음 하지만 2를 그리는 순서를 바꾸면 2를 알아볼 수가 없음 1. 마코프 모델 (Markov Model) 시간 t에서의 관측은 가장 최근 r개 관측에만 의존한다는 가정 하의 확률 추론 2차 이상에서는 추정할 매개 변수가 많아 현실적인 문제 발생 주로 1차 마코프 체인만 사용 상태전이: state transition probability matrix 1. 상태전이 확률 행렬 2. 상태전이도 상태전이확률행렬은 아래와 같이 표현됨 1차 MM에서 관측벡터 O의 확률 구하기 예시1) 예시2) 0차에서의 MM 2차에서의 MM MM의 단점 1. 보다 복잡한 현상이나 과정에 대한 모델링 능력의 한계 해결책: 모델의 용량을 키우기 위해, 상태를 감추다. 2...

IT/패턴인식 2022.12.01

확률 분포 추정

확률밀도 함수가 주어지지 않았을 때는 어떻게 풀 것인가 → Gaussian확률 밀도함수가 주어졌을 때는 bayesian 결정이론을 사용했음 → 확률 분포(확률밀도 함수) 를 추정해야함 베이지안 분류기에서 우리가 알아야 되는것은 1. 사전확률 ( sample / N(표본수) ) bias가 있을것이라고 생각이 된다면 사전확률은 무시해도 됨 (주사위 면적이 다를 것이라고 생각된다면) 2. 확률 밀도함수 (클래스 별) a. parameter를 알면 추정할 수 있음 = parameter density function (likelihood: 최대우도법) b. non-parametric density function (비모수 추정법) → Parzen windown density / knn density estimat..

IT/패턴인식 2022.10.02

[자연어]Part of Speech Tagging, Sequence Labeling, HMM

Part of speech Part of speech tagging(PoS): 각 문장에 품사를 붙여 주는 것 한국어 PoS tag: 46개 영어 PoS tag: - Noun - Verb - Adjective(형용사) - Adverb(부사) - Preposition - Determiner: 관사, WH-determiner(which, that) - Coordinating Conjunction: and, but, or - Particle: 연결부사(take off에서 off와 같은 것들) Closed class categories: Pronouns, prepositions, modals, determiners, particles, conjunctions Open class categories: 명사, 동사..

IT/자연어분석 2022.04.08