HMMs, Particle Filters and Applications

🖇️ YOUTUBE

COMPSCI 188 - 2018-10-30

🗒️ MATERIAL

CS 188: Introduction to Artificial Intelligence, Fall 2018

🗓️ 2022-02-19

Note

1. HMMs

   • 시작 확률과 트랜지션 확률(모델링의 역학) →변수 $X$가 어떻게 변환되는지 확인

     

   • HMMs에는 MM에 숨겨져 있는 특정 변수 $X$가 타임 스탬프에 따라 어떤 $E$와 연관되는지 확인할 수 있다.

   • 모든 타임 스탬프에서 Evidence, Likelihood 등 확인 가능 →다시 재구조화한다.

   • belief distribution이 현재 변화한 모델링 역학 구조에 따라서 재구조화된다.

   • 확률 분포 예상: 타임 스탬프에 따른 belief distribution 예상 및 모델링 역학 구조를 활용

   • 타임 스탬프 t의 확률 분포는 이전 타임 스탬프 t-1의 확률 분포가 주어질 때 타임 스탬프 t의 조건부 확률과 이전 t-1의 확률 분포를 지금까지 모든 타임 스탬프 t에서 총합한 것

     

   • 현재 Belief 모델은 지금까지 존재한 evidence에 기반한 타임 스탬프 t의 확률 분포 $P(X_t|e_{1:t})$

   • 다음 타임 스탬프 t+1에 새로운 변수 $x_{t+1}$ 추가

   • 체인 룰을 통해 $P(X_{t+1},x_t|e_{1:t})=P(X_{t+1}|x_t,e_{1:t})P(x_t|e_{1:t})=P(X_{t+1}|x_t)P(x_t|e_{1:t})$

   • 타임 스탬프에 따라 가중치에 따라 편향 → 불확실성이 축적된다.

2. Particle Filters

   • $P(X_1)$를 계산할 때 evidence $e_1$만 고려한다. 즉 evidence가 현재 상태의 belief를 어떻게 구성하는지 확인한다.

     

   • evidence의 가능성에 따라 각 변수에 할당된 가능성이 정규화되기 때문에 조정된다. 즉 ‘필터링’된다.

   • 가중치에 따라 불확실성이 감소한다.

     

     

   • 필터링: 현재 주어진 조건에서 모든 evidence가 주어질 때 $X$를 찾는 알고리즘

   • 모든 값이 아닐 수 있는 $X$의 샘플 particles를 추적한다.

   • 타임 스탬프 t가 늘어날 수록 추적하는 샘플 particles의 수도 선형적으로 증가한다.

   • 상태 states가 아니라 샘플 particles를 기록해서 필터링에 사용한다.

   • $P(X)$를 $N$개의 샘플 particles로 표현할 수 있다. 이때 $N<<|X|$

   • 대부분의 particle $P(x)$는 0, 일부는 값을 가지므로 정확도 높다.

   • 타임 스탬프 t에 따라 particle이 다른 곳으로 이동(트랜지션 함수)하는 것으로 표현된다.

   • particle 이동을 통해 시간의 흐름을 파악할 수 있다.

     

   • 샘플 수가 충분하다면 정확한 참 값에 일관된 consistent 속성을 얻는다.

   • 가설 → 샘플 이동을 통해 이전 확률 전환에 따른 이동 방향을 특징

   • evidence를 통합 → rejection하지 않고 계속 likelihood로 샘플이 남아 있다.

     

   • particle 크기는 정규화 normalization을 통해 크기가 조정, 실제 확률 $P(e)$와 근접한다.

   • 가중치 기준이 아니라 얼마나 많은 particles가 포화되어 있는지에 따라 파악하기 위해 다시 샘플링한다.

   • localization → tracking → particle filtering algorithm

   • particles의 위치를 알 때 분포 파악이 쉽다.

   • particles의 수를 결정하는 규칙은 없다. 불확실성과 정렬 정도 등 고려할 요소가 많지만, 실제로 파악하기 어렵다.

   • particles를 일종의 점으로 사용해 map을 그리는 원료로 사용할 수 있다.

3. Dynamic Bayes Nets

   • 고정 BN을 각 타임 스탬프 t마다 여러 개의 변수를 트래킹한다.

     

   • 이벤트가 일어나는 공간은 매우 크지만, particles의 수는 매우 적고 이 가설에 따라 HMM을 사용하자.

Review

• 명확한 분포보다 샘플 particles가 어디 있는지 샘플링하여, 가중치를 정규화해 “어디에 샘플이 여러 번 발생하는가”를 통해 evidence를 관찰할 수 있다. resampling을 통해 특정 좌표 내에서 얼마나 많은 particles가 존재하는지 파악해 실제 $P(e)$에 근접한 값을 빠르게 얻어낼 수 있다.
• 샘플링을 배운 까닭이 여기에 있다. 샘플링이 가지는 정확하지는 않지만 빠르게 추정값을 얻어내는 힘을 볼 수 있었다.