Bayes’ Nets 1

🖇️ YOUTUBE

COMPSCI 188 - 2018-10-04

🗒️ MATERIAL

CS 188: Introduction to Artificial Intelligence, Fall 2018

🗓️ 2022-02-13

Note

1. Probabilistic Models
   • 모델링: 어떻게 세상이 작동하는지 단순화 → 변수, 변수 간 상호 작용을 “모두” 포함할 수 없지만 유용한 도구
   • 확률 모델: evidence 기반 불확실 변수 추론 → explanation, prediction, information(queries), simulation
2. Independence
   • $\forall x,y \,\,\,\,:\,\,\,\,P(x,y)=P(x)P(y)$
   • $\forall x,y \,\,\,\,:\,\,\,\,P(x|y)=P(x)$
   • 독립 확률 → 모델링 가정을 단순화
3. Conditional Independence
   • 확률 변수 두 개의 상관관계가 “다른 변수”에 의해 조정되는 경우
   • 불확실한 환경에 대한 지식을 도출하는 데 있어서 가장 기본적인 방법
   • Z가 있다면 X는 Y와 조건적으로 독립적이다.
   • $\forall x,y,z\,\,\,\,:\,\,\,\,P(x,y|z)=P(x|z)P(y|z)$
   • $\forall x,y,z\,\,\,\,:\,\,\,\,P(x|z,y)=P(x|z)$
   • Chain rule: $P(X_1,X_2,...X_n)=P(X_1)P(X_2|X_1)P(X_3|X_1,X_2)...$
4. Bayes’ Nets

   • 베이즈 넷을 통해 불필요한 joint table 연산을 줄이고 간단한 확률 분포를 얻을 수 있다.

     

   • 베이즈 넷을 통해 특정 “정보”에 대한 추론 가능

   • 도메인과 변수 → 노드, 상호 작용 → 아크, 방향 및 acyclic 그래프로 베이즈 넷의 graphical modeling 가능

     

   • CRT(conditional probability table): 각 노드에 대한 조건부 확률 분포 존재 → 노드 간의 인과 관계 표현

   • 특정 노드 간의 아크는 “인과 관계”를 보여주기에는 부족하지만 joint distribution 테이블 상의 관계를 보여줌

   • 지역적 조건부 확률 분포의 곱을 통해 full assignmnet 확인 가능

     

   • BN의 product는 chain rule이 아니라 전체적인 joint distribtuion을 보여줌

     

   • 인과 관계 방향: 순서대로 해당 조건 확률을 결합(product)

   • 베이즈 넷은 실제 인과 관계를 보여줄 수 있지만, 무조건적으로 그럴 필요는 없음 → topology가 실제 조건적으로 독립적이어야 함(부모 노드의 특징만 알면 된다).

Review

• 확률 모델을 설계할 때 결정적 모델, MDPs와 달리 불확실성을 고려해야 한다. 이때 모델링 과정을 간단하게 만듦으로써 문제를 간략화할 수 있는데, 특히 독립적 확률을 통한 조건부 독립이 관건이다. 주어진 evidence에 따라 현재 추정할 수 있는 확률이 계속 변화하는데, 이 뒤에 있는 수학적인 가정에 관해 공부했다.