Koo's.Co

체르노프 부등식(Chernoff Inequality) 본문

DataScience

체르노프 부등식(Chernoff Inequality)

kth321 2020. 10. 3. 01:23

1. 체르노프 부등식

  • 확률변수의 분포를 알고 있을 때 사용 가능하다
  • 체비셰프 부등식에 비해 필요한 정보가 많아 잘 사용하지 않는다(분포를 알아야 한다)
  • 적률 생성 함수(mgf)를 이용해 구할 수 있다

 

체르노프 부등식은 최솟값을 구하기 위해 미분을 하는 등의 추가적인 연산이 필요하고 확률변수의 분포를 알고 있어야만 사용한다는 단점이 있다. 마르코프 부등식이나 체비셰프 부등식에 비해 확률변수의 상한값을 오차 없이 제공한다는 장점이 있다.

 

2. 체르노프 부등식의 증명

 

지수함수와 단위계단 함수

단위 계단 함수와 지수함수가 만날 때, 만나는 점보다 큰 x값에서 단위 계단 함수는 지수함수보다 클 수 없다.

 

미분 등의 방법을 이용해 적률 생성 함수의 최솟값을 구하면 확률변수의 상한값을 구할 수 있다.

체르노프 부등식은 확률변수의 분포를 알고 있어야 하고 적률 생성 함수를 계산하고 다시 미분을 해야 하는 과정이 필요하다. 체비셰프 부등식에 비해 사용하기 까다롭고 필요한 정보가 많기 때문에 비교적 많이 사용되지 않는다.

Comments