정보이론

    -36일차- 정보이론

    Information Content 1. 일어날 가능성이 높은 사건은 정보량이 낮고, 반드시 일어나는 사건에는 정보가 없는 것이나 마찬가지 2. 일어날 가능성이 낮은 사건은 정보량이 높음 3. 두개의 독립적 사건이 있을 때, 전체 정보량은 각각의 정보량을 더한 것과 같음 사건 x가 일어날 확률을 P(X = x)라고 할 때 사건의 정보량(information content) 밑이 e인 자연로그를 사용 했을 때 P(x)의 값에 대한 -logP(x)의 그래프 파란공 n개, 빨간공 1개가 있을 때 빨간색 공을 뽑는 사건의 정보량 코드 import numpy as np import math import random # 주머니 속에 들어있는 공의 개수입니다. 숫자를 바꾸면서 실험해보세요! total = 1000 #..