오늘은 교차엔트로피 목적함수와 베르누이 확률분포를 통한 유도방법을 정리해보고자 한다. 우선 교차엔트로피 목점함수는 아래와 같다. 교차엔트로피 목적함수를 유도하기 위해서는 베르누이 확률분포를 먼저 이해하면 좋다. 베르누이 확률분포에 대한 설명이다. 베르누이 확률분포는 실험결과가 두 가지 중에 하나로 나오는 시행으로 예를 들어 성공 vs. 실패 와 같은 예시를 들 수 있다. 이걸 식으로 표현 해보면, P(x=1) = p, P(x=0) = 1-p 이다. 위의 식이 뜻하는 것은 성공할 확률(x=1)을 p라고 하면 실패할(x=0) 확률은 1-p이다. 그러므로 그에 따른 확률분포는 아래와 같다. 다시 한번 예시로 설명해보자면, x=1을 대입하면 아래와 같은 값이 나오고, x=0을 대입하면 아래와 같이 1-p가 되어..
