분류 알고리즘

어떤 데이터가 주어질 때, 그 데이터의 정체를 판별해 주는 것이다.

로지스틱 회귀

어떤 데이터가 어떤 범주에 속할 확률을 0~1 값으로 예측해준다.

무게, 길이, 대각선, 높이 ,두께 --> faeture

그림에서 0.5 이상을 때, ' x '이고, 0.5 이하이면, ' y '라고 할 수 있다.

확률적 경사 하강법

여러 종류의 문제에서 최적의 해법을 찾는 일반적인 최적화 알고리즘

비용 함수를 최소화하기 위해 반복해서 파라미터를 조정하는 것이다.

학습률 하이퍼파라미터를 결정되는 스템의 크기가 중요하다.

• 배치 경사 하강법
  • 매 스텝에서 전체 훈련 세트를 사용해서 그레이디언트를 계산한다.
  • 훈련 세트가 커지면 매우 느려진다.
• 확률적 경사 하강법
  • 매 스텝에서 한 개의 샘플을 무작위로 선택하고 그 샘플에 대한 그레이디언트를 계산한다.
• 미니배치 경사 하강법
  • 임의의 작은 샘플 세트에 대해 그레이디언트를 계산

주의할 점

손실 함수

이 함수는 오류를 찾아내는 것이다.