ALL73 Penalized logistic regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Bias reduction of Lasso estimator Variance reduction of Lasso estimator Logistic regression 로지스틱 회귀모형(Logistic regression model)은 $y$가 범주형 변수(Categ.. 2020. 6. 2. Variance reduction of Lasso estimator ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Bias reduction of Lasso estimator 이번 글에서는 목적함수에 Ridge의 penalty term을 추가하여 Lasso 추정량의 Variance를 줄이는 방법들에 대해 소개한다. Variance를 줄이는 접근 방법을 소개하는 이유는 정확한 .. 2020. 5. 26. Bias reduction of Lasso estimator ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Lasso regression은 회귀계수 벡터의 $l_1$ norm을 penalty term으로 사용함으로써, 회귀계수의 크기 축소(Shrinkage)뿐만 아니라 변수 선택(Variable selection)의 목적까지 달성할 수 있다. 그러나, 이렇게 추정한 L.. 2020. 5. 26. Logistic regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com 로지스틱 회귀모형(Logistic regression model)은 $x$에 관한 선형 함수(linear function)를 통해 관측치가 class = $K$에 속할 사후 확률(posterior probabilities)을 모델링한다. 그래서 로지스틱 회귀모형은 분류 문제에 적절하며, 분류기 중에서도 선형 분류기(linear classifier)에 해당한다. class가 $K$개인 반응 변수 $Y$.. 2020. 5. 23. Lasso regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression $l_1$ norm을 penalty로 사용하는 Lasso regression은 회귀계수의 크기 축소뿐만이 아닌 변수 선택까지 수행할 수 있다. Ridge는 변수 선택(Selection)의 역할까지는 수행할 수 없다. 이는 고차원 데이터($n \rightarrow p$ 또는 $n \lambda\.. 2020. 4. 28. #8 표준편차와 표준오차 ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com 표준편차(standard deviation)와 표준오차(standard error)에 대해 확실하게 정리합시다. 먼저 우리가 자료를 얻었을 때 주로 관심있는 것은 자료의 중심과 퍼짐성을 요약할 수 있는 특성값들로, 일반적으로 자료의 중심은 평균(mean), 자료의 퍼짐성을 잴 때는 분산 또는 표준편차를 사용합니다. 따라서 모집단에는 모평균 $\mu$, 모분산 $\sigma^2$, 모표준편차 $\sig.. 2020. 4. 16. 이전 1 ··· 3 4 5 6 7 8 9 ··· 13 다음