고차원 자료분석9 Penalized robust regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Bias reduction of Lasso estimator Variance reduction of Lasso estimator 최소제곱 손실함수를 기반으로 추정을 수행하는 선형 회귀(LSE)는 정규분포를 따르는 데이터에 적절하다. 그러나, 실제 데이터는 종종 많.. 2020. 6. 2. Penalized logistic regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Bias reduction of Lasso estimator Variance reduction of Lasso estimator Logistic regression 로지스틱 회귀모형(Logistic regression model)은 $y$가 범주형 변수(Categ.. 2020. 6. 2. Variance reduction of Lasso estimator ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Bias reduction of Lasso estimator 이번 글에서는 목적함수에 Ridge의 penalty term을 추가하여 Lasso 추정량의 Variance를 줄이는 방법들에 대해 소개한다. Variance를 줄이는 접근 방법을 소개하는 이유는 정확한 .. 2020. 5. 26. Bias reduction of Lasso estimator ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression Lasso regression Lasso regression은 회귀계수 벡터의 $l_1$ norm을 penalty term으로 사용함으로써, 회귀계수의 크기 축소(Shrinkage)뿐만 아니라 변수 선택(Variable selection)의 목적까지 달성할 수 있다. 그러나, 이렇게 추정한 L.. 2020. 5. 26. Lasso regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀분석이 가지는 문제점 Ridge regression $l_1$ norm을 penalty로 사용하는 Lasso regression은 회귀계수의 크기 축소뿐만이 아닌 변수 선택까지 수행할 수 있다. Ridge는 변수 선택(Selection)의 역할까지는 수행할 수 없다. 이는 고차원 데이터($n \rightarrow p$ 또는 $n \lambda\.. 2020. 4. 28. Ridge regression ❗️블로그 옮김: https://www.taemobang.com 방태모 안녕하세요, 제 블로그에 오신 것을 환영합니다. 통계학을 전공으로 학부, 석사를 졸업했습니다. 현재는 가천대 길병원 G-ABC에서 Data Science를 하고있습니다. 통계학, 시계열, 통계적학습과 기계 www.taemobang.com ※ prerequisite 고차원 데이터에서 고전적인 회귀 분석이 가지는 문제점 고차원 데이터에 대한 회귀분석에서 $\boldsymbol{\beta}$에 대한 ML 추정량(OLS 추정량)은 많은 결점이 발생한다. 이를 해결하기 위해서는 변수선택(variable selection 또는 model selection)을 통한 차원의 축소가 필요로 되는데, 변수선택과 추론을 같은 데이터로 수행하는 Post-.. 2020. 4. 10. 이전 1 2 다음
