Исследовать бинарную логистическую регрессию

Реализовать нижеперечисленные задания на Python в формате .ipynb. Файл с реализацией похожего задания, а также исходные данные для текущего задания во вложении. При необходимости датасет и файл с реализацией похожего задания отправлю в форматах csv и ipynb соответственно.

Задания

1. Обучить логистическую регрессионную модель с: а) logit-функцией связи; б) probit-функцией связи. Визуализировать области классов и границу между классами.

2. Рассчитать показатели точности обученных моделей: error rate, accuracy, sensitivity, specificity, precision, fall-out, F1-score, Cohen’s kappa на обучающей и тестовой выборках.

3. Построить ROC-кривые и PR-кривые по результатам классификации, рассчитать ROC AUC и PR AUC.

4. Обучить нормальный наивный байесовский классификатор в предположении о равных ковариационных матрицах классов. Записать аналитическое выражение для границы классов. Визуализировать области классов и границу между классами, сравнить с границами классов, полученными в п.1.

5. Построить графики зависимости точности классификации на обучающей и тестовой выборках от параметра регуляризации для обученной регуляризованной логистической регрессии с: а) L2-регуляризатором; б) L1-регуляризатором. Визуализировать границу между классами для нескольких различных значений параметра регуляризации, сравнить с границей, полученной в п.1.

6. Сделать выводы по результатам проведенных исследований.



Указания

Кросс-валидация: Holdout (70/30).

В п.4 априорные вероятности классов считать равными.