Вы когда-нибудь задумывались, почему для каждой задачи существуют разные алгоритмы? Давайте рассмотрим простой пример линейной регрессии и логистической регрессии.

Есть две вещи, которые объясняют, почему линейная регрессия не подходит для классификации. Во-первых, линейная регрессия имеет дело с непрерывными значениями, тогда как задачи классификации требуют дискретных значений.

Вторая проблема связана со смещением порогового значения при добавлении новых точек данных. Давайте возьмем простой пример линейной регрессии и проведем к нему линию. На приведенном ниже графике показана линия наилучшего соответствия. Чтобы сделать объяснение более простым, давайте возьмем пример проблемы классификации в здравоохранении. По сути, наша цель здесь - определить, болен человек или нет.

Технически функцию гипотезы для линейной регрессии можно использовать и для логистической регрессии, но есть проблема.

На приведенном выше графике показана линия наилучшего соответствия для заданных точек. Это простой пример, и реальные данные никогда не бывают такими простыми. Итак, возвращаясь, когда мы добавляем еще одну точку в этот набор данных, наша лучшая линия смещается, чтобы соответствовать этой точке. Следовательно, линия становится такой

Итак, согласно нашему примеру, если нам нужно классифицировать, болен человек или нет, этот метод вообще ненадежен, поскольку мы используем сигмовидную функцию в логистической регрессии. Если в строке есть сдвиг, то минимальное пороговое значение для классификации примеров меняется. Итак, вначале порог может быть 0,5, но после добавления еще нескольких точек данных значение может быть 0,8. Таким образом, здесь сказывается точность модели. Кроме того, развертывание модели с такой нестабильностью в такой области, как здравоохранение, не так хорошо и может иметь ужасные последствия.

Следовательно, чтобы избежать этого, мы используем алгоритм, называемый логистической регрессией, который представляет собой алгоритм двоичной классификации, чтобы обойти эти практические проблемы, сдерживающие линейную регрессию для классификации.

Логистическая регрессия имеет дело с дискретными значениями, в отличие от линейной регрессии, а также поддерживает значение порога даже при добавлении новых точек данных.