Arhn - архитектура программирования

Как использовать поиск по сетке для svm?

Я думаю, что машинное обучение интересно, и я изучаю документацию scikit Learn для развлечения. Ниже я сделал некоторую очистку данных, и дело в том, что я хочу использовать поиск по сетке, чтобы найти лучшие значения параметров.

from sklearn.datasets import fetch_20newsgroups
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn import metrics
import numpy as np
from sklearn.model_selection import GridSearchCV
from sklearn.svm import SVC
from sklearn.metrics import accuracy_score


cats = ['sci.space','rec.autos','rec.motorcycles']
newsgroups_train = fetch_20newsgroups(subset='train',remove=('headers', 'footers', 'quotes'), categories = cats)
newsgroups_test = fetch_20newsgroups(subset='test',remove=('headers', 'footers', 'quotes'), categories = cats)

vectorizer = TfidfVectorizer( stop_words = "english")


vectors = vectorizer.fit_transform(newsgroups_train.data)
vectors_test = vectorizer.transform(newsgroups_test.data)

clf =  SVC(C=0.4,gamma=1,kernel='linear')

clf.fit(vectors, newsgroups_train.target)
vectors_test = vectorizer.transform(newsgroups_test.data)
pred = clf.predict(vectors_test)
print(accuracy_score(newsgroups_test.target, pred))

Точность: 0,849

Я слышал о поиске по сетке для поиска оптимального значения параметров, но не могу понять, как это сделать. Не могли бы вы уточнить? Это то, что я пробовал, но это неправильно. Я хотел бы узнать правильный путь вместе с некоторыми объяснениями. Спасибо

Cs = np.array([0.001, 0.01, 0.1, 1, 10])
gammas = np.array([0.001, 0.01, 0.1, 1])
model = SVC()
grid = GridSearchCV(estimator=model, param_grid=dict(Cs=alphas,gamma=gammas))
grid.fit(newsgroups_train.data, newsgroups_train.target)
print(grid)
# summarize the results of the grid search
print(grid.best_score_)
print(grid.best_estimator_.alpha)

ИЗМЕНИТЬ на основе полученного ответа:

parameters = {'C': [1, 10], 
          'gamma': [0.001, 0.01, 1]}
model = SVC()
grid = GridSearchCV(estimator=model, param_grid=parameters)
grid.fit(vectors, newsgroups_train.target)
print(grid)
# summarize the results of the grid search
print(grid.best_score_)
print(grid.best_estimator_)

он возвращает:

GridSearchCV(cv='warn', error_score='raise-deprecating',
       estimator=SVC(C=1.0, cache_size=200, class_weight=None, coef0=0.0,
  decision_function_shape='ovr', degree=3, gamma='auto_deprecated',
  kernel='rbf', max_iter=-1, probability=False, random_state=None,
  shrinking=True, tol=0.001, verbose=False),
       fit_params=None, iid='warn', n_jobs=None,
       param_grid={'C': [1, 10], 'gamma': [0.001, 0.01, 1]},
       pre_dispatch='2*n_jobs', refit=True, return_train_score='warn',
       scoring=None, verbose=0)
0.8532212885154061
SVC(C=10, cache_size=200, class_weight=None, coef0=0.0,
  decision_function_shape='ovr', degree=3, gamma=1, kernel='rbf',
  max_iter=-1, probability=False, random_state=None, shrinking=True,
  tol=0.001, verbose=False)

Мне нужны разъяснения по этим вопросам:

1)What actually is displayed on the results?
2)Does it also take ranges for C as 1 to 10 or either 1 or 10? 
3)Can you suggest anything    to improve accuracy further?  
4)I noticed that the Tfidf made the accuracy worse even though it 
              cleaned the data from words that dont have any value

  • Вы почти поняли, но param_grid принимает словарь, где ключи — это параметры в виде str, а значения — это списки. Итак, {'C':np.array([0.001, 0.01, 0.1, 1, 10]), 'gamma':...} 15.08.2019

Ответы:


1

Вы хотите передать словарь параметров, где ключами являются имена параметров, определенные в документации модели (1). Значения должны быть списком значений, которые вы хотели бы попробовать.

Затем поиск по сетке вызовет все возможные комбинации этих параметров. Есть несколько хороших примеров с документацией (2).

  1. https://scikit-learn.org/stable/modules/generated/sklearn.svm.SVC.html
  2. https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html

Для вашего скрипта вы также хотите убедиться, что вы загружаете поиск по сетке правильными обучающими данными, в данном случае «векторами», а не «newsgroups_test.data».

Смотри ниже:

parameters = {'C': [1, 10], 
          'gamma': [0.001, 0.01, 1]}
model = SVC()
grid = GridSearchCV(estimator=model, param_grid=parameters)
grid.fit(vectors, newsgroups_train.target)
print(grid)
# summarize the results of the grid search
print(grid.best_score_)
print(grid.best_estimator_)

Пожалуйста, примите ответ, если он работает. Удачи!

15.08.2019
  • Я добавил некоторые пояснения в вопрос в качестве редактирования, связанного с вашим ответом. 15.08.2019

  • 2

    Для повышения точности:


    Итак, поскольку это проблема классификации текста, прежде всего мы должны взглянуть на сам текст и посмотреть, нуждается ли он в какой-либо предварительной обработке. Очистка данных очень важна для tfidf, поскольку она не принимает во внимание контекст слов.
    Вы можете попытаться сделать регистры такими же, как при переводе всех слов в нижний регистр, чтобы одно и то же слово не обрабатывалось по-разному. Вы можете проверить такие вещи, как URL-адреса и другой контент, который будет бесполезен для модели, и удалить все это с помощью регулярных выражений. В модели tfidf вы можете поиграть с некоторыми переменными, такими как max_features, ngram_range и т. д., чтобы увидеть, какой диапазон значений подходит для этого варианта использования.

    Вы можете изучить множество других моделей. Обычно мы используем LSTM, RNN и т. д. для решения текстовых задач. Вы должны изучить эти модели с помощью Keras.

    Поиск по сетке


    Поиск по сетке, рандомизированный поиск по сетке можно использовать для проверки различных параметров. По сути, он возвращает лучший набор гиперпараметров, полученный из метрики, которую вы настраивали. Он может принимать как диапазоны, так и просто значения. Поиск параметров осуществляется совершенно случайно при поиске по сетке. Лучшей альтернативой является HyperOpt, где он фактически изучает что-то из параметров, которые были получены в прошлом. Поэтому работа с этим даст лучший набор параметров намного быстрее.

    Вы можете перейти по этой ссылке для лучшего понимания: rel="nofollow noreferrer">https://medium.com/vantageai/bringing-back-the-time-spent-on-hyperparameter-tuning-with-bayesian-optimisation-2e21a3198afb

    15.08.2019
  • Поскольку пример в вопросе полностью воспроизводим, можете ли вы использовать код для передачи своих идей, пожалуйста? Например, что вы считаете лучшей предварительной обработкой для достижения оптимальной точности? На самом деле я использовал tfidf и максимальные функции и другие параметры, но по какой-то причине только уменьшил точность. Примеры были бы очень признательны. Спасибо. 16.08.2019
  • Новые материалы

    Коллекции публикаций по глубокому обучению
    Последние пару месяцев я создавал коллекции последних академических публикаций по различным подполям глубокого обучения в моем блоге https://amundtveit.com - эта публикация дает обзор 25..

    Представляем: Pepita
    Фреймворк JavaScript с открытым исходным кодом Я знаю, что недостатка в фреймворках JavaScript нет. Но я просто не мог остановиться. Я хотел написать что-то сам, со своими собственными..

    Советы по коду Laravel #2
    1-) Найти // You can specify the columns you need // in when you use the find method on a model User::find(‘id’, [‘email’,’name’]); // You can increment or decrement // a field in..

    Работа с временными рядами спутниковых изображений, часть 3 (аналитика данных)
    Анализ временных рядов спутниковых изображений для данных наблюдений за большой Землей (arXiv) Автор: Рольф Симоэс , Жильберто Камара , Жильберто Кейрос , Фелипе Соуза , Педро Р. Андраде ,..

    3 способа решить квадратное уравнение (3-й мой любимый) -
    1. Методом факторизации — 2. Используя квадратичную формулу — 3. Заполнив квадрат — Давайте поймем это, решив это простое уравнение: Мы пытаемся сделать LHS,..

    Создание VR-миров с A-Frame
    Виртуальная реальность (и дополненная реальность) стали главными модными терминами в образовательных технологиях. С недорогими VR-гарнитурами, такими как Google Cardboard , и использованием..

    Демистификация рекурсии
    КОДЕКС Демистификация рекурсии Упрощенная концепция ошеломляющей О чем весь этот шум? Рекурсия, кажется, единственная тема, от которой у каждого начинающего студента-информатика..