Sử dụng dữ liệu phân loại làm tính năng trong Sklean LogisticRegression

Question

Tôi đang cố gắng hiểu cách sử dụng dữ liệu danh mục làm tính năng trong sklearn.linear_model 's LogisticRegression.

Tôi hiểu tất nhiên tôi cần mã hóa nó.

1. Những gì tôi không hiểu là làm thế nào để vượt qua tính năng mã hóa để hồi quy Logistic vì vậy nó xử lý như một tính năng phân loại, và không giải thích giá trị int nó nhận được khi mã hóa như một tính năng định lượng tiêu chuẩn.

2. (Ít quan trọng hơn) Ai đó có thể giải thích sự khác biệt giữa việc sử dụng preprocessing.LabelEncoder(), DictVectorizer.vocabulary hoặc chỉ tự mã hóa dữ liệu phân loại bằng một lệnh đơn giản? Alex A.'s comment here chạm vào đối tượng nhưng không sâu sắc.

Đặc biệt với thẻ đầu tiên!

Answer 1

1. Standart phương pháp để chuyển đổi các tính năng categorial vào số - OneHotEncoding

2. Đó là hoàn toàn lớp khác nhau:

   [DictVectorizer][2].vocabulary_

   Một từ điển tên tính năng lập bản đồ tính năng chỉ số.

   tức là Sau fit()DictVectorizer có tất cả các tên tính năng có thể, và bây giờ nó biết trong đó đặc biệt là cột nó sẽ đặt giá trị cụ thể của một tính năng. Vì vậy, DictVectorizer.vocabulary_ chứa chỉ báo đối tượng địa lý, chứ không phải giá trị.

   LabelEncoder trong bản đồ đối diện mỗi nhãn có thể (Nhãn có thể là chuỗi hoặc số nguyên) thành giá trị số nguyên và trả về véc tơ 1D của các giá trị số nguyên này.

Answer 2

Bạn có thể tạo biến chỉ báo cho các danh mục khác nhau. Ví dụ:

animal_names = {'mouse';'cat';'dog'} 

Indicator_cat = strcmp(animal_names,'cat') 
Indicator_dog = strcmp(animal_names,'dog') 

Sau đó, chúng ta có:

   [0       [0 
Indicator_cat = 1  Indicator_dog = 0 
       0]       1] 

Và bạn có thể nối các vào ma trận dữ liệu ban đầu của bạn:

X_with_indicator_vars = [X, Indicator_cat, Indicator_dog] 

---

Ghi dù để rời khỏi một thể loại mà không chỉ báo nếu thuật ngữ không đổi được bao gồm trong ma trận dữ liệu! Nếu không, ma trận dữ liệu của bạn sẽ không được xếp hạng đầy đủ cột (hoặc trong điều kiện kinh tế lượng, bạn có đa cộng tuyến).

[1 1 0 0   Notice how constant term, an indicator for mouse, 
1 0 1 0   an indicator for ca,t and an indicator for dog 
1 0 0 1]  leads to a less than full column rank matrix: 
        the first column is the sum of the last three. 

Answer 3

Giả sử loại của từng biến phân loại là "đối tượng".Thứ nhất, bạn có thể tạo một panda.index các tên cột phân loại:

import pandas as pd  
catColumns = df.select_dtypes(['object']).columns 

Sau đó, bạn có thể tạo các biến chỉ sử dụng một cho vòng lặp bên dưới. Đối với các biến phân loại nhị phân, hãy sử dụng LabelEncoder() để chuyển đổi thành 0 và 1. Đối với các biến phân loại có nhiều hơn hai loại, hãy sử dụng pd.getDummies() để lấy các biến chỉ báo và sau đó thả một danh mục (để tránh vấn đề đa cộng tuyến).

from sklearn import preprocessing 
le = preprocessing.LabelEncoder() 

for col in catColumns: 
    n = len(df[col].unique()) 
    if (n > 2): 
     X = pd.get_dummies(df[col]) 
     X = X.drop(X.columns[0], axis=1) 
     df[X.columns] = X 
     df.drop(col, axis=1, inplace=True) # drop the original categorical variable (optional) 
    else: 
     le.fit(df[col]) 
     df[col] = le.transform(df[col])