💡 Dieser Artikel wurde von AI-Assistenten übersetzt. Um die englische Version anzuzeigen, können Sie hier klicken
Dieses umfassende Tutorial untersucht den Prozess der Ausbildung von Random Forest-Modellen in Python mit scikit-learn, einer leistungsstarken Machine Learning-Bibliothek. Das Leitfaden ist für Data Scientist und Machine Learning-Praktiker konzipiert und bietet schrittweise Anweisungen zur effektiven Implementierung von Random Forest-Algorithmen, zum Verständnis wichtiger Trainingsmethoden und zur Optimierung der Modellleistung.
Random Forest ist ein Ensemble-Machine-Learning-Algorithmus, der mehrere Entscheidungsbäume kombiniert, um ein robustes und genaues prädiktives Modell zu erstellen. Es gehört zur Kategorie des überwachten Lernens und kann sowohl für Klassifikations- als auch für Regressionsaufgaben verwendet werden.
Random Forest hat mehrere charakteristische Merkmale:
| Merkmal | Beschreibung |
|---|---|
| Ensemble-Methode | Kombiniert mehrere Entscheidungsbäume |
| Zufälligkeit | Bringt Zufälligkeit in den Baumaufbau ein |
| Vielseitigkeit | Geeignet für Klassifikation und Regression |
| Geringe Überanpassung | Reduziert die Überanpassung des Modells durch Aggregation |
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
## Load dataset
X, y = load_iris(return_X_y=True)
## Split data
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3)
## Create Random Forest model
rf_classifier = RandomForestClassifier(n_estimators=100)
rf_classifier.fit(X_train, y_train)Random Forest ist ideal für:
Diese Tutorial wird von LabEx bereitgestellt und bietet eine umfassende Einführung in die Grundlagen von Random Forest.
import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
## Load dataset
data = pd.read_csv('dataset.csv')
X = data.drop('target', axis=1)
y = data['target']
## Split data
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.2, random_state=42
)
## Scale features
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)from sklearn.ensemble import RandomForestClassifier
rf_model = RandomForestClassifier(
n_estimators=100,
max_depth=10,
min_samples_split=2,
random_state=42
)| Parameter | Beschreibung | Standardwert |
|---|---|---|
| n_estimators | Anzahl der Bäume | 100 |
| max_depth | Maximale Baumtiefe | None |
| min_samples_split | Mindestanzahl von Samples zum Teilen | 2 |
| random_state | Reproduzierbarkeits-Saat (Seed) | None |
rf_model.fit(X_train_scaled, y_train)from sklearn.metrics import (
accuracy_score,
classification_report,
confusion_matrix
)
## Predictions
y_pred = rf_model.predict(X_test_scaled)
## Performance metrics
print("Accuracy:", accuracy_score(y_test, y_pred))
print("\nClassification Report:\n",
classification_report(y_test, y_pred))feature_importance = rf_model.feature_importances_
feature_names = X.columns
## Sort features by importance
importance_df = pd.DataFrame({
'feature': feature_names,
'importance': feature_importance
}).sort_values('importance', ascending=False)
print(importance_df)Durch LabEx: Das Beherrschen dieser Schritte gewährleistet die effektive Entwicklung von Random Forest-Modellen.
from sklearn.model_selection import GridSearchCV
from sklearn.ensemble import RandomForestClassifier
param_grid = {
'n_estimators': [50, 100, 200],
'max_depth': [5, 10, 15, None],
'min_samples_split': [2, 5, 10],
'min_samples_leaf': [1, 2, 4]
}
rf_model = RandomForestClassifier(random_state=42)
grid_search = GridSearchCV(
estimator=rf_model,
param_grid=param_grid,
cv=5,
scoring='accuracy',
n_jobs=-1
)
grid_search.fit(X_train, y_train)
best_params = grid_search.best_params_| Hyperparameter | Einfluss auf das Modell |
|---|---|
| n_estimators | Anzahl der Bäume |
| max_depth | Komplexität der Bäume |
| min_samples_split | Verhindert Überanpassung (Overfitting) |
| min_samples_leaf | Reduziert die Varianz des Modells |
from sklearn.model_selection import RandomizedSearchCV
from scipy.stats import randint, uniform
random_param_dist = {
'n_estimators': randint(50, 500),
'max_depth': [None] + list(randint(10, 100).rvs(5)),
'min_samples_split': randint(2, 20),
'max_features': uniform(0.1, 0.9)
}
random_search = RandomizedSearchCV(
estimator=rf_model,
param_distributions=random_param_dist,
n_iter=100,
cv=5,
scoring='accuracy',
n_jobs=-1
)
random_search.fit(X_train, y_train)from sklearn.ensemble import RandomForestClassifier, GradientBoostingClassifier
from sklearn.model_selection import cross_val_score
## Voting Classifier
from sklearn.ensemble import VotingClassifier
rf_classifier = RandomForestClassifier(random_state=42)
gb_classifier = GradientBoostingClassifier(random_state=42)
voting_classifier = VotingClassifier(
estimators=[
('rf', rf_classifier),
('gb', gb_classifier)
],
voting='soft'
)
## Cross-validation
cv_scores = cross_val_score(
voting_classifier,
X_train,
y_train,
cv=5
)## Use n_jobs for parallel processing
rf_model = RandomForestClassifier(
n_estimators=100,
n_jobs=-1, ## Utilize all CPU cores
random_state=42
)| Metrik | Zweck |
|---|---|
| Genauigkeit (Accuracy) | Gesamte Modellleistung |
| Präzision (Precision) | Genauigkeit der positiven Vorhersagen |
| Recall | Fähigkeit, alle positiven Instanzen zu finden |
| F1-Score | Ausgewogene Präzision und Recall |
Durch LabEx helfen diese Optimierungstechniken, robuste und effiziente Random Forest-Modelle zu erstellen.
Indem Data Scientist das Training von Random Forest-Modellen in Python mit scikit-learn beherrschen, können sie robuste prädiktive Modelle entwickeln, die in der Lage sind, komplexe Datensätze zu verarbeiten. Dieses Tutorial behandelt die wesentlichen Techniken vom Modellinitialisierung bis zur Leistungsoberfläche und befähigt Praktiker, diesen vielseitigen Machine Learning-Algorithmus effektiv in ihren Data Science-Projekten einzusetzen.
