Alberi decisionali e Random Forest: cosa sono, come funzionano e quando usarli

Ogni volta che una banca valuta se concederti un prestito, che una piattaforma ti suggerisce il prossimo film o che un sistema clinico segnala un esame da approfondire, dietro le quinte lavora spesso un modello che ragiona per domande successive.

Gli alberi decisionali sono uno degli strumenti più intuitivi e diffusi del machine learning proprio perché imitano un modo di ragionare che conosci già: scomporre un problema complesso in una sequenza di scelte semplici.

Quando poi metti insieme tanti alberi ottieni il Random Forest, la foresta casuale, uno degli algoritmi più affidabili e usati della storia recente dell’intelligenza artificiale.

In questa guida capirai davvero come funzionano gli alberi decisionali e il Random Forest, quali sono i loro punti di forza, dove nascondono le insidie e come scegliere l’uno o l’altro a seconda del problema che hai davanti.

Cosa sono gli alberi decisionali

Un albero decisionale è un modello di apprendimento automatico che prende una decisione applicando una serie di domande in cascata sui dati. Immagina di dover capire se una mail è spam oppure no.

Potresti chiederti: contiene la parola “vinci”? Se sì, arriva da un mittente sconosciuto? Se sì, ha molti link? Ogni risposta ti porta lungo un ramo diverso, fino a una conclusione.

Un albero decisionale fa esattamente questo, ma sceglie da solo le domande giuste analizzando i dati che gli fornisci.

Il fascino di questo algoritmo sta nella sua trasparenza. A differenza di molti modelli più complessi, un albero decisionale non è una scatola nera: puoi seguirne il ragionamento passo dopo passo, dalla prima domanda fino alla risposta finale. È questo il motivo per cui viene apprezzato in settori dove serve poter spiegare una decisione, come la finanza o la sanità.

Gli alberi decisionali appartengono alla famiglia dell’apprendimento supervisionato. Questo significa che imparano da esempi già etichettati, dove per ogni caso conosci già la risposta corretta. Se vuoi approfondire questa distinzione fondamentale puoi leggere la guida su apprendimento supervisionato e non supervisionato, che chiarisce quando conviene usare l’uno o l’altro approccio.

Come è fatto un albero decisionale: nodi, rami e foglie

La struttura di un albero decisionale ricalca, capovolta, quella di un albero vero. In cima trovi il nodo radice, cioè la prima domanda che il modello pone a tutti i dati in ingresso. Da lì partono i rami, ognuno corrispondente a una possibile risposta.

I nodi interni sono le domande successive, mentre le foglie, in fondo, contengono la decisione finale: una categoria se stai classificando qualcosa, oppure un valore numerico se stai facendo una previsione quantitativa.

Ogni percorso dalla radice a una foglia è una regola leggibile. Puoi tradurlo in una frase del tipo: se il reddito è superiore a una certa soglia e l’età è sotto un certo valore, allora il cliente rientra in una determinata fascia di rischio.

Questa leggibilità è una delle ragioni per cui gli alberi restano popolari anche in un panorama dominato da modelli molto più grandi.

Un albero può occuparsi di due tipi di compiti. Nella classificazione assegna ogni caso a una categoria, per esempio spam o non spam, cliente affidabile o a rischio. Nella regressione, invece, produce un numero, come il prezzo stimato di una casa o il consumo previsto di energia.

Come l’albero sceglie le domande giuste

Qui sta il cuore dell’algoritmo. Un albero decisionale non riceve le domande dall’esterno: le trova da solo, cercando a ogni passo la divisione dei dati che rende i gruppi risultanti il più possibile omogenei. L’obiettivo è separare bene le classi, in modo che dopo ogni domanda i dati siano più “puri” di prima.

Per misurare questa purezza si usano indici matematici. I due più diffusi sono l’indice di Gini e l’entropia, un concetto preso dalla teoria dell’informazione. In entrambi i casi il principio è lo stesso: un gruppo è puro quando contiene quasi solo elementi della stessa classe, ed è impuro quando le classi sono mescolate in parti uguali.

L’algoritmo calcola quanto guadagna in purezza per ogni possibile domanda e sceglie quella che offre il miglioramento maggiore, il cosiddetto guadagno di informazione. Poi ripete il procedimento su ciascun ramo, in modo ricorsivo, finché non raggiunge un criterio di stop.

È un processo avido, nel senso tecnico del termine: a ogni passo prende la decisione migliore sul momento, senza preoccuparsi se una scelta diversa oggi porterebbe a un albero complessivamente migliore domani. Questa strategia rende il modello veloce da costruire, ma introduce anche alcuni limiti di cui parleremo più avanti.

Come avviene l’addestramento di un albero decisionale

Addestrare un albero decisionale significa costruirlo a partire dai dati. Il modello parte dall’intero insieme di esempi nel nodo radice, valuta tutte le possibili domande su tutte le variabili disponibili e sceglie quella che divide meglio i dati secondo l’indice di purezza scelto.

Fatta la prima divisione, i dati si separano in sottogruppi che finiscono nei rami. Su ognuno di questi sottogruppi l’algoritmo ripete lo stesso ragionamento, cercando la nuova domanda migliore. Il procedimento continua ramo dopo ramo, come una serie di zoom sempre più fini sul problema.

Questa ripetizione si chiama partizionamento ricorsivo. In teoria potrebbe andare avanti finché ogni foglia contiene un solo esempio, ma un albero così sarebbe inutile nella pratica.

Il motivo è semplice e riguarda uno dei concetti più importanti di tutta la disciplina: il rischio di adattarsi troppo ai dati di addestramento.

Overfitting e potatura dell’albero

Un albero lasciato crescere senza limiti impara a memoria i dati con cui è stato addestrato, comprese le loro imperfezioni e il rumore casuale. Il risultato è un modello che sembra perfetto sui dati già visti, ma che sbaglia clamorosamente appena incontra casi nuovi.

Questo fenomeno si chiama overfitting, cioè sovradattamento, ed è il nemico numero uno di chi lavora con questi modelli.

Per contrastarlo si usa la potatura, in inglese pruning. L’idea è tagliare i rami che aggiungono complessità senza migliorare davvero la capacità di generalizzare. Un albero più piccolo e più semplice spesso funziona meglio di uno enorme e contorto.

Ci sono due modi principali di potare. La pre-potatura ferma la crescita in anticipo, per esempio imponendo una profondità massima o un numero minimo di esempi per foglia. La post-potatura, invece, lascia crescere l’albero e poi rimuove i rami meno utili valutandone l’effetto su dati di controllo.

Trovare il giusto equilibrio tra un albero troppo semplice, che ignora informazioni importanti, e uno troppo complesso, che si perde nei dettagli irrilevanti, è una delle competenze più preziose nella costruzione di questi modelli.

I limiti degli alberi decisionali singoli

Gli alberi decisionali hanno un difetto strutturale che ne limita l’affidabilità quando vengono usati da soli: sono instabili. Basta cambiare pochi esempi nei dati di addestramento perché l’albero risultante sia completamente diverso, con domande e strutture che non hanno più nulla in comune con quello precedente.

Questa sensibilità li rende modelli ad alta varianza. In pratica, tendono a fidarsi troppo delle particolarità del campione che hanno visto, e questo si traduce in previsioni poco robuste quando arrivano dati nuovi.

C’è poi la tendenza già citata all’overfitting, difficile da domare del tutto anche con la potatura. E in alcuni casi gli alberi possono mostrare un pregiudizio verso le variabili che presentano molti valori diversi, favorendole nelle divisioni anche quando non sono davvero le più informative.

Nessuno di questi problemi rende gli alberi inutili. Anzi, restano preziosi quando la priorità è capire il ragionamento del modello. Ma spiegano perché, per ottenere previsioni accurate e stabili, i ricercatori hanno cercato un modo per superarne i limiti. La risposta è arrivata da un’idea tanto elegante quanto potente: invece di fidarsi di un solo albero, costruirne tanti e farli votare.

Dagli alberi alla foresta: cos’è il Random Forest

Il Random Forest, letteralmente foresta casuale, è un modello che combina le previsioni di molti alberi decisionali per arrivare a una decisione finale più affidabile di quella di ciascun albero preso singolarmente. È l’esempio più famoso di quella che si chiama tecnica di insieme, o ensemble.

L’intuizione alla base è la stessa che regola la saggezza della folla. Se chiedi a una sola persona di indovinare quante caramelle ci sono in un barattolo, la sua risposta può essere molto sbagliata. Ma se lo chiedi a mille persone e fai la media, il risultato è sorprendentemente vicino alla verità, perché gli errori individuali tendono a compensarsi.

Il Random Forest applica esattamente questo principio agli alberi decisionali. Ogni albero da solo commette errori, ma se gli alberi sono abbastanza diversi tra loro i loro errori non coincidono, e mettendoli insieme la maggior parte degli sbagli si cancella a vicenda.

La domanda cruciale, allora, diventa una sola: come si fa a costruire tanti alberi abbastanza diversi partendo dagli stessi dati? La risposta sta in due ingredienti di casualità.

Il primo ingrediente: bagging e campioni bootstrap

Il primo trucco si chiama bagging, contrazione di bootstrap aggregating. Invece di addestrare tutti gli alberi sullo stesso identico insieme di dati, il Random Forest crea per ciascun albero un campione leggermente diverso, estratto a sorte dal dataset originale con reinserimento.

Con reinserimento significa che lo stesso esempio può comparire più volte in un campione, mentre altri esempi restano fuori. Ogni albero, quindi, vede una versione un po’ diversa della realtà e cresce in modo autonomo.

Questo basta già a rendere gli alberi diversi tra loro e a ridurre la varianza complessiva del modello. Gli esempi lasciati fuori da ogni campione, tra l’altro, offrono un bonus prezioso: possono essere usati per stimare l’accuratezza del modello senza bisogno di dati aggiuntivi, in quella che viene chiamata valutazione out-of-bag.

Il secondo ingrediente: la casualità sulle variabili

Il bagging da solo non basta. Se tutti gli alberi potessero scegliere sempre tra le stesse variabili, finirebbero per assomigliarsi troppo, perché tenderebbero a usare per prima la variabile più forte. Il Random Forest aggiunge allora un secondo strato di casualità.

A ogni divisione, ciascun albero può considerare solo un sottoinsieme casuale delle variabili disponibili, non tutte. In questo modo alberi diversi sono costretti a esplorare strade diverse e a valorizzare variabili che altrimenti resterebbero sempre in ombra.

È questa doppia dose di casualità, sui dati e sulle variabili, a dare il nome all’algoritmo e a renderlo così efficace.

Come la foresta arriva alla decisione finale

Una volta che tutti gli alberi sono stati addestrati, il Random Forest li interroga tutti insieme quando deve fare una previsione. Nei problemi di classificazione ogni albero esprime un voto per una categoria, e vince la categoria più votata, secondo il principio della maggioranza.

Nei problemi di regressione, invece, non si vota: si calcola la media dei numeri previsti da tutti gli alberi. In entrambi i casi la decisione collettiva è quasi sempre più stabile e accurata di quella di un singolo albero.

Perché il Random Forest funziona così bene

Il segreto del successo del Random Forest è la riduzione della varianza senza aumentare troppo il bias. Detto in parole semplici, la foresta conserva la capacità degli alberi di cogliere relazioni complesse nei dati, ma smussa la loro instabilità facendo la media di tante previsioni indipendenti.

Perché questo funzioni davvero, gli alberi devono essere poco correlati tra loro. Se fossero tutti uguali, mediarli non porterebbe alcun vantaggio. È proprio la casualità introdotta dal bagging e dalla selezione delle variabili a garantire quella diversità che rende la media utile.

Il risultato è un modello notevolmente robusto. Il Random Forest tollera bene i dati rumorosi, gestisce senza troppi problemi i valori mancanti, funziona sia con variabili numeriche sia con categorie e raramente soffre di overfitting grave, anche quando aumenti il numero di alberi.

C’è anche un beneficio pratico spesso sottovalutato. Analizzando quanto ogni variabile contribuisce a migliorare le divisioni in tutta la foresta, il modello può dirti quali fattori pesano di più sulle previsioni. Questa stima dell’importanza delle variabili è uno strumento prezioso per capire i tuoi dati, anche al di là della previsione in sé.

Random Forest e boosting: due modi di fare squadra

Il Random Forest non è l’unico modo di combinare tanti alberi. Esiste una seconda grande famiglia di metodi di insieme, il boosting, che segue una filosofia diversa e vale la pena conoscere per orientarsi.

Nel bagging, quello del Random Forest, gli alberi crescono in parallelo e in modo indipendente, ognuno per conto suo, e solo alla fine vengono messi insieme. Nel boosting, invece, gli alberi crescono in sequenza: ciascun nuovo albero si concentra sugli errori commessi da quelli precedenti, cercando di correggerli uno dopo l’altro.

Da questa idea nascono algoritmi molto potenti come il gradient boosting e le sue implementazioni più note, tra cui XGBoost e LightGBM, che oggi dominano molte competizioni di analisi dati con dati strutturati.

La differenza pratica è chiara. Il boosting spesso raggiunge un’accuratezza leggermente superiore, ma è più delicato da configurare e più incline all’overfitting se non lo si tiene sotto controllo. Il Random Forest è più semplice, più robusto e più difficile da sbagliare, il che lo rende una scelta eccellente come punto di partenza.

Alberi decisionali o Random Forest: quando scegliere l’uno o l’altro

La scelta tra un singolo albero decisionale e un Random Forest non è una questione di quale sia migliore in assoluto, ma di quale sia più adatto al tuo obiettivo. È un classico compromesso tra trasparenza e accuratezza.

Scegli un singolo albero decisionale quando la priorità è capire e spiegare la logica del modello. Se devi presentare a un cliente, a un medico o a un ente di controllo il motivo esatto di una decisione, un albero potato e leggibile vale più di una previsione perfetta ma opaca.

È utile anche quando vuoi una prima esplorazione veloce dei dati o quando le risorse di calcolo sono molto limitate.

Scegli un Random Forest quando conta soprattutto la qualità della previsione. Se il tuo obiettivo è ridurre gli errori e ottenere risultati stabili su dati nuovi, la foresta batte quasi sempre il singolo albero. Il prezzo da pagare è la perdita di interpretabilità immediata: non puoi più seguire un unico ragionamento, perché la decisione nasce dal voto di centinaia di alberi.

In molti progetti reali la strada più sensata è usarli insieme. Un albero singolo ti aiuta a capire i dati e a comunicare la logica di fondo, mentre un Random Forest fornisce le previsioni da mandare in produzione.

Dove si usano nella pratica

Alberi decisionali e Random Forest sono ovunque, spesso senza che tu te ne accorga. La loro versatilità li rende adatti a una quantità enorme di problemi concreti, in quasi tutti i settori.

Nella finanza sono usati per valutare il merito creditizio, cioè la probabilità che un cliente restituisca un prestito, e per individuare transazioni sospette che potrebbero indicare una frode. La loro capacità di dare peso alle variabili aiuta anche a spiegare perché una richiesta è stata accettata o respinta.

Nel settore sanitario supportano la diagnosi, stimando il rischio di una patologia a partire da esami e sintomi, e aiutano a prevedere quali pazienti hanno maggiori probabilità di complicazioni. La leggibilità degli alberi è particolarmente apprezzata quando la decisione deve essere condivisa con un professionista umano.

Nel marketing servono a prevedere l’abbandono dei clienti, il cosiddetto churn, a segmentare il pubblico e a stimare la probabilità che una persona risponda a una campagna. Sono strumenti che si integrano bene con gli altri algoritmi di machine learning usati per analizzare il comportamento degli utenti.

Li trovi ancora nella manutenzione predittiva dell’industria, dove aiutano a capire quando una macchina rischia di guastarsi, nell’agricoltura di precisione, nella logistica e in tantissime altre applicazioni in cui servono previsioni affidabili a partire da dati tabellari.

Vantaggi e svantaggi da tenere a mente

Prima di adottare questi modelli conviene avere un quadro onesto dei loro pregi e dei loro limiti, così da usarli con consapevolezza.

Tra i vantaggi principali degli alberi decisionali c’è la trasparenza, la facilità di interpretazione e la capacità di lavorare con dati di natura diversa senza troppa preparazione. Non richiedono di normalizzare le variabili e gestiscono bene sia numeri sia categorie.

Il Random Forest eredita gran parte di questi pregi e vi aggiunge accuratezza e robustezza. In cambio, però, diventa più pesante da calcolare, più lento nelle previsioni e molto meno trasparente, perché la decisione finale è distribuita tra tantissimi alberi.

Vale anche la pena ricordare che né gli alberi né le foreste sono lo strumento ideale per ogni situazione. Con dati non strutturati come immagini, audio o testo lungo, le reti neurali artificiali e i modelli di deep learning restano nettamente superiori. Gli alberi danno il meglio con i dati tabellari, quelli organizzati in righe e colonne.

Come iniziare a usarli concretamente

La buona notizia è che non devi implementare questi algoritmi da zero. Le librerie più diffuse mettono a disposizione versioni pronte, testate e ottimizzate, che puoi usare con poche righe di codice.

Nell’ecosistema Python, la libreria scikit-learn offre sia gli alberi decisionali sia il Random Forest con interfacce semplici e coerenti. Puoi addestrare un primo modello in pochi minuti e poi affinarlo regolando i parametri principali, come la profondità massima dell’albero, il numero di alberi nella foresta o il numero di variabili considerate a ogni divisione.

Il consiglio pratico è partire semplici. Costruisci prima un singolo albero, guarda come divide i dati e quali variabili ritiene importanti, poi passa a un Random Forest per migliorare le previsioni. Confronta i risultati su dati che il modello non ha mai visto, perché è solo lì che scopri se ha davvero imparato o se ha soltanto memorizzato.

Ricordati infine di curare i dati prima ancora del modello. Anche il miglior Random Forest non può compensare dati sporchi, incompleti o poco rappresentativi del problema che vuoi risolvere.

Conclusioni

Gli alberi decisionali e il Random Forest sono la dimostrazione che nell’intelligenza artificiale la potenza non nasce sempre dalla complessità, ma spesso dalla combinazione intelligente di idee semplici. Un singolo albero ti regala trasparenza e leggibilità, mentre una foresta di alberi diversi tra loro trasforma tante previsioni imperfette in una decisione robusta e accurata.

Capire questi due modelli ti dà una base solida per orientarti in tutto il resto del machine learning, perché i concetti che hai incontrato qui, dall’overfitting alla varianza, dai metodi di insieme all’importanza delle variabili, tornano praticamente ovunque.

Se vuoi continuare il tuo percorso, il passo successivo naturale è approfondire come si scelgono e si confrontano i diversi modelli a seconda del problema. Esplora le altre guide dedicate al machine learning e agli algoritmi dell’intelligenza artificiale, mettiti alla prova con un piccolo progetto pratico e inizia a costruire il tuo primo albero: è il modo migliore per trasformare la teoria in competenza reale.