Cloudflare Clef: i modelli decisionali open source per gli agenti AI

Cloudflare ha presentato Clef e Clef-flash, i suoi primi modelli open source pensati per prendere decisioni, non per scrivere testo. Sono già disponibili su Workers AI e su Hugging Face con licenza Apache 2.0, e arrivano insieme a una piattaforma di fine-tuning con reinforcement learning. Se sviluppi agenti AI, è una notizia che riguarda direttamente il modo in cui progetterai i tuoi flussi di lavoro.

La mossa è interessante perché sposta l’attenzione da ciò che un modello sa dire a ciò che sa scegliere, in modo rapido, economico e ripetibile. Vediamo cosa è stato annunciato, come funziona e perché potrebbe cambiare l’architettura degli agenti.

Cosa sono Clef e Clef-flash

Secondo l’annuncio sul blog ufficiale di Cloudflare, Clef è una famiglia di modelli decisionali open source. Il modello principale si basa su una rete da 27 miliardi di parametri della famiglia Qwen, mentre Clef-flash parte da una versione da 9 miliardi. Entrambi supportano una finestra di contesto da 64mila token e hanno un encoder visivo, quindi possono classificare anche immagini e non solo testo.

La differenza rispetto a un modello linguistico tradizionale sta nell’output. Invece di produrre una risposta discorsiva, un modello decisionale restituisce un risultato strutturato e limitato, con probabilità tipizzate associate alle opzioni possibili. In pratica, gli chiedi se un messaggio è spam, se una richiesta va inoltrata a un operatore umano o se un’immagine rispetta una policy, e ottieni una scelta con il relativo grado di confidenza.

Questo formato è molto più comodo da integrare in un workflow automatico, perché non devi interpretare un paragrafo di testo né sperare che il modello rispetti uno schema.

Perché Cloudflare punta su due taglie

Avere due modelli serve a coprire esigenze diverse. Clef è la scelta quando vuoi la massima accuratezza su compiti più sfumati, mentre Clef-flash è pensato per le situazioni in cui la latenza conta più di tutto. Cloudflare dichiara una latenza mediana di circa 209 millisecondi per Clef e di circa 39 millisecondi per Clef-flash, contro i circa 524 millisecondi di Jev, il modello concorrente usato come termine di paragone. Sono numeri dichiarati dall’azienda sul proprio benchmark, quindi vanno letti come un’indicazione e verificati con i tuoi carichi reali.

Sempre secondo Cloudflare, Clef guida la classifica del Jev Decision Index e i due modelli restano competitivi su 43 benchmark di valutazione. A differenza di Jev, inoltre, gestiscono anche l’input visivo.

Perché i modelli decisionali contano per gli agenti

Un agente AI, anche semplice, passa gran parte del tempo a prendere piccole decisioni: quale strumento chiamare, se una risposta è sufficiente, se un’azione è sicura, se un contenuto va filtrato. Affidare ognuna di queste micro-scelte a un grande modello generativo è costoso e lento, oltre che poco prevedibile, perché lo stesso input può portare a risposte leggermente diverse.

Un modello decisionale dedicato taglia questi costi e rende il comportamento più deterministico. Puoi tenere il modello grande per ragionare e pianificare, e delegare a Clef i passaggi in cui serve solo una classificazione affidabile.

È la stessa direzione che stiamo osservando in queste settimane. Perplexity ha lanciato la sua Decisions API basata su un modello di decisione con probabilità, mentre Inception ha affiancato ai suoi modelli vocali anche un approccio simile, come ti abbiamo raccontato parlando di Mercury Voice e dei modelli a diffusione per agenti vocali. Il fatto che tre aziende molto diverse arrivino a una soluzione analoga nello stesso periodo suggerisce che il livello decisionale stia diventando una componente standard dello stack degli agenti.

La differenza di Cloudflare è l’apertura. Con pesi pubblici e licenza permissiva, puoi scaricare i modelli, eseguirli sulla tua infrastruttura e adattarli senza dipendere da un’API chiusa.

Un vantaggio concreto per chi ha vincoli di dati

Poter eseguire il modello in autonomia è rilevante soprattutto per chi tratta dati sensibili. Se la classificazione avviene dentro il tuo perimetro, riduci i passaggi di informazioni verso fornitori esterni e semplifichi la conformità. Resta comunque da valutare con attenzione quali decisioni delegare a un sistema automatico, soprattutto quando le conseguenze ricadono sulle persone.

La piattaforma di fine-tuning con reinforcement learning

L’altra metà dell’annuncio riguarda un servizio di RL fine-tuning per personalizzare Clef su casi d’uso specifici. Al momento è accessibile tramite il team di ingegneri di Cloudflare che lavorano a stretto contatto con i clienti, ma l’obiettivo dichiarato è trasformarlo in una piattaforma self-service. Per costruirla, l’azienda userà i suoi prodotti già esistenti: AI Gateway, Workers AI e Cloudflare Containers.

L’idea è chiara: il modello base copre il caso generale, mentre l’addestramento con ricompense permette di allinearlo ai criteri della tua organizzazione, per esempio su cosa considerare un contenuto a rischio o una richiesta prioritaria.

Non sono stati comunicati prezzi nell’annuncio, quindi per ora non è possibile stimare il costo reale dell’inferenza o del fine-tuning. È un dato da attendere prima di fare confronti seri con le alternative.

Il contesto: Cloudflare e l’infrastruttura per agenti

Clef non arriva da solo. Cloudflare ha già presentato Artifacts, un archivio versionato che parla il protocollo Git pensato per gli agenti, e ha costruito l’infrastruttura di esecuzione su Workers e Durable Objects. Il quadro è quello di una piattaforma che vuole offrire tutti i mattoni per far girare agenti vicino all’utente: calcolo, archiviazione, controllo degli accessi e ora anche il livello decisionale.

Per un’azienda che già usa la rete di Cloudflare, il vantaggio è la vicinanza tra i componenti, con meno latenza e meno integrazioni da gestire.

Anche la sicurezza degli agenti è un tema sempre più centrale. Ne abbiamo parlato di recente a proposito dei nuovi controlli di macOS sull’accesso completo al disco per gli agenti AI, un segnale di quanto i produttori di piattaforme stiano cercando di mettere dei paletti a software che agiscono in autonomia. Un modello decisionale veloce può diventare proprio il filtro che valuta, prima dell’esecuzione, se un’azione proposta da un agente sia accettabile.

Cosa cambia per te

Se sei uno sviluppatore, il primo passo è semplice: prova Clef-flash su un compito di classificazione che oggi affidi a un modello generativo e confronta latenza, costo e stabilità delle risposte. Se il risultato è all’altezza, potresti alleggerire in modo significativo la tua pipeline.

Se lavori in ambito SEO e marketing, i modelli decisionali sono utili per smistare lead, moderare commenti, etichettare contenuti o decidere quali pagine meritano un intervento, tutte attività ripetitive in cui la coerenza conta più della creatività.

Ci sono però alcune cautele da tenere a mente. I benchmark sono forniti dall’azienda stessa e riguardano valutazioni scelte da lei, quindi servono test indipendenti. Inoltre una probabilità restituita da un modello non è una garanzia di correttezza: va calibrata e monitorata nel tempo, soprattutto se alimenta decisioni automatiche con effetti reali.

Infine, la scelta di basarsi su modelli Qwen ricorda quanto l’ecosistema open si regga su pochi modelli di base di provenienza diversa, un aspetto da considerare nella tua valutazione dei rischi di filiera.

Conclusioni

Clef e Clef-flash raccontano un cambio di prospettiva: non tutto richiede un modello gigante che scrive, a volte serve un modello piccolo, veloce e aperto che sceglie bene. Con pesi disponibili, licenza Apache 2.0 e un percorso di fine-tuning in arrivo, Cloudflare si inserisce in modo credibile in una categoria che si sta affollando rapidamente.

Il mio consiglio è di sperimentare subito su un caso reale e di misurare i risultati con i tuoi dati. Se vuoi restare aggiornato su queste novità, continua a seguire le notizie di Intelligenza Artificiale.net, dove trovi ogni giorno analisi originali sul mondo AI.