Era conosciuto con il soprannome di Sor Carletto e proprio a Cagliari è sempre stato ricordato con particolare affetto, grazie al sesto posto del campionato 1992-1993 e la conseguente storica qualificazione alla Coppa Uefa che gli fruttò la chiamata alla Roma. Dopo tre anni nella Capitale dove lanciò in prima squadra un certo Francesco Totti, il ritorno a Cagliari, dove purtroppo non bissò i successi della precedente gestione. Infatti, la squadra sarda, dopo una spareggio con il Piacenza conobbe la retrocessione in serie B.
Napoli, Bologna, Perugia le altre tappe della sua carriera e poi Brescia e il bellissimo rapporto con Roberto Baggio che firmò il contratto solo a condizione che sulla panchina ci fosse proprio Mazzone. Indimenticabile la corsa con l’urlo “li mortacci vostra”, rivolta alla curva nei tifosi dell’Atalanta, dopo il rocambolesco pareggio 3 a 3 allo scadere.
Certamente un allenatore d’altri tempi, schietto e sincero con una propensione per il lavoro più nella provincia calcistica piuttosto che nelle grandi metropoli, con la scelta di andare a vivere ad Ascoli, città alla quale rimarrà sempre legato , anche per aver conquistato la prima storica promozione nella massima serie. A lui verrà intitolata nel 2019 la tribuna Est dello Stadio Cino di Ascoli.
Ricordato anche per il grande rapporto con i giocatori, considerati spesso come figli da sor Carletto. Tante le scoperte fatte da Mazzone: Il già citato Totti, Guardiola, Toni, Materazzi, Pirlo e tanti altri.
Particolare anche il suo rapporto con Pep Gurdiola, che ha dichiarato spesso di essersi ispirato a molte delle caratteristiche di Mazzone, invitandolo tra l’altro alla finale di Champions League Barcellona – Manchester Utd.
L’allenatore che ha attraversato oltre 60 anni di calcio italiano, è ancora oggi l’attuale detentore del record di panchine in Serie A con ben 792 partite.