Debuttò a 10 anni nel ruolo femminile di Cosetta ne I Miserabili di Victor Hugo, per sostituire un’attrice indisposta. Ma il suo primo vero ruolo è quello del Tecoppa, con cui debutta nel 1951 al Teatro Alcione di Milano. In quei mesi conosce l'attrice diciassettenne Marisa Marwill (vero nome Marisa Monzelli) che sposa nel1952 e dal quale ha due figli, Barbara e Riccardo.
Nel 1957, a causa di un tragico incidente stradale, resta vedovo e dovendosi occupare da solo dei figli, decide di lavorare stabilmente a Milano, diventando il mattatore della Compagnia Stabile Milanese. La sua bravura viene notata da Giorgio Strehler che nel 1961 lo dirige in El nost Milan di Carlo Bertolazzi. Inizia l’ascesa. Mazzarella diventa la voce del teatro milanese. Insignito nel 1963 del titolo di Commendatore, inanella successi su successi dialetti enon, misurandosi anche con testi in italiano come La locandiera di Carlo Goldoni, L'uomo, la bestia e la virtù di Luigi Pirandello.
Nel 2001 dice addio al suo Tecoppa, polemizzando con gli attori della nuova generazione che definisce una massa di ignoranti e che al teatro preferiscono una qualsiasi stupidata fatta in televisione.
«Io sono un ateo, che però legge sant'Agostino e che ha grande rispetto per Dio» racconta ad Avvenire nel dicembre 2008. E l’hanno sorprende ancora portando in tournée uno spettacolo su Papa Giovanni XXIII. «La bontà è un dono di Dio, e non si può non pensare al bene quando si parla di Giovanni XXIII» racconta alla collega Calvini. « Mi è sempre piaciuta la gente che lavora, le origini contadine, le persone semplici e pulite. Quella gente della sua terra bergamasca la conosco bene, e così era lui». Mazzarella ha scritto l'introduzione e il finale del testo per una sorta di affinità interiore con il Papa Buono. «Io non so bene che vuol dire pregare, ma anche io prego in un certo modo la sera, un attimo prima di andare a letto. Seduto fra i ricordi di 65 anni di teatro, sono solo. Faccio un esame di coscienza sulla mia giornata, e vado a dormire tranquillo. Tutti dovremmo riflettere di più su noi stessi».
Domani, al Piccolo Teatro Grassi di via Rovello, a Milano, ci sarà la camera ardente per Piero Mazzarella che resterà aperta fino alle 17. Ad accogliere il feretro, alle 12, saranno le autorità cittadine e il direttore del Piccolo, Sergio Escobar. Alle 16,30 Andrée Ruth Shammah saluterà l'amico artista a nome di tutto il teatro italiano.