Figlio di un piccolo affittuario, ricevette da uno zio un'affrettata e modestissima istruzione, che lo mise in grado di leggere e scrivere stentatamente. Nondimeno egli attribuì, nell'autobiografia, a questa modesta istruzione l'origine della sua «smisurata tendenza a voler prevalere, a voler essere qualche cosa, sia pure un grande infame».

Come pastore e come contadino il Crocco lavorò dall'età di sei anni in diverse masserie della Puglia e della Basilicata, finché, nel marzo 1849, fu chiamato alle armi: da Napoli seguì il suo reggimento di artiglieria in Sicilia, per partecipare alla repressione del moto separatista e poi, nel dicembre 1851, a Gaeta, dove disertò poco dopo, con il grado di caporale.

Tornato nella sua terra e datosi alla macchia, iniziò la carriera banditesca commettendo una serie di rapine nel corso del 1852 e del 1853; catturato e condannato a diciannove anni di ferri dalla gran Corte criminale di Potenza (13 ottobre 1855), evase dal bagno penale di Brindisi, nel dicembre 1859, e ricominciò a ladroneggiare.

Dopo il 1860 si mise alla testa di bande borboniche, che operarono in Basilicata, in Puglia e nell'Agro di Foggia. Nel 1861 occupò Venosa, dove le sue truppe si accanirono in particolare contro la famiglia di Francesco Saverio Nitti. Suo nonno, Francesco Saverio, medico liberale e molto vecchio, fu trucidato. Di fronte all'intensificarsi dell'azione repressiva Crocco passò nello Stato pontificio (1864) e finì i suoi giorni nel bagno penale di Portoferraio. Lasciò interessanti memorie sui proprî scontri contro le truppe regolari (pubblicate nel 1903 e di nuovo 1964).