Patriota. Ebreo, la famiglia aveva goduto di alcuni privilegi già prima della Rivoluzione francese. Un suo esponente, Moisé, nel 1774 era stato nominato «famigliare» del cardinal Albani, decano del Sacro Collegio. Durante il periodo napoleonico suo padre, Lazzaro, fu ufficiale della locale Guardia nazionale, e conservò la buona posizione sociale anche sotto il restaurato governo pontificio.

Lazzaro fu però implicato nei moti del 1821. Tarsferitisi a Bologna, i Carpi erano segnalati come gravemente avversi al regime anche perché ebrei, ma non si faceva cenno di una loro partecipazione ai moti o all'organizzazione cospirativa. Leone partecipò ai moti del 1848. All'inizio del 1849 fu eletto a Bologna alla Costituente romana, ai cui lavori prese poi parte attiva, occupandosi anche dei gravi problemi finanziari del governo rivoluzionario.

Dopo la caduta della Repubblica soggiornò negli anni successivi oltre che in Inghilterra anche in Francia, in Belgio e in Spagna, e si stabilì infine con la famiglia in Piemonte, dove poté frequentare i maggiori esponenti dell'emigrazione, tra i quali Luigi Carlo Farini, che a Bologna si serviva dei Carpi per i suoi interessi finanziari. Dedicò molti studi allo sviluppo dell'agricoltura e ai problemi del suo finanziamento, occupandosi a lungo delle questioni relative alla creazione del credito agrario e delle casse di risparmio.

Negli anni Settanta e Ottanta partecipò attivamente al dibattito sullo sviluppo economico del paese e alla polemica tra liberisti e protezionisti, sostenendo con forza le ragioni di alte tariffe a difesa dell'industria italiana. Una sua opera molto importante è l'Italia vivente. Studi sociali (1878), disamina critica delle élite italiane del tempo.