La storia si può far risalire alla nascita dell'Opera dei mendicanti, eretta nel 1560 per breve di Pio IV e col favore del cardinale Carlo Borromeo, in quel tempo Legato a Bologna; scopo dell'istituzione era di alleviare, accanto all'impegno delle tante altre opere presenti a Bologna fin dall'età medioevale, la misera condizione nella quale si trovava all'epoca tanta parte della popolazione bolognese, costretta a chiedere la carità per poter sopravvivere. Così, attraverso l'Opera tutte le componenti sociali e religiose presenti in città, poterono offrire il proprio specifico contribuito. Essa non si prese cura soltanto di adulti privi di mezzi, ma anche degli orfani, per i quali si iniziarono a creare strutture nell'allora parrocchia dei Santi Leonardo e Orsola (la chiesa, posta tra via S. Vitale e vicolo Bolognetti, è tutt'oggi esistente ma sconsacrata e adibita a teatro). Vennero acquistate case e terreni per alloggiare i bambini, mentre le Arti provvedevano alla loro istruzione professionale. Per offrire ai fanciulli anche la necessaria assistenza religiosa venne costruita una cappella, presto divenuta piccola, visto il gran numero degli orfani assistiti. Ecco che furono le stese autorità cittadine a desiderare un nuovo, decoroso luogo di culto volto a questo scopo, e si stabilì, nel 1600 la costruzione di un nuovo edificio: l'attuale chiesa di S. Maria della Pietà, eretta poi a chiesa parrocchiale dal cardinale Carlo Opizzoni nel 1816.

Dal punto di vista artistico la chiesa ha pagato duramente lo scotto delle soppressioni e razzie napoleoniche del 1796: le prestigiose tele che ornavano le cappelle delle corporazioni delle Arti e Mestieri e la pala d'altare dipinta da Guido Reni, furono inviate a Parigi, e sostituiti solo nel 1820 con le attuali opere, di più modesta fattura, al tempo collocate in altre chiese bolognesi soppresse; tra esse sono i sei dipinti di Giovanni Antonio Fiumani, provenienti dalla chiesa di Santa Lucia, anch'essa soppressa. La pala d'altare, opera di un Guido Reni ormai all'apice della sua notorietà, tornò a Bologna dopo alcuni decenni, come anche la tela col la chiamata di S. Matteo di Ludovico Carracci, ma entrambe vennero collocate nella pinacoteca nazionale, dove si trovano tuttora, mentre nella chiesa di S. Maria della Pietà venne posta una copia della "Pietà" del Reni, di ottima fattura, realizzata nel 1841 da Clemente Albèri. In piena sintonia con i canoni della Controriforma la pala sintetizza origini e finalità per le quali venne eretta la stessa chiesa. L'Opera infatti è posta sotto la tutela della Vergine e dei Santi protettori della città: Petronio, Domenico, Francesco e Procolo, i quali fanno corona a S. Carlo Borromeo, scomparso da un trentennio ma già all'onore degli altari come simbolo della santità pastorale della Chiesa post-tridentina. Ai piedi dei santi è posta la città nei suoi elementi più significativi: le mura altomedioevali, le torri e la Cattedrale.