La tradizione vuole che, dopo la predicazione di S. Bernardino da Siena, la residenza fortificata dei Suardi, posta sulla sommità del colle, fosse trasformata in chiesa, forse già dal 1415. Sappiamo però che nel 1455 la Repubblica di Venezia ordinava di demolire tutte le fortificazioni private e può essere questa una delle ragioni per cui si pensò alla modificazione.
Osservando il luogo dove è ubicata la costruzione, sono tuttora visibili gli avvallamenti che servivano da difesa, raro esempio ancora riscontrabile.
Nel 1445 in un antico stradario di Nembro era indicata la strada al castello, confermandone l’esistenza.
La chiesetta era di proprietà del Consorzio della Misericordia Maggiore (MIA), così come la chiesa di S. Sebastiano, ma lo scarso utilizzo e il continuo abbandono portarono la MIA a cederla alla Parrocchia di S. Martino nel 1891.
Il suo ruolo non cambierà, perché rimarrà ai margini della vita della comunità, anche se l’amenità del posto e il silenzio che la circonda possono essere da stimolo per momenti di più intima meditazione.
Attualmente vi si celebra il 29 giugno, come anticamente si era soliti fare, la festa dei SS. Pietro e Paolo. In passato era a volte utilizzata durante le Rogazioni.