Il Santuario sorge a 744 metri di altezza ed è situato nell'Appennino tosco-emiliano, nel comune di Granaglione, tra il verde dei boschi e dei castagneti. In un giorno non meglio precisato tra il 1521 e il 1550 don Simone, percorrendo la mulattiera che congiunge Granaglione a Boschi, fu colto dalla pioggia e trovò riparo sotto un masso che sporgeva dalla montagna. Cessata la pioggia e ripreso il cammino, il masso che aveva fornito riparo al sacerdote si staccò, rovinando in strada. Grato alla Madonna per il pericolo scampato, fece dipingere sul sasso un'immagine della Vergine con il Bambino in braccio. La devozione a quell'immagine crebbe nel tempo, tanto che gli abitanti di Granaglione, nel 1630, colpiti dalla peste, si recarono scalzi e penitenti in pellegrinaggio alla "Madonna di don Simone" per chiedere la grazia di essere liberati dal morbo che aveva mietuto numerose vittime. Come voto venne costruito un piccolo oratorio, dedicato alla Madonna della neve, in cui il masso che conteneva il dipinto fungeva da parete di fondo dell'edificio e l'immagine risultava così la pala dell'altare. Nel 1634 iniziò a diffondersi la notizia che a Calvigi avvenivano guarigioni miracolose e il luogo iniziò a richiamare pellegrini dai paesi e dalle montagne circostanti. La Curia Arcivescovile di Bologna ordinò la temporanea chiusura dell'oratorio, in attesa di verificare i fatti riguardanti le numerose grazie elargite dalla Madonna. Ventidue testimoni furono ascoltati e la Curia diede infine l'autorizzazione per riaprire il luogo. Da quell'anno la chiesetta sperduta fra i monti cominciò a vivere come "Santuario della Madonna di Calvigi". Nel 1635 il vecchio oratorio fu demolito e venne costruito un edificio più capiente, le cui dimensioni ricalcavano l'attuale navata centrale della chiesa. Nel 1781 furono eseguiti nuovi lavori di ampliamento: nel soffitto si tolsero le capriate in legno e fu modificato a volta innalzandolo di quattro metri. La chiesa aveva tre altari, il maggiore era sovrastato da una pala raffigurante l'Incoronazione della Madonna con i Santi Nicola da Tolentino e Agostino. Al centro del dipinto vi era un'apertura che consentiva di vedere la pittura della Vergine con il Bambino posta sul masso. Nel 1825 fu aggiunto il campanile, arricchito nel 1833 da un terzo di campane fuse da Serafino Golfieri. Nel 1836 l'interno del Santuario, le ancone e gli altari furono ornati a colori dal pittore bolognese Camillo Veronesi. Nel 1900 il santuario subì l'ultima ristrutturazione di una certa importanza: venne costruita l'abside affinché l'immagine della Madonna potesse essere custodita all'interno del Santuario. Venne così sfondata la roccia per un'altezza di 20 metri. Tutti lavorarono gratuitamente, dal progettista al capomastro agli abitanti di Granaglione, che trasportarono acqua e materiale per la costruzione della nuova chiesa, inaugurata il 15 luglio 1903.