Le presbytère et l'église font partie du noyau institutionnel et paroissial, c’est-à-dire d’un centre qui regroupe souvent l’école, le couvent, et la salle paroissiale. Le presbytère est donc facilement identifiable dans le paysage urbain d’une communauté.
Le presbytère Saint-Alphonse a été construit en 1900 au coût de 6650$, sous l’impulsion du curé Joseph Georges Goudreau. Le bâtiment a été érigé sur le site de l’ancienne chapelle Saint-Alphonse, situé sur le lot 26 du rang V du canton de Thetford. L’endroit avait été cédé le 4 novembre 1886 par les frères King. Ce lot, libre de droits miniers, allait former dans la ville un îlot privilégié qui ne serait jamais touché par les déménagements. Il faut noter qu’à l’époque, les compagnies minières possèdent la majorité des lots et surtout les droits sur le sous-sol.
Le centre décisionnel de la paroisse
Le rôle premier du presbytère était de servir d’habitation au représentant de l’église. Le curé devait vivre parmi ses fidèles. Personnage important de la communauté, ce dernier se devait d’être facile d’approche en tout temps. Chaque fabrique devait donc mettre à la disposition du curé une maison. Habituellement situé à côté de l’église l’endroit pouvait regrouper sous un même toit quantité de personnes, tels que le curé, des vicaires, des servantes et autres personnes dévouées au service de l’église et des paroissiens. Le presbytère constituait le centre décisionnel de la paroisse et le lieu administratif du culte. Élément important de l’organisation religieuse, la construction du presbytère devait répondre aux besoins des fidèles qui voyaient en lui l’autorité du curé et son pouvoir.
La valeur patrimoniale du presbytère repose à la fois sur son intérêt architectural et son importance dans la trame urbaine de la rue commerciale. Le presbytère Saint-Alphonse est représentatif des maisons curiales construites au début du 20e siècle. Le bâtiment s’élève sur 2 étages. Il est coiffé d’un toit à plusieurs versants, avec pavillon, surmonté d’une tourelle avec mât de drapeau, recouvert de tôle à la canadienne. Certaines portions du toit sont recouvertes de tôle à baguettes. On note également l’encadrement et le couronnement des ouvertures. La monumentalité du presbytère rappelle l’importance du curé au sein de l’organisation sociale et la prédominance de l’église catholique au Québec au début du 20e siècle.
À l’époque, c’est le curé et les syndics ou les marguilliers qui prennent en charge la construction du presbytère. Les décisions prises concernent surtout le choix du site, l’administration des coûts ainsi que le choix des concepteurs. Toutefois, le pouvoir de décision quant à l’approbation des plans et la construction finale du bâtiment revient à l’évêque. D’ailleurs, à l’aide des lois ecclésiastiques, celui-ci protège les paroissiens d’un curé à la recherche d’un confort excessif et inapproprié au budget de la paroisse. À l’époque, le presbytère était habituellement érigé à l’aide de dons ou d’activités bénéfiques.
Enfin, une des caractéristiques à retenir des presbytères du début du 20e siècle est le nombre important de pièces à l’intérieur. Cet espace était surtout utilisé lors des visites de prêtres et parfois, lors de la période annuelle dite des « quarante heures », alors que le curé recevait ses confrères pour partager dévotions et repas. Aujourd'hui, le presbytère Saint-Alphonse sert de centre administratif pour la paroisse Saint-Alexandre, qui regroupe les églises Sainte-Marthe et Saint-Alphonse.