La multiplication des évêques protestant contre la constitution civile, la position du pape et les hésitations du roi avaient décidé l'assemblée à demander la prestation de ce serment. Le décret voté, il manquait la sanction du roi qu'il donna à contre coeur le 26 décembre 1790.
Le clergé avait huit jours pour prêter serment. Le 4 janvier 1791 seulement 105 députés ecclésiastiques avaient prêté le serment. La quasi totalité des évêques et les deux tiers des curés députés - hier sincèrement dévoués à la révolution et disposés à accepter la constitution civile - refusent de prêter le serment. Beaucoup d'entre eux furent sensibles à la pression exercée sur eux depuis les tribunes et jurèrent mais, par la suite, avec les rétractions il n'y eut au total que 99 jureurs à l'Assemblée.
La journée du serment national de tous les autres ecclésiastiques, prévue le dimanche 9 janvier 1791, s'annonçait donc mal. Les évêques refusèrent de prêter serment (excepté 4 d'entre eux Talleyrand, Loménie de Brienne, Jarente et Lafont de Savine). Une petite moitié seulement des curés jurèrent mais pour se rétracter en partie lorsque Pie VI eut fait paraître la condamnation prononcée contre la constitution civile.
Le clergé était coupé en deux. La proportion des prêtres jureurs varient selon les régions de 8% dans le Bas Rhin à 96% dans le Var mais les non-jureurs furent en définitive les plus nombreux.

Le refus de jurer nécessitait donc un remplacement des ecclésiastiques "réfractaires", 80 sièges épiscopaux et 20000 cures furent ainsi soumis à élection. Les évêques furent élus entre février et mai 1791; parmi eux 19 curés de l'assemblée dont Grégoire. La participation à ces élections fut très faible et essentiellement laïque. Talleyrand sacra les trois premiers évêques de la nouvelle église le 20 février 1791. Les élections des curés furent plus mouvementés, les paroisses refusaient le départ de leur curés réfractaires, les candidats étaient peu nombreux et, de plus, nombre d'entre eux refusaient leur poste après l'élection. La condamnation du pape Pie VI arriva avec ses brefs de mars et avril 1791 dans lesquels il déclarait la constitution civile comme schismatique. Louis XVI, catholique sincère, en fut choqué car il se sentait responsable d'avoir donné sa sanction à cette loi.
Par la suite, la guerre que se livrèrent les deux clergés et leurs partisans respectifs fut beaucoup plus grave. Le clergé non-jureur refusait de laisser la place au clergé jureur. S'il y eut peu de conflit au niveau des évêques, beaucoup des partants ayant émigré, au niveau des paroisses il y eut des affrontements entre les deux partis. La paix publique était menacée. La révolution également était menacée car elle heurtait l'un des sentiments populaires les plus ancrés au niveau du peuple : le sentiment catholique.