Les évêques ont un chapeau de sinople (couleur héraldique verte) accompagné d'une cordelière à six houppes de même nature.

L'écu est posé sur une croix de procession à une traverse. Cette croix sans corpus représente le coeur de l'Évangile : le Christ est mort pour nous, mais Dieu l'a ressuscité. L'écu est composé de trois formes rappelant la Trinité.

L'étoile dorée est présente sur le drapeau national de l'Acadie et elle représente sainte Marie, l'Étoile de la mer (Stella maris) qui guide les marins à bon port, mais aussi l'humanité vers le Christ. La Vierge de l'Assomption est la sainte patronne du diocèse de Bathurst.

Le blason semé de fleurs de lys, à deux crosses passées en sautoir, représente l'Ordre des Chanoines Réguliers de Prémontré auquel appartient Mgr Proulx. Il s'agit d'un ordre canonial fondé par saint Norbert au début du XIIe siècle. La désignation « o. praem. », apposée à la suite du nom des religieux prémontrés, est l'abréviation latine de « Ordinis praemontratensis » se traduisant tout simplement par « de l'Ordre de Prémontré ».

Le bleu qui prédomine est à la fois la couleur mariale et la couleur de l'Ordre de Prémontré.

La Bible, que l'Évêque affectionne particulièrement, rappelle sa longue carrière de professeur d'exégèse. Le cierge évoque les paroles du Psaume 118, 105 « Ta parole est la lumière de mes pas, la lampe de ma route. »

La devise en latin, « Sub Lumine Verbi », signifie « À la lumière de la Parole ». Mgr Proulx souhaite que tout son ministère épiscopal soit inspiré et éclairé par la parole de Dieu.