Ernst was van 1967 tot 1992 bisschop van Breda. Bij het bereiken van de 75-jarige leeftijd bood hij zijn ontslag aan. Paus Johannes Paulus II aanvaardde het ontslag, maar benoemde hem tot apostolisch administrator. In die functie bestuurde Ernst het bisdom tot 26 november 1994 toen bisschop Muskens hem opvolgde.

'Geest was sterk'
"In zijn nuchtere geloof en zijn toewijding aan zijn opdracht heeft Ernst veel betekend voor velen", laat de huidige bisschop van Breda, Jan Liesen, in een reactie weten. "Zijn gezondheid was broos, maar zijn geest was sterk. Bij zijn 75-jarig priesterschap in 2016 was hij nauwelijks nog mobiel, maar hij wilde heel graag de eucharistie meevieren."

De KRO interviewde bisschop Ernst in 2011, 70 jaar na zijn wijding tot priester.
[YouTube:https://youtu.be/Flj_11H1gbQ]