Gijsen stond bekend als een eigenzinnige en heel behoudende bisschop. Hij was van 1972 tot 1993 bisschop van Roermond. Zeer tegen de gewoonte in werd hij niet gewijd in de Limburgse bisschopsstad, maar in de Sint Pieter in Rome.
BrabantVoor Gijsen vanuit zijn Brabantse geboorteplaats Oeffelt naar Limburg vertrok, studeerde hij kerkgeschiedenis in Tilburg en aan de universiteit van Bonn
Hij kwam in de jaren '70 en '80 regelmatig in het nieuws met zijn onomwonden standpunten over onder andere abortus, euthanasie en het katholieke onderwijs.
Seminarie RolducToen Gijsen bisschop was, trok hij snel zijn eigen plan. Hij ontsloeg de naaste medewerkers van zijn voorganger Moors en richtte in Rolduc (Kerkrade) zijn eigen priesterseminarie op. Het seminarie stond bekend om haar geslotenheid en behoudzucht.
De bisschop trok zich op een gegeven moment terug in Oostenrijk om later bisschop te worden in IJsland. In 2007 kwam hij terug naar Nederland en werd hij rector van de zusters karmelietessen in Sittard.
Gluren door de gordijnenGijsen werd in september 2010 aangeklaagd, omdat hij eind jaren '50 door de gordijnen zou hebben gegluurd terwijl een leerling masturbeerde. Gijsen heeft de beschuldiging altijd ontkend. Formeel gezien was er geen sprake van seksueel misbruik, maar Gijsen was volgens de klachtencommissie wel over de schreef gegaan.
Ook ontkende hij dat hij wist van het vermeende seksueel misbruik door een geschiedenisleraar binnen het door heb opgerichte kleinseminarie Rolduc.