Karlheinz Diez wurde 1954 in Horbach als ältester von drei Söhnen geboren. Er absolvierte seine Gymnasialzeit am Progymnasium in Freigericht und dann als Konviktorist am Domgymnasium in Fulda. Nach dem Abitur 1972 trat er ins Fuldaer Priesterseminar ein.
Im Folgejahr ging er nach Rom, wo er an der Päpstlichen Universität Gregoriana studierte und sein Lizentiat mit "summa cum laude" abschloss. Dort weihte ihn der Fuldaer Bischof Prof. Dr. Eduard Schick 1977 zum Diakon, 1978 empfing er die Priesterweihe durch den damaligen Erzbischof von Esztergom (Ungarn), Kardinal Làszlò Lékai. Nach der Priesterweihe ging er zurück nach Deutschland und war er von 1979 bis 1981 als Kaplan in der Pfarrei St. Marien in Kassel (Rosenkranzkirche) tätig.
Diez setzte im Anschluss seine Studien an der Gregoriana in Rom fort und wurde 1985 mit der Arbeit "Christus und seine Kirche. Zum Kirchenverständnis des Petrus Canisius" zum Doktor der Theologie promoviert. Danach studierte Diez bis 1988 in Mainz weiter und wurde zugleich mit diözesanen Aufgaben betraut. Diez wikrte von 1989 bis 2000 als Subregens am Fuldaer Priesterseminar.
Im Jahre 1995 habilitierte er sich in Mainz für das Fach "Dogmatik und ökumenische Theologie" und war als Privatdozent tätig. Er arbeitete in den 90er Jaren als Ökumenereferent und wirkte als Geistlicher Mentor der angehenden Gemeindereferentinnen und -referenten im Bistum Fulda.
1998 erfolgte seine Ernennung zum ordentlichen Professor für Liturgiewissenschaft an der Theologischen Fakultät Fulda. 2001/2002 war er von der Fakultätskonferenz der Theologischen Fakultät Fulda zum Prorektor gewählt worden. Außerdem wurde er zum ordentlichen Professor für Dogmatik, Dogmengeschichte und ökumenische Theologie ernannt.
Papst Johannes Paul II. verlieh ihm in Anerkennung seiner Verdienste den Titel "Päpstlicher Kaplan" (Monsignore). Seit 2004 ist Diez Weihbischof des Bistums Fulda und Titularbischof von Villa Regis in Numidien (Nordafrika).