Josef Graf wurde am 30. Juni 1957 in Riedenburg an der Altmühl geboren. Nach den Grundschuljahren in seinem (im heutigen Landkreis Eichstätt gelegenen) Heimatdorf Pondorf besuchte er seit 1968 als Zögling des Bischöflichen Studienseminars Westmünster das Albertus-Magnus-Gymnasium in Regensburg, an dem er im Jahre 1977 das Abitur ablegte.
Es folgten der Eintritt in das Priesterseminar Regensburg und der Beginn des Studiums der Katholischen Theologie an der Universität Regensburg.
Ab 1979 studierte Josef Graf als Mitglied des Collegium Germanicum an der Päpstlichen Universität Gregoriana in Rom. Im Jahre 1983 wurde er in Rom zum Priester für die Diözese Regensburg geweiht. Nach Kaplansjahren in der Regensburger Stadtpfarrei St. Josef Reinhausen setzte er seine Studien in Rom bis zur Promotion im Jahre 1989 fort.
Ab 1989 versah Dr. Josef Graf die Stelle des Spirituals am Priesterseminar Regensburg. Neben dieser Hauptaufgabe im Priesterseminar wurden ihm im Lauf der Jahre mehrere Nebenämter verliehen. So war er Leiter des Exerzitiensekretariates der Diözese Regensburg, Spiritual einer kleinen Regensburger Schwesterngemeinschaft und Seelsorger der Katholischen Studentenverbindung Rupertia. Ferner war er in der geistlichen Fortbildungsarbeit tätig.
Im Jahr 2007 wurde ihm der Titel eines päpstlichen Ehrenkaplans (Monsignore) verliehen.
