Leo Scheffczyk wurde 1920 im niederschlesischen Breslau geboren. Nach der Schule begann er 1938 dasTheologiestudium an der Universität. Der Militärdienst hat 1941 das Studium unterbrochen. Nach 1945 war Scheffczyk außerdem in norwegischer Kriegsgefangenschaft. Nach der Rückkehr konnte er 1947 sein Studium an der Philosophisch-theologischen Hochschule Freising abschließen.
1947 wurde Leo Scheffczyk im Freisinger Dom von Michael Kardinal von Faulhaber zum Priester für das Erzbistum Breslau geweiht. Als Kaplan wirkte er von 1947 bis 1948  in Grafing bei München und war anschließend als Pfarrvikar in Traunwalchen tätig. Im Jahr 1950 wurde Leo Scheffczyk mit seiner Dissertation zum Thema "Friedrich Leopold zu Stolbergs 'Geschichte der Religion Jesu Christi.' Die Abwendung der katholischen Kirchengeschichtsschreibung von der Aufklärung und ihre Neuorientierung im Zeitalter der Romantik" promoviert. Bis 1951 war er außerdem Subregens am Priesterseminar an der Philosophisch-Theologischen Hochschule in Königstein im Taunus.
Rasch hat er sich mit einer Arbeit über "Das Mariengeheimnis in Frömmigkeit und Lehre der Karolingerzeit" an der Ludwig-Maximilians-Universität München habilitiert. 1965 wurde Leo Scheffczyk als Professor für Dogmatik an die Universität München berufen. Dort forschte er bis zu seiner Emeritierung 1985.
2001 hat ihn Papst Johannes Paul II. zum Kardinaldiakon erhoben. Der Wahlspruch Scheffczyks stammt aus dem 3. Epheserbrief: "Evangelizare investigabiles divitias Christi" - "Den unergründlichen Reichtum Christi verkünden". Bei seiner Kardinalsernennung hatte er bereits das 80. Lebensjahr vollendet und konnte daher nicht am Konklave 2005 teilnehmen. Er verzichtete auch darauf, die Bischofsweihe zu empfangen, wie es das Kirchenrecht vorschreibt.

Leo Scheffczyk hat rund 80 Bücher geschrieben und rund 1.200 weitere Schriften veröffentlicht. Seine achtbändige "Katholische Dogmatik", die er gemeinsam mit Anton Ziegenaus erarbeitet hat, ist noch heute sehr beliebt.
Er starb am 8. Dezember 2005 in München. Leo Kardinal Scheffczyk war der "Geistlichen Familie" eng verbunden und fand im Kloster Thalbach in Bregenz seine letzte Ruhestätte. Pater Johannes Nebel verwaltet sein Erbe und ist Leiter des "Leo Scheffczyk-Zentrums" in Bregenz.