Gerhard Frei wurde als Sohn eines Schmiedes in Breslau geboren. Nach der Schule erlernte er den Beruf eines Mechanikers, der ihn allerdings anschließend in die Arbeitslosigkeit führte. Während einer Aushilfstätigkeit an einer Tankstelle, frönte er seiner Sangeslust und wurde dabei zufällig von einem Musikkritiker gehört. Dieser beschaffte ihm einen Ausbildungsplatz am Breslauer Konservatorium und wurde angenommen. Nach dem Abschluss wurde Gerhard Frei 1939 an das Theater Görlitz verpflichtet und hatte gleich in seiner ersten Rolle als „Landgraf“ in Richard Wagners Tannhäuser eine wichtige Aufgabe. Weiterhin spielte er unter anderem auf dieser Bühne den „Gurnemanz“ in Wagners Parsifal und den „Sarastro“ in der Zauberflöte von Wolfgang Amadeus Mozart.
Nach dem Zweiten Weltkrieg wirkte er erst als Schauspieler an der Oberrheinischen Städtebühne und ging dann an das Landestheater in Halle. Hier entschied sich Gerhard Frei endgültig für die Oper. 1948 holte ihn Walter Felsenstein an die Komische Oper Berlin. Der Drang nach neuen Anforderungen führte ihn 1954 an die Deutsche Staatsoper Berlin, der er bis zu seiner Abschiedsvorstellung am 8. Mai 1976 angehörte.
1955 war Frei als verbrecherischer Burgvogt in dem DEFA-Klassiker und Märchenfilm "Der Teufel vom Mühlenberg" zu sehen, wo er in der wilden Tanzszene auf der Burg seinen beeindruckenden Bass überzeugend zur Geltung bringen konnte.
Gerhard Freis Stimme ist auf vielen Schallplatten zu hören, auch mit Couplets von Otto Reutter, denen seine Liebe gehörte. Auch in mehreren Spielfilmen wirkte er als Darsteller mit.