Vaklede i sine unge år om han skulle være skuespiller eller musiker, men valgte det sidste.
Allerede som 14-årig spillede han klarinet - og han fik en klassisk uddannelse som klarinettist på Det kgl. danske Musikkonservatorium og rejste til Sverige for videreuddannelse i klarinetspil på Folkliga Musikskolan i Ingesund.
I november 1962 gik han over til tenorsax og gjorde sig i 1960erne bemærket som tenorsaxofonist på den københavnske jazzscene. Han spillede indtil 1965 i forskellige amatørensembler og var 1964-1965 co-leder af Nissen & Goldschmidt-Kvintetten.
I 1967 skrev han sammen med Niels Jørgen Steen musik til kortfilmen 'Eftermiddagsgæsten'. Samme år fik han sin teaterdebut på Comediehuset som Mads i 'Kærlighed uden strømper' og medvirkede i flere tv--udsendelser bl.a. collagen 'Besøg familien, men tag straks hjem igen' og 'Solens børn'.
Fra 1967 til 1974 arbejdede han primært som skuespiller og medvirkede i film som 'Gift', 'Fantasterne', 'Sådan er de alle', 'Den første kreds', 'Lenin, din gavtyv' og 'Mig og mafiaen'.
I 1975 var han tilbage som jazzmusiker med den meget overbevisende LP 'Saxophoria'. Herefter spillede han blandt andet med sin egen gruppe - fusionsgruppen Ariel og med Erling Kroners og Leif Johanssons gruppe. Da han i 1981 blev medlem af Ernie Wilkins Almost Big Band, blev barytonsaxofonen hans hovedinstrument. Siden spillede Per Bentzon Goldschmidt med en lang række af de førende amerikanske og europæiske jazzmusikere. I sidste halvdel af 1980erne var han medlem af Creme Fraiche Band, havde egen kvartet og ledede en kvintet med bl.a. Erling Kroner.
I 1990erne spillede han bl.a. i kvartet med Horace Parlan og i duo og kvartet med Carsten Dahl og med Jazz Baltica Ensemble. I 1994 udsendte han cd'en 'Frankly'. Efter en blodprop i 1996 måtte han genopdage at spille saxofon.
I 1996 fik Per Goldschmidt et come-back som skuespiller, idet han havde rollen som amerikansk musiker i Peter Poulsens skuespil 'Easy Livin' på Café Teatret.
Per Goldschmidt havde adskillige orkestre i tidens løb og ydede afgørende indsats som kunstnerisk leder af Ernie Wilkins Almost Big Band, som han i 1999 var med til at gendanne efter stifteren Ernie Wilkins død.
I 2000 var han musikkonsulent for tv-serien 'Edderkoppen' og samme år udgav han cd'en 'Lonelines & Other Ballads'. Han var kendt for sit karakteristiske mellemrum mellem fortænderne.
Har medvirket i følgende 14 film:
Gift (1966
Slap af, Frede (1966)
Fantasterne (1967)
Sådan er de alle (1968)
Mig og min lillebror og Bølle (1969)
Revolutionen i vandkanten (1971)
Et døgn med Ilse (1971)
I morgen, min elskede (1971)
Lenin, din gavtyv (1972)
Mig og Mafiaen (1973)
Pigen og drømmeslottet (1974)
Mafiaen - det er osse mig (1974)
Prins Piwi (1974)
Piger i trøjen (1975)
Har medvirket i følgende 4 TV-serier:
Hemmelig sommer (1968-1968) afsnit nr: 1
En by i Provinsen (1977-1980) afsnit nr: 11
Taxa (1997-1999) afsnit nr: 17
Edderkoppen (2000)
Har lagt stemme til følgende 2 tegnefilm:
Asterix og Kleopatra (1968)
Bennys badekar (1971)
Har medvirket i følgende udenlandsk film:
Den første kreds (1971)
