Hans karriere startet i hjembyen Tønsberg midt på 1960-tallet, med gruppen The Enemies. Etter en albumutgivelse i 1968 valgte Teigen å forlate gruppen for å søke lykken med den engelske gruppen Red Squares, som var godt kjent blant annet i Danmark. Da Red Squares var på turné i Israel sluttet Teigen i gruppen for å delta i israelske Lions of Judea, som han spilte inn totalt seks låter med. Deretter gikk turen tilbake til Norge, og Teigen tok kontakt med bandet som da hadde navnet Arman Sumpe D.E. Dette bandet skiftet senere navn til Popol Vuh, og enda senere til Popol Ace. De oppnådde legendestatus i norsk rock med sin progressive rockemusikk i kombinasjon med Teigens kraftfulle stemme og karismatiske fremtoning.

I 1977 startet Teigen sin karriere som soloartist og deltok for første gang i Melodi Grand Prix, med en uforglemmelig skjelettdrakt. Året etter, i 1978, kom gjennombruddet: Teigen vant den norske finalen i Melodi Grand Prix med låta «Mil etter mil» og reiste til den internasjonale finalen i Paris med sekken full av optimisme sammen med komponist Kai Eide og Herodes Falsk. Resultatet, til tross for splitthopp, bukseseler og ablegøyer, ble null poeng i finalen. Teigen fikk en kultaktig heltestatus, og solokarrieren skjøt fart med det engelskspråklige albumet This Year's Loser.

Jahn Teigen lange karriere er også for mange uløselig knyttet sammen med et mellomspill sammen med Herodes Falsk og Tom Mathisen i crazy-humorgruppa Prima Vera, der han sammen med disse turnerte og utgav album en rekke album fra 1977. Gruppas store gjennombrudd kom med kjempesuksessen Brakara i 1978 som var fylt med elleville parodier og sarkastisk humor med sleivspark i alle retninger og solgte over 100 000 eksemplarer. Tittelen på albumet henspilte på den spanske discogruppa Baccara som på den gangen hadde tatt Europa med storm med hitlåtene «Yes Sir, I Can Boogie» og «Sorry, I'm a Lady», den siste behørig parodiert med låta «Unnskyld, eg er fiskar». Av andre spor på samme plate var «Så lykkelig i Sverige» der refrenget begynner med teksten:

«Svenskefaen har ikke sans for musikk,

de kjøper aaalt.

Lave panner, kviser så gule og blå,

og for et språååk...»

Andre klassiske spor fra albumet inkluderer «Det er Norge som er bra».

Teigens karriere utenfor det rent musikalske inkluderer også rollen som Frankensteins medhjelper Riff Raff, en figur med visse likhetstrekk med Quasimodo (hovedpersonen i Victor Hugos Ringeren i Notre Dame) i kultmusikalen Rocky Horror Show i dens første oppsetning på norske scener, på Centralteatret i 1977. Teigen sang også på ett av sporene på soundtracket fra musikalen som ble utgitt på plate.

Ingen andre norske artister har hatt flere hitlåter på VG-lista enn Teigen. Han er også den norske artisten som har deltatt flest ganger i den norske Melodi Grand Prix-finalen. Her har han hatt varierende suksess. Siste opptreden i Grand Prix hadde Teigen i 2005 da han deltok med balladen «My Heart Is My Home». Teksten var skrevet av Jan Vincents Johannessen. Han hadde også gjesteopptreden i Grand Prix i 2008, med Jahn Teigen-medley. Da sang han låtene: "Optimist", "Mil etter Mil", "Min første kjærlighet", "Do - Re - Mi", "Glasnost", "HA HA HE HE HO! (De gærne har'e godt)", "Sala Palmer", "Bli bra igjen", "Det vakreste som fins", "Optimist".
I tilegg til dette så ble Jahn gratulert av b.la. Lage Fosseheim ( The Monroes ), Hanne Krogh, Dagerik Pedersen, Panelet i Nytt på Nytt, Fabian Stang, Arne Scheie ( TV Sporten ), Eivind Rølles ( The Monroes ), Dan Børge Aakerø.

Teigen har sunget opera, blant annet ved statsoperaen i Wien, og medvirket i rollen som bøddel i den mindre vellykkede musikalen Which Witch, og spilt flere show og turneer i Sverige i tillegg til Norge. Han har noen ganger fått glimrende kritikker for musikken sin, men i noen tilfeller har han vært utsatt for total slakt.

Teigens foreløpig siste soloplate Utkledd som meg selv solgte 40 000 eksemplarer og fikk stort sett god kritikk i de fleste av landets aviser og medier. Datteren Sara Skorgan Teigen er med og synger på albumet. Jahn Teigen flyttet til Skåne (Sverige) i oktober 2006.

Høsten 2008 utkommer Morten Stenslands biografi om Jahn Teigen. Såvel familie som venner har bidratt med å skrive om ham.