Vysokou školu oficiálně nestudoval, navštěvoval však některé přednášky na frankfurtské univerzitě a četl díla levicových ideologů Marxe, Hegela a Lenina. Vstoupil do radikální organizace Revoluční boj, která se snažila o zrušení klasických kapitalistických ekonomických vztahů a jejich nahrazení samosprávou dělníků, sdružených v odborových organizacích. Účastnil se aktivně i násilných pouličních střetů s policií.
V sedmdesátých letech pracoval jako dělník, taxikář nebo knihkupec. Začal se angažovat v rozvíjejícím se hnutí ekologicky smýšlejících aktivistů. Do strany Zelených vstoupil v roce 1981. Z řadového poslance se Fischer postupně vypracoval na nejznámějšího představitele strany, který se značnou měrou zasloužil o to, že se Zelení stali etablovanou politickou silou. Dvakrát plnil funkci ministra životního prostředí ve spolkové zemi Hesensko. Po parlamentních volbách v roce 1998, si jej jako ministra zahraničí do svého kabinetu vybral kancléř Gerhard Schröder.
Za svou politickou kariéru prodělal několik krizí, od podpory německé účasti na akcích NATO v Kosovu, přes zveřejnění fotografií z počátku 70. let, zachycujícího Fischera útočícího na policistu. Nejvíc však Fischera poškodila aféra, v níž jeho ministerstvo čelilo obvinění, že v letech 2000 až 2002 dopustilo zneužití liberální vízové politiky. Podle kritiků to přivedlo do Německa množství prostitutek, zločinců a ilegálních dělníků.
Po volbách v roce 2005 se Fischer rozhodl ukončit svoji politickou kariéru. Po odchodu z vrcholné politiky přednášel na univerzitách a založil si vlastní poradenskou firmu. Zahraniční politice se věnuje i nadále jako jeden ze zakládajících členů sdružení Evropská rada pro zahraniční vztahy.
