Železný závodil celkem na čtyřech letních olympijských hrách. Vždy se domů nevrátil s prázdnou. V korejském Soulu (1988) vybojoval pro Československo první stříbro. Poté následovaly už jen zlaté medaile. Jan obhájil první příčku jak na olympiádě v Barceloně (1992), tak v Atlantě (1996) a nakonec i v Sydney (2000).
Dále se zůčastnil čtyř světových šampionátů. Na třech z nich vyhrál. V roce 2000 získal ocenění Atlet světa. Dvakrát vyhrál anketu Atlet Evropy (1996 a 2000). Stal se čtyřnásobným vítězem ankety Sportovec roku ČR 1993, 1995, 2000 a 2001) a šestinásobným vítězem ankety Atlet roku ČR (1993, 1994, 1995, 1996, 2000 a 2001).
Svoji kariéru ukončil vítězstvím na exhibičním závodě v Mladé Boleslavi v roce 2006. Od roku 1987 ženatý. S manželkou Markétou spolu vychovávají syna Jana (1988) a dceru Katarinu (1990).