V roce 1832 předvedl ruský diplomat s německými kořeny Pavel Schilling elektrické telegrafické spojení, na něž se přišel podívat dokonce i car. Zprávu bylo možné poslat mezi dvěma místnostmi. Zajímavé, ale v praxi zatím k ničemu.
První prakticky využitelný telegraf založený na elektromagnetickém principu (v Evropě se jinak už od konce osmnáctého století uchytil optický telegraf) sestrojili o rok později němečtí fyzikové Carl Friedrich Gauss a Wilhelm Eduard Weber. Fungoval na vzdálenost zhruba jednoho kilometru.
Malíř a vynálezce Samuel F. B. Morse systém zdokonalil a připojil k němu i systém značek, takzvanou Morseovu abecedu. Traduje se, že úplně první elektrický telegraf sestrojil kvůli finanční tísni z věcí, které měl doma. Zavděk vzal malířským stojanem nebo starým hodinovým strojkem.
Raná verze Morseova telegrafu ještě nepracovala s jednotlivými písmeny, ale se skupinami čísel, jejichž význam musel příjemce vyhledat v dekódovací příručce. Teprve později Morse spolu s americkým vynálezcem Alfredem Vailem, jehož otec telegraf finančně podpořil, vymysleli praktičtější metodu. V ní už nešlo o přenos celých slov pomocí číselných šifer, ale o posílání jednotlivých hlásek prostřednictvím kombinací čárek a teček.
Tito pánové si také novým dálkovým telegrafem poslali první telegram. 24. května 1844 naťukal Morse ve Washingtonu zprávu: What hath God wrought (Co Bůh učinil) a odeslal ji do asi šedesát kilometrů vzdáleného Baltimoru, kde už na ni čekal Vail. Na větu, vypůjčenou ze čtvrté Knihy Mojšíšovy, ale nepřipadli sami. Poradila jim ji manželka patentového úředníka Henryho Leavitta Ellswortha, který i se svou rodinou Morseho nápady podporoval.
V českých zemích byla zřízena první telegrafní linka v roce 1846 z Vídně do Brna, o rok později byla prodloužena do Prahy. Kolem roku 1900 bylo v Česku již téměř 800 telegrafních stanic.
Největšího rozmachu dosáhlo podávání telegramů v období mezi světovými válkami – Čechoslováci za první republiky odeslali ročně téměř čtyři miliony telegrafických zpráv. Za socialismu to bylo až deset milionů telegramů za rok.
Telegrafu ale poměrně brzy začal konkurovat telefon a s velkým odstupem pak internet, až ho modernější způsoby komunikace převálcovaly docela. V Česku byl poslední telegram odeslán 1. dubna 2010 v 00:50:32 hodin z brněnské nádražní pošty. Stálo v něm: POSLEDNI TELEGRAM V HISTORII CESKYCH POST DO MUZEA REKORDU A KURIOZIT POSILA MARTIN JONAS. Ve zmíněném muzeu je také uložen.
