Univerzita byla chápána jako centrum vzdělanosti celé říše spadající pod vládu Karla IV., byla tak rozdělena na čtyři národy - český (včetně Uher a Sedmihradska), bavorský, polský (včetně Litvy, Pruska, Slezska a Lužice) a saský. Prvními vyučujícími byli převážně němečtí a čeští učenci.
Budova pro vysoké učení byla získána až Václavem IV. v roce 1383, kdy král nechal zakoupit několik domů nedaleko Staroměstského náměstí. Takto vzniklé Karolinum je dodnes reprezentační budovou univerzity.
Nyní má Karlova univerzita 17 fakult, tři vysokoškolské ústavy, pět celouniverzitních účelových zařízení a rektorát. Univerzita má přes 7000 zaměstnanců a studuje zde přes 42 tisíc studentů ve více než 270 studijních programech.