Vejen har navn efter Kalveboderne, som er navnet på farvandet mellem Sjælland og Amager.
Kalvebod Brygge blev anlagt omkring 1900, for at skabe forbindelse til den nyanlagte gasværkshavn, for enden af Gasværksvej.
Med anlæg af havekajer langs bryggen, blev den også en del af udvidelsen af havnens kapacitet.
Ved Kalvebod Brygge blev der på samme tid anlagt en godsbanegård i tilknytning til den nye Københavns Hovedbanegård.
Bryggen blev hjemsted for flere industrivirksomheder og især for oplagspladser for bl.a. kul. Her lå f.eks. Kaffesurrogatfabrikken “Danmark”, A/S Kampmann & Herskind og De Forenede Kulimportører, der havde siloanlæg og faciliteter til oplæg af kul og koks.
Kalvebod Brygge tiltrak også den del af storbyens befolkning, der hørte til den underste del af samfundet. På kajerne kunne de samle tabte stykker kul op og dermed spare pengene til opvarmningen derhjemme. De kunne finde tilholdssteder i værtshuse som Negerhytten, Café New Zealand og Far West, hvor også havnearbejderne kom.
Lige syd for Langebro ligger en toldkammerbygning, der er opført i 1910 og tegnet af arkitekten Kristian Warming.
Kalvebod Brygge blev i 1970’erne ikke længere brugt til havneformål. Derfor blev en del af arealerne langs kajen brugt til anlæg af en flersporet gade, der kunne fungere som en indfaldsvej til København fra syd og vest. Vejen åbnede i midten af 1970’erne.
Derfor blev der igangsat et byggeri af hoteller, kontorhuse m.m., som kom til at strække sig fra Langebro til Fisketorvet ved Dybbølsbro. Det var ét af de første steder, hvor de tidligere havnearealer blev omdannet til andre funktioner.
Tættest på Langebro ligger kontorbygningen for Nykredit (herover). Den blev tegnet af arkitektfirmaet Schmidt Hammer Lassen omkring 2000.
Samtidig opførtes Copenhagen Marriott Hotel (bagved til venstre), som PLH Arkitekter stod for.
Ingeniørforeningen i Danmark (IDA) opførte i 1998 et kontorhus (herover), som blev tegnet af Kieler Arkitekter.
Ved bygningen står Hans Pauli Olsens skulptur “Hjørdis og skyggen”. Den er skænket af den Saxild’ske Familiefond.
På landsiden af Kalvebod Brygge opført postvæsenet en postterminal i 1967. Arkitekten var Ole Hagen.
Bygningen blev senere anvendt af DSB i forbindelse med Godsbanegården, og er i dag indrettet til kontorer m.m. for Kammeradvokaten og Rigsarkivet. For ombygningen til de nuværende formål stod arkitektfirmaet Vilhelm Lauritzen. Arkivet har bagved opført en magasinbygning ved Kristian Erslevs Gade.
Det sidste byggeri langs havnefronten er hotellet Copenhagen Island (herover), der stod færdig i 2006. Bygningen blev tegnet af arkitektfirmaet Kim Utzon.
Ved den nordligste del af Kalvebod Brygge blev etableret et badeanlæg, der bl.a. er udformet af JDS Architects. Anlæggets navn “Bølgen” er inspireret af formen på de træbroer, som det består af.