Vejen har navn efter Refshalen, der var en ø med form som en rævehale.
Selve øen lå, hvor bydelen Christianshavn blev anlagt i begyndelsen af 1600-tallet og i farvandet nord for, var et lavvandet område, der kaldtes Refshalegrunden.
I 1870’erne blev Refshaleøen anlagt af skibsværftet Burmeister & Wain, der efterhånden flyttede herud fra Christianshavn. Som forbindelsesvej blev Refshalevej anlagt.
Refshalevej går langs indersiden af Christianshavns Vold og langs Laboratoriegraven (herover) og Erdkehlgraven, der ligger udenfor de kunstigt anlagde øer på Holmen.
Der er stadig mange bygninger fra militærets tilstedeværelse i området.
Søværnets depot for søminer (billedet herover) og krudtmagasinet på Frederiks Bastion (herunder) er nu omdannet til restauranter.
Krudtmagasinerne på Frederiks og Carls Bastioner blev opført omkring 1780 efter en eksplosion i det daværende krudtmagasin ved Østervold. Nye magasiner blev flyttet ud på de ubeboede voldanlæg ved Christianshavn.
På Refshalevej ligger resterne af fæstningsværket Christiani Quinti Lynette (billedet herover), der blev anlagt i midten af 1700-tallet som en del af udvidelsen af Christianshavns Vold og for at beskytte flådeværftet på Holmen.
Lynetterne var fremskudte bastioner, der lå foran selve voldgraven.
Quinti Lynette har sit navn efter batteriet Quintus, som er opkaldt efter kong Christian den femte, i vis regeringstid det blev anlagt. Kortet herover er fra 1868 og altså nogle få år før anlægget af Refshaleøen gik i gang.