Spidsen af Nyholm blev dannet ved at orlogsskibet Elefanten i 1728 blev sænket, så det blev fundamentet for en mole.
Fra Elefanten strakte sig en træbro næsten tværs over havneløbet. Den korte gennemsejling ud for Københavns Toldbod kunne spærres med en bom.
Navnet har formentlig været i brug af Søværnet længe, men blev først i 1996 et officielt vejnavn.
Ved Elefanten ligger museumsskibet “Peder Skram”, ligesom kongeskibet Dannebrog til tider ligger fortøjet her.