Vejen har navn efter Store Mølle, der lå på hjørnet af Store Møllevej og Ved Skansen.
Tårnby Birketing blev fra omkring år 1800 ind imellem holdt hos mølleren, selv om tingstedet egentlig lå på Tingvej.
Fra 1907 lå Amagerbro Station ved hjørnet af Amagerbrogade og Store Møllevej. Da persontrafikken på banen stoppede i 1937, blev og stationsbygningen nedrevet.
I stedet opførtes det meget lange etageejendom, Møllelængen, der er tegnet af arkitekten Frode Galatius. Ejendommen dominerer nu den sydlige del af vejen.
