Gaden er som de øvrige i kvarteret opkaldt efter centraleuropæiske lande.
I 1900 købte Amagers store ejendomsinvestor, Hermann Ebert, et stykke jord på sydsiden af Holmbladsgade. Her indledte han gennem de kommende år opførelsen af et kvarter med beboelsesejendomme. Eberts intention var, at kvarteret skulle have en højere standard, end de lejekaserner der var blevet opført mange af i 1800-tallets sidste tiår.
Kvarteret fik navnet Bellevue, for at antyde at boligerne var beregnet på et lidt finere publikum end arbejderklassen. Bellevue ligger foruden Østrigsgade i Ungarnsgade og Polensgade.
Arkitekterne bag ejendommen på hjørnet af Østrigsgade og Holmbladsgade var formentlig Holger Klaumann Krøyer, mens andre ejendomme i kvarteret skyldes Holger Lange.
Bebyggelsen af kvarteret kom til at strække sig over 30 år, og de sidst opførte huse lå længst mod syd ved Lergravsvej. Mens Eberts eget byggeselskab stod bag de tidligst opførte ejendomme, blev de senere bygget af andre private selskaber.
I Østrigsgade ligger >Østrigsgades Skole.