Kdysi byla součástí tzv. Královské cesty, kudy chodil korunovační průvod českých králů přes Karlův most na Hrad. Na horním konci se rozvětvuje na ulici Ke Hradu (směr Pražský hrad) a Úvoz (směr Pohořelec a Strahovský klášter). Z tohoto místa vycházejí severozápadním směrem vzhůru také Radnické schody.

      Trasa ulice vznikla při novém založení Malé Strany za Přemysla Otakara II. v roce 1267, tehdy končila Strahovskou branou v místech, kde dnes navazuje ulice Úvoz. Do 20. století se nazývala Ostruhová (německy Sporrengasse), současný název je po českém spisovateli a básníkovi Janu Nerudovi, který zde v domě U Dvou slunců bydlel a má tam pamětní desku