Började spela tillsammans någon gång i början av 2005, Mathias Åberg och Lars Eriksson har spelat ihop sedan tonåren, först i det irländska bandet Lord Chamberlains Men och sedan i bandet Katyusha. Jimmy Johansson och Mathias har även dom spelat irländskt i the Jug of Clogs ett band som man skulle kunna säga gick över till att bli Madame Neruda. Musikaliskt kommer Madame Neruda en hel del från the Dubliners , men också t ex från the Pogues , the Chieftains och Dervish . Från resor i Skottland har Jimmy upptäckt nutida fiolfenomen som Jerry Holland och Pete Clark . Madame Neruda spelar flitigt på krogar och scener runt om i sverige.