Konstytucja marcowa z 1921 r. określiła godło i barwy Rzeczypospolitej Polskiej, lecz na wyjaśnienie kwestii hymnu trzeba było poczekać aż do 26 lutego 1927 r., kiedy to zgodnie z rozporządzeniem ministra spraw wewnętrznych Felicjana Sławoja-Składkowskiego hymnem został oficjalnie ogłoszony „Mazurek Dąbrowskiego”.
Tak długa zwłoka wynikała z faktu, że była to jedna z sześciu pieśni patriotycznych traktowanych niemalże równorzędnie. Konkurencję stanowiły: „Rota”, „Boże coś Polskę”, „Warszawianka”, „Chorał” i „My pierwsza Brygada”. Każda z tych pieśni niosła ze sobą konkretny bagaż polityczny i ideowy. Narodowi demokraci preferowali Rotę.
Właśnie ta pieśń została zaintonowana przez gen. Andersa w krytycznym momencie przewrotu majowego, w dniu 14 maja 1926 r., przed opuszczeniem przez prezydenta Wojciechowskiego Belwederu. Dotyczyła ona jednak głównie zaboru pruskiego i miała silnie pejoratywne zabarwienie; szczególnie fraza „Nie będzie Niemiec pluł nam w twarz” mogłaby wywołać niejeden skandal dyplomatyczny. „Warszawianka” była najmniej rozpowszechnioną pieśnią, stąd jej kandydatura szybko przepadła. Podobnie rzecz się miała z „Chorałem”, który, mimo iż był bardzo popularną pieśnią w czasie powstania styczniowego, w odrodzonej Polsce zszedł na nieco dalszy plan.
„Pierwsza Brygada”, mimo wysoce reprezentacyjnego charakteru, podobnie jak Rota była jednoznacznie kojarzona z obozem piłsudczykowskim i była nie do zaakceptowania dla dużej części społeczeństwa. Niemniej stała się ona Pieśnią Reprezentacyjną Wojska Polskiego, choć w latach trzydziestych zdarzały się jeszcze ekscesy z udziałem studentów endeckich bojkotujących uroczystości wojskowe, na których grano „Pierwszą Brygadę”. Dziś pozycja jej nie jest już zagrożona – jest to jeden z najważniejszych utworów, grany podczas uroczystości z udziałem wojska.
Największą konkurencję dla obecnego Hymnu stanowiła pieśń „Boże coś Polskę”, zaintonowana przez marszałka Wojciecha Trąmpczyńskiego podczas otwarcia Sejmu Ustawodawczego w 1919 r. Pierwotnie napisana przez Alojzego Felińskiego na cześć cara Aleksandra I, po zmianie w tekście z „Naszego króla zachowaj nam Panie na Ojczyznę wolną pobłogosław Panie” utrwaliła się w XIX wieku jako jedna z najważniejszych pieśni o charakterze religijno-patriotycznym i tak też zostało do dziś.
Ostatecznie na hymn obrany został „Mazurek” – jak można przypuszczać, wybrano go jako pieśń najszerzej akceptowalną, nieformalnie wykorzystywaną jako hymn od 1918 r. oraz podtrzymującą etos legionowy. Warto zaznaczyć, że już w październiku 1926 r. pieśń ta weszła oficjalnie do szkół, a od grudnia 1926 r. o północy nadawało ją Polskie Radio. Oba te fakty świadczą o tym, że nowe władze nie miały wątpliwości co do wyboru hymnu, lecz zamierzały wcześniej przygotować do tej decyzji wszystkich obywateli.
