Leroy Anderson nació en Cambridge, Massachussets, siendo hijo de emigrantes suecos. Su talento para tocar el piano, el trombón, el órgano, el acordeón, la tuba y el contrabajo debió tener mucho que ver con el hecho de que su padre, empleado de correos, tocase la mandolina, y su madre fuera organista de la Iglesia Sueca de Cambridge.
Anderson estudió en el Conservatorio de Música de Nueva Inglaterra y en 1930 obtuvo su maestría en música por la universidad de Harvard. Después decidió estudiar idiomas, llegando a dominar el danés, el noruego, el islandés, el alemán, el francés, el italiano y el portugués, además del sueco, heredado de sus padres. Una habilidad para los idiomas que utilizó para trabajar de intérprete y traductor del ejército durante la Segunda Guerra Mundial.
En su época de estudiante ya se dedicaba a realizar arreglos de diferentes composiciones. A los 30 años, arreglaba y componía para la Boston Pops Orchestra que, dirigida por Arthur Fiedler, era la orquesta que más grabaciones comerciales vendía en el mundo. Melodías como Jazz Pizzicato, Serenata, La máquina de escribir, Sleigh Ride, Fiddle-Faddle, Papel de lija, Plink, Plank, Plunk, Paseo en trineo, The waltszing cat, Bugler´s Holiday y El arrullo del trompetista le sirvieron para labrarse un sólido prestigio internacional. De la que quizás sea su obra más famosa, Blue Tango, se vendieron más de un millón de copias, llegando a posicionarse como número 1 en las listas de éxitos americanos en 1952.
Aunque también abordó las formas clásicas más ambiciosas -como su Concierto para piano y orquesta-, Anderson recogió la influencia de las músicas de las bandas, las de Broadway y de Jazz, entre otras, creando un estilo propio muy admirado. La mayor parte de las obras de Leroy Anderson no exceden los tres minutos por ser ese el tiempo máximo de duración de los singles de su época. Sin embargo, una buena muestra de la percepción que se tiene de su música en los Estados Unidos se encuentra en el hecho de que sus obras suelen tocarse para los mandatarios extranjeros que visitan la Casa Blanca, y también son usadas para recibir a los presidentes de los Estados Unidos cuando viajan a otros países.