Anderson nació en Filadelfia, Pensilvania, en 1902. Comenzó a cantar en la iglesia a una edad temprana y mostró un gran talento. Estudió música en la Academia Musical de Filadelfia y posteriormente en la Juilliard School de la ciudad de Nueva York. En 1925 hizo su debut profesional en la ciudad de Nueva York.
La carrera de Anderson fue exitosa desde el principio. Realizó giras por Estados Unidos y Europa, actuando en algunas de las salas de conciertos más prestigiosas del mundo. También grabó varios álbumes y apareció en varias películas.
A pesar de su éxito, Anderson enfrentó una importante discriminación racial a lo largo de su carrera. A menudo se le negó la oportunidad de actuar en determinados lugares debido a su raza. En 1939, estaba previsto que actuara en el Constitution Hall de Washington, D.C., pero las Hijas de la Revolución Americana (DAR), propietarias del salón, se negaron a permitirle actuar debido a su raza. Esta decisión provocó una protesta nacional y Anderson finalmente realizó un concierto en las escaleras del Monumento a Lincoln.
El concierto de Anderson en el Lincoln Memorial fue un importante punto de inflexión en el movimiento por los derechos civiles. Ayudó a llamar la atención nacional sobre la cuestión de la segregación racial e inspiró a la gente a luchar por la igualdad de derechos. Anderson continuó actuando durante toda su vida y se convirtió en un símbolo de esperanza y coraje para los afroamericanos.
Anderson recibió numerosos honores y premios por su trabajo, incluida la Medalla Presidencial de la Libertad, el honor civil más alto de los Estados Unidos. Murió en Portland, Oregón, en 1993.