Howard, intérprete de vodevil desde muy joven, había protagonizado varios temas cortos mudos antes de asociarse con su hermano mayor Shemp Howard y su amigo Larry Fine en 1922 para formar los Tres Chiflados. En 1934, el equipo firmó con Columbia Pictures, donde alcanzaron fama internacional por sus rutinas de comedia slapstick.
Howard apareció en casi todos los 190 cortometrajes y 23 largometrajes de Los Tres Chiflados, así como en numerosas apariciones en televisión y otros proyectos. Era el líder de facto y el hombre heterosexual del grupo, y sus característicos anteojos eran una parte esencial de la personalidad de su personaje.
Fuera de Los Tres Chiflados, Howard tuvo una breve carrera en solitario en la década de 1940 y principios de la de 1950, durante la cual protagonizó varios cortometrajes y largometrajes. También hizo varias apariciones en programas de televisión, incluso como estrella invitada en I Love Lucy.
En 1955, Howard se reunió con Shemp y Fine para los últimos años de los Tres Chiflados en Columbia Pictures, y continuaron actuando juntos hasta la muerte de Shemp en 1955. Howard y Fine continuaron actuando como dúo hasta finales de la década de 1960, cuando sus actuaciones se convirtieron en menos frecuente debido a problemas de salud y popularidad en declive.
Howard murió de cáncer de pulmón en 1975 a la edad de 77 años. Es considerado uno de los comediantes más emblemáticos de todos los tiempos y es reconocido junto con Shemp y Fine como uno de los equipos cómicos más influyentes de la historia.