Wilson nació el 23 de junio de 1947 en la reserva india sioux en Dakota del Sur. Era hijo de una mujer sioux de pura sangre y de padre irlandés. Wilson se crió en la reserva y comenzó a tocar la guitarra a una edad temprana. Fue influenciado por la música tradicional de su pueblo, así como por el rock and roll de los años cincuenta y sesenta.
Después de la secundaria, Wilson se mudó a Minneapolis, Minnesota. donde formó una banda llamada Sugarloaf con su cuñado Craig Fuller y el también cantautor Michael Omartian.
El grupo tuvo cierto éxito y grabó dos álbumes para RCA Records, antes de disolverse en 1971.
Tras la ruptura de Pan de Azúcar , Wilson se mudó a Los Ángeles, California, donde formó Pure Prairie League. en 1972.
La banda rápidamente ganó seguidores y lanzaron varios álbumes exitosos a lo largo de la década de 1970.
Algunas de sus canciones más populares incluyen "Amie". , "Ángeles caídos" y " Déjame amarte esta noche ".
En 1979, Wilson dejó Pure Prairie League para embarcarse en una carrera en solitario.
Lanzó dos álbumes en solitario, "Jeff Wilson" (1981) y "Nunca ser el mismo" (1983), pero no tuvieron tanto éxito como su trabajo con Pure Prairie League.
Wilson continuó de gira y actuando durante las décadas de 1980 y 1990, pero su salud comenzó a deteriorarse a finales de la década de 1980. Le diagnosticaron cáncer de garganta y se sometió a varias rondas de tratamiento.
El 12 de diciembre de 1991, Jeff Wilson murió de cáncer de garganta a la edad de 44 años .
Le sobrevivieron su esposa, dos hijas y dos hijos.