Nació el 10 de junio de 1952 en Jacksonville, Florida, y comenzó a tocar la guitarra a una edad temprana. En 1971, se unió a la banda Molly Hatchet, con sede en Jacksonville, y estuvo de gira con ellos hasta 1980.
Después de dejar Molly Hatchet, McKinney formó la banda Andy McKinney and the Road Hawgs, que lanzó dos álbumes en la década de 1980.
También ha trabajado como músico de sesión y ha aparecido en álbumes de artistas como Gregg Allman y Dickey Betts.
En los últimos años, McKinney ha estado viviendo en Jacksonville, Florida, y continúa tocando música de vez en cuando.