Scialfa nació en Deal, Nueva Jersey y creció en Ocean Township, Nueva Jersey. Comenzó a tocar la guitarra y a escribir canciones cuando era adolescente y formó una banda llamada "The Stones" en la escuela secundaria. Después de graduarse de la escuela secundaria, Scialfa asistió a la Universidad de Miami, donde conoció a Bruce Springsteen.
En 1984, Scialfa se unió a la E Street Band como corista y guitarrista. Desde entonces, se ha convertido en miembro de pleno derecho de la banda y contribuye al proceso de composición. Scialfa ha lanzado cuatro álbumes en solitario:"Rumble Doll" (1993), "23rd Street Lullaby" (2004), "Play It as It Lays" (2007) y "Constant Craving" (2016).
Scialfa también ha estado involucrado en varios proyectos con otros artistas, incluidos Bob Dylan, Southside Johnny and the Asbury Jukes y Nils Lofgren. También ha escrito y producido canciones para otros artistas, incluidos Bonnie Tyler y Keith Richards.
Scialfa está casada con Bruce Springsteen y tienen tres hijos juntos. Continúa de gira y grabando con la E Street Band y es considerada una de las músicas más respetadas en la industria musical.