Mafia 2 se desarrolla a finales de los 40 y principios de los 50, en una ciudad ficticia llamada Empire Bay la cual abarca 16 kilómetros cuadrados. El protagonista será Vito Scaletta, un joven estadounidense hijo de padres inmigrantes que vuelve a casa tras su involuntario paso por la guerra tras cometer un delito hace años, al llegar a Empire City, Joe Barbaro, su amigo de infancia le recibe, y comienza a introducirle en los peligrosos circuitos de la mafia.