Khan nació en una familia musulmana. En1984 obtuvo una beca y estudió en la Escuela Nacional de Arte Dramático (NSD) de Nueva Delhi. Cuando terminó sus estudios se instaló en Bombay y comenzó a trabajar en diversos programas de televisión. Mas adelante llegaron las producciones de cine y podemos citar importantes películas comenzando por la más conocida en la que ha intervenido Slumdog Millionaire en el año 2009, en la que interpretaba a un inspector de policía. También le hemos visto en A mighty heart o en El buen hombre. Ha ganado dos premios Filmfare y un premio SAG.

Khan está casado con la escritora Sutapa Sikdar. Tienen un hijo, Babil.