Pendant des siècles, Chilly-Mazarin fut un village d’un peu plus de 400 habitants, la population ne passant sous ce plancher qu’après les guerres napoléoniennes puis la première guerre mondiale. Pourtant l’ouverture de la section Juvisy-Versailles du chemin de fer de grande ceinture en 1883 puis la création du chemin de fer de l’Arpajonnais en 1893 (qui mettait Chilly-Mazarin à une heure de Paris) ont permis une urbanisation avec la construction de quartiers  pavillonnaires, comme celui « de la ceinture », et des premiers lotissements. Le développement de l’automobile (et de l’autobus, qui a remplacé l’Arpajonnais en 1937) ont accompagné une augmentation de près de 1 300 habitants en 15 ans, entre les deux guerres.

Cette évolution n’avait été stoppée que par la deuxième guerre mondiale, et la population atteignait  3 411 habitants en 1962. 

L’arrivée de l’autoroute a permis une urbanisation rapide et massive de la ville dans le contexte de l’époque, quand se construisaient de grands ensembles qui permettaient un large accès au confort moderne pour les habitants des banlieues ouvrières, les occupants des habitats insalubres, les rapatriés d'Algérie et la main-d'oeuvre des grandes industries. La population montait alors à 16 936 habitants en 1975, soit une multiplication par quatre en 13 ans : c’est quasiment une ville nouvelle qui a été fondée, sans en avoir ni la conception d’ensemble préalable, ni le statut juridique permettant sa réalisation. Ainsi, ces constructions se sont faites sans vision urbanistique d’ensemble, sans plan d’occupation des sols, et certaines opérations ont été fortement contestées, comme la construction du domaine du Château, prévue pour 1000 logements, alors que 1400 ont été réalisés (voir L’hôtel de ville) ou celles de tours au Pré-du-Roi, ultérieurement annulées par le tribunal administratif (voir Non au béton ! La manifestation d'octobre 1974).

L’élection municipale de 1977 a marqué une césure dans l’évolution de la ville. En 2013, la population n’était encore que de 19 500 habitants : après une croissance de 1000 habitants par an de 1962 à 1975, une croissance de moins de 100 habitants par an pendant les 38 années suivantes.

A l’issue de la phase d’urbanisation massive, la population est restée stable pendant une vingtaine d’années, avec un desserrement dû essentiellement au vieillissement des familles et au départ de leurs enfants : selon l’Insee la proportion des moins de 19 ans, qui représentaient plus d’un tiers des habitants (35,3 %) en 1975, était descendue à un quart (25,1%) en 1999. Le nombre moyen de personnes par appartement, qui était de 3,3 en 1968, s’était réduit à 2,3 en 2006. Ce desserrement était juste compensé par les constructions nouvelles et l’apport de nouveaux habitants.

En revanche, de 2000 à 2020, la population a augmenté de 15%, soit un solde positif de 100 à 150 habitants par an en moyenne, et les moins de 19 ans représentent désormais près de 29 % de la population en 2016. 

La population légale de la ville a dépassé 20 000 habitants en 2017, et est établie à 20 320 habitants au 1^er janvier 2020.