Gylling Skoles historie strækker sig mere end 100 år tilbage. I 1893 blev skolen bygget, hvor den ligger i dag. Den har undergået store forandringer, men en del af de gamle mure står her endnu. I 1954 blev skolen ombygget på grund af krav i skoleloven af 1937. I 1960-63 blev den igen bygget om (58-loven).
Den 24. september 1983 på skolens 90 års fødselsdag blev skolen genindviet efter en totalrenovering og tilbygning (de flade tage) som følge af en konstant stigning i elevtallet og brandsynsarbejdskrav.
Den 26. september 1993 fejrede Gylling Skole en storstilet 100 års fødselsdag.