Der Begriff „Volksschule“ wurde im Jahre 1779 zum ersten Mal erwähnt und ist historisch mit dem Gedanken einer Schule für das Volk und mit der Einführung der Schulpflicht verbunden.

Dabei galt als "Volk" zunächst die einfache Bevölkerung im Gegensatz zu den gehobenen Ständen.  Im Laufe der Zeit verschob sich die Bedeutung der Schulpflicht hin zu einer Mindestausbildung, die alle Bürger haben sollten.

Lange waren die Volksschulen Bildungseinrichtungen der Kirchengemeinden. Die Ablösung von der Kirche fand erst im 20. Jahrhundert statt.

Vorläufer der Volksschulen waren im Spätmittelalter die Schreib- und Leseschulen und die Rechenschulen sowie nach der Reformation die Küster- und Sonntagsschulen. Die Volksschule wurde auch als Elementarschule, auf dem Lande Dorf- oder Landschule bezeichnet.

Als ein wichtiger Förderer des Volkschulwesens gilt der preußische König Friedrich Wilhelm I. (1683-1740; König ab 1713), der im Jahre 1717 das Edikt zur allgemeinen Schulpflicht erließ. Dieses besagte, dass Kinder vom fünften bis zum zwölften Lebensjahr in die Schule gehen und erst entlassen werden sollten, wenn sie lesen und schreiben konnten.

Unter Friedrich II. von Preußen (1712-1786; König ab 1740) wurde die Schulzeit im Jahre 1763 auf acht Jahre festgelegt.

In Deutschland erwarb man lange nach acht Jahren, also mit 14 Jahren, den Volksschulabschluss. Je nach Bundesland gibt es seit den sechziger oder siebziger Jahren mit dem Hauptschulabschluss nach neun Jahren eine vergleichbare Ausbildung.