Die Idee der Datenbank entwickelte sich in den 1960er Jahren, als die Arbeit in einem einzelnen Dokument für den täglichen Gebrauch zu unübersichtlich wurde. Außerdem waren diese Dateien sehr eng an die Software gebunden. Es nahm viel Zeit in Anspruch, die enthaltenen Informationen zu kopieren oder zu konvertieren.
Das erste große System zu diesem Zweck war IMS (Sprache: DL/I). Dabei wurden hierarchische Datenbank Strukturen genutzt. Der Nachteil einer hierarchischen Datenbank ist, dass die Struktur nur schwer zu ändern ist, da diese, wie bei dem Filesystem eines Linuxsystems, auf „Unterordner“ und „Unterstrukturen“ basiert. Dadurch musste der Aufbau der Datenbank von Anfang sehr gut durchdacht werden, da spätere Änderungen nur schwer oder gar nicht möglich waren.
Alternativ dazu entwickelte CODASYL eine netzwerkartige Datenbank. Diese bestanden aus netzartig verbundenen Tabellen und Dateien. Der Vorteil daran war, dass die Struktur sehr flexibel war und dadurch leicht zu ändern. Dadurch war es aber auch nicht mehr möglich besonders komplexe Datenbanken zu konzipieren. Man musste also überlegen ob mein ein starres, aber sehr robustes System oder ein flexibles und dadurch beschränkteres System nutzen möchte.
Die erste relationale Datenbank (System R) wurde in den 1960er und 1970er Jahre von IBM entwickelt. Darauf folgte die Berkley Group mit Ingres (Sprache: QUEL).
Oracle nutze die Grundlagen der System R und schaffte mit SQL den Durchbruch. IBM schloss sich mit SQL/DS und DB2 der SQL Technik an. Innerhalb der 1980er Jahre wurden hierarchische und netzwerkartige Datenbanken mehr und mehr von den relationalen verdrängt.
AB den 2000 erlangten Open Source Projekte wie MySQL und PostgreSQL immer mehr Bedeutung.
Da eine reine relationale Datenbank für moderne Internetdienste wie z.B. Amazon oder Spotify oft zu langsam ist, haben sich in den letzten Jahren mehr und mehr sogenannte noSQL Datenbanken entwickelt. Diese weichen von der Funktionsweise der SQL Datanabank ab um effizienter und schneller zu sein, indem sie nicht mehr ausschließlich an Tabellen gebunden sind. Jedoch wandelt sich der Trend von noSQL immer mehr zu Not only SQL. Das heißt, es ist im Grundsatz eine SQL Datenbank, allerdings mit Erweiterungen und Veränderungen um den Anwendungen gerecht zu werden.