De exacte oorsprong van de term "deep learning" is onzeker, maar verschillende invloeden hebben waarschijnlijk bijgedragen aan haar opkomst:
- Het artikel van Geoffrey Hinton uit 2006 over diepe neurale netwerken hielp het concept populair te maken.
- Onderzoekers zoals Yoshua Bengio gebruikten de term veelvuldig in het begin van de jaren 2000.
- Sommige taalkundigen verbinden het aan het idee van "diepe structuur" in de cognitieve psychologie.
- Het ontstond als een manier om meerlaagse neurale netwerken te onderscheiden van ondiepere traditionele machinelleermodellen.
- Vooruitgang in rekenkracht, met name GPU's in het einde van de jaren 2000, maakte het trainen van diepere netwerken praktisch.
Tegenwoordig beschrijft "deep learning" de tak van machine learning die zich richt op kunstmatige neurale netwerken met veel verborgen lagen.
Met betrekking tot vogels