Watervallen worden meestal gevormd in de bovenloop van een rivier waar meren uitmonden in valleien in steile bergen. Vanwege hun landschappelijke ligging komen veel watervallen voor boven bedrock dat wordt gevoed door weinig bijdragend gebied, zodat ze efemeer kunnen zijn en alleen stromen tijdens regenbuien of aanzienlijk smelten van sneeuw. Hoe verder stroomafwaarts, hoe meer permanent een waterval kan zijn. Watervallen kunnen zeer uiteenlopende breedtes en dieptes hebben.
Wanneer de rivier over bestendig vast gesteente stroomt, gebeurt de erosie langzaam en wordt deze gedomineerd door de inslag van door het water meegevoerd sediment op het gesteente, terwijl stroomafwaarts de erosie sneller verloopt. Wanneer de snelheid van de waterloop aan de rand van de waterval toeneemt, kan hij materiaal van de rivierbedding plukken, indien de bedding gebroken of anderszins meer erodeerbaar is. Hydraulische stralen en hydraulische sprongen aan de teen van een waterval kunnen grote krachten genereren om de bedding te eroderen, vooral wanneer de krachten worden versterkt door met water meegevoerd sediment. Hoefijzervormige watervallen concentreren de erosie naar een centraal punt, waardoor ook de verandering van de rivierbedding onder een waterval wordt versterkt. Een proces dat bekend staat als “potholing” is plaatselijke erosie van een potentieel diep gat in het gesteente als gevolg van turbulente draaikolken die stenen ronddraaien op de bedding, waardoor deze wordt uitgeboord. Zand en stenen die door de waterloop worden meegevoerd, vergroten daardoor het erosievermogen. Hierdoor snijdt de waterval dieper in de bedding en trekt zich stroomopwaarts terug. Vaak zal de waterval zich na verloop van tijd terugtrekken en stroomafwaarts een canyon of kloof vormen, terwijl hij zich stroomopwaarts terugtrekt, en zich dieper in de bergkam erboven insnijden. De terugtreksnelheid van een waterval kan oplopen tot anderhalve meter per jaar.
Vaak, is de gesteentelaag net onder de meer resistente plank van een zachtere soort, wat betekent dat ondermijning als gevolg van terugspattend gesteente hier zal optreden om een ondiepe grot-achtige formatie te vormen die bekend staat als een rotsschuilplaats onder en achter de waterval. Uiteindelijk zal het meer resistente rotsblok onder druk bezwijken en blokken rots toevoegen aan de basis van de waterval. Deze rotsblokken worden vervolgens door uitputting in kleinere rotsblokken afgebroken als ze tegen elkaar botsen, en ze eroderen ook de basis van de waterval door schuring, waardoor stroomafwaarts een diep dompelbad in de kloof ontstaat.
Stromen kunnen breder en ondieper worden vlak boven watervallen doordat ze over de rotswand stromen, en er is meestal een diep gebied vlak onder de waterval door de kinetische energie van het water dat de bodem raakt. Een studie naar de systematiek van watervallen meldde echter dat watervallen breder of smaller kunnen zijn boven of onder een waterval, dus bijna alles is mogelijk, gegeven de juiste geologische en hydrologische setting. Watervallen vormen zich gewoonlijk in een rotsachtig gebied als gevolg van erosie. Na een lange tijd volledig gevormd te zijn, zal het water dat van de richel valt zich terugtrekken, waardoor een horizontale kuil ontstaat, evenwijdig aan de wand van de waterval. Uiteindelijk, als de put dieper wordt, stort de waterval in om te worden vervangen door een steil aflopend stuk rivierbedding. Naast geleidelijke processen zoals erosie kunnen aardverschuivingen door aardbevingen, aardverschuivingen of vulkanen een hoogteverschil in het land veroorzaken, waardoor de natuurlijke loop van een waterstroom wordt verstoord en watervallen ontstaan.
Een rivier stroomt soms over een grote stap in de rotsen die door een breuklijn kan zijn gevormd. Watervallen kunnen zich voordoen langs de rand van een gletsjertrog, waar een beek of rivier die in een gletsjer stroomt, in een dal blijft stromen nadat de gletsjer is teruggetrokken of gesmolten. De grote watervallen in Yosemite Valley zijn voorbeelden van dit fenomeen, dat hangende vallei wordt genoemd. Een andere reden waarom hangende valleien kunnen ontstaan, is wanneer twee rivieren samenvloeien en de ene sneller stroomt dan de andere.
Watervallen kunnen aan de hand van een logaritmische schaal in tien grote klassen worden ingedeeld op basis van het gemiddelde watervolume dat op de waterval aanwezig is (wat afhangt van zowel het gemiddelde debiet van de waterval als de hoogte ervan). Tot de watervallen van klasse 10 behoren de Niagara Falls, de Paulo Afonso Falls en de Khone Falls.
Klassen van andere bekende watervallen zijn onder meer de Victoria Falls en de Kaieteur Falls (klasse 9); de Rhine Falls en de Gullfoss (klasse 8); de Angel Falls en de Dettifoss (klasse 7); de Yosemite Falls, de Lower Yellowstone Falls en de Umphang Thee Lor Sue-waterval (klasse 6); en de Sutherland Falls (klasse 5).