Paitsi algebrallisesti differentiaaliyhtälö voidaan pyrkiä ratkaisemaan numeerisesti. Tällöin täytyy yhtälön lisäksi olla annettuna sellainen alkuehto, että ratkaisu on yksikäsitteinen. Ratkaistavana on siten alkuarvoprobleema.
Ajatuksena on laskea diskreettejä argumentin arvoja vastaavat ratkaisufunktion arvot:
Jos alkuehto on annettu pisteessä x0, niin muodostetaan pisteistö x0 < x1 < x2 < . . . . Usein tämä on tasavälinen, ts. xk+1 = xk + h kaikilla k = 0, 1, 2, . . . . Tavoitteena on laskea ratkaisufunktion y approksimaatiot näissä pisteissä: yk y(xk). (Pisteistö voi luonnollisesti sijaita myös alkuehtokohdasta taaksepäin: x0 > x1 > x2 > . . . , jolloin h < 0.)
Approksimaatiot yk lasketaan iteratiivisesti: arvon yk+1 laskeminen perustuu jo aiemmin laskettuihin arvoihin y0, y1, . . . , yk. Laskentamenetelmiä on useita erilaisia. Tyypillisesti ne ovat tietokonemenetelmiä.
Menetelmät ovat likimääräisiä ja tuottavat aina jossain määrin virheellisiä arvoja. Numeerinen laskenta tietokoneessa aiheuttaa myös aina pyöristysvirheitä. Laskennan tarkkuuden arviointi on siten oleellinen kysymys.
Eri menetelmät eroavat toisistaan tarvittavan laskentatyön suhteen ja sen suhteen, minkä tyyppisille differentiaaliyhtälöille ne soveltuvat. Argumenttiarvojen xk etäisyys toisistaan, ts. askelväli h voi myös vaihdella, ja sen sopivalla valinnalla voidaan vaikuttaa laskennan tarkkuuteen. Tällöin puhutaan adaptiivisista menetelmistä.
Askelpituus h on yleensä melko pieni. Sen pienentäminen merkitsee ratkaisufunktion arvojen laskemista tiheämmin, mutta samalla laskentatyö kasvaa, koska halutulle tarkasteluvälille mahtuu useampia pisteitä xk. Laskentatyön kasvaminen merkitsee usein myös laskennassa tapahtuvien pyöristysvirheiden kumuloitumista. Askelpituuden pienentäminen ei siten välttämättä johda tarkempaan ratkaisuun.
Tarvittavan laskentatyön määrä voi olla oleellinen: laskutoimitusten määrä jossakin sovellusongelmassa voi nousta niin suureksi, että sillä on oleellinen vaikutus laskenta-aikaan myös nopeita tietokoneita käytettäessä.