数学式，物理・工学などの現象を記述する基礎方程式やモデル方程式を離散化してコンピュータを用いて数値的に解を得たり，現象の再現・予測・解明を行うこと．高精度な解を効率よく求めるためには適切なスキームおよび現象を正確に記述することのできるモデルを使用することが重要であり，またそれらを構築する必要がある．一般に数値計算では実数を有限けたの浮動小数点として扱うので，計算機の丸め誤差などについても十分考慮する必要がある．