Lös Ax=b, där

i flyttalssystemet
.
När vi lagrar matrisen och högerledet i datorn får vi
avrundningsfel. Detta ger upphov till en avvikelse mellan den exakta
lösningen och den som vi kan beräkna med datorn. Vi måste nu
besvara frågan:
Hur stort kan felet i lösningen bli p g a avrundning till flyttal av elementen i A och b?
Eftersom

gäller

Konditionstalet för matrisen är

Med hjälp av störningsteorin får vi

I detta flyttalssystem måste matrisen betecknas som ganska illa-konditionerad.
Hur stor avvikelse kan vi få om vi löser systemet i IEEE dubbel precision (flyttalssystemet (2,52,L,U))?
This document was generated using the LaTeX2HTML translator Version 95.1 (Fri Jan 20 1995) Copyright © 1993, 1994, Nikos Drakos, Computer Based Learning Unit, University of Leeds. The command line arguments were:
latex2html -split 0 storning_ex.tex. The translation was initiated by Lars Elde'n on Mon Nov 27 16:27:51 MET 1995