Realni brojevi

Za kompjuterski zapis realnog broja obično se koristi format #tex2html_wrap_inline39599# ili #tex2html_wrap_inline39601# Za prvi format se kaže da se radi o jednostrukoj, a za drugi o dvostrukoj preciznosti. U formatu #tex2html_wrap_inline39603# realni broj se zapisuje u obliku #math2981#

#tex2html_wrap_indisplay39605#

gdje su #tex2html_wrap_inline39607# znamenke #math2982##tex2html_wrap_inline39609# a #tex2html_wrap_inline39611# je eksponent. Tako je u formatu #tex2html_wrap_inline39613# #tex2html_wrap_inline39615# #tex2html_wrap_inline39617# a znamenke #tex2html_wrap_inline39619# su 0 ili #tex2html_wrap_inline39622# U tom formatu prvi bit određuje predznak, a zadnjih osam eksponent, od kojih prvi određuje predznak eksponenta.
1#tex2html_wrap_inline39624#2#tex2html_wrap_inline39626#3#tex2html_wrap_inline39628#4#tex2html_wrap_inline39630#5
Realan broj se uvijek zapisuje u normaliziranom obliku, tj. u obliku u kojem je #math2983##tex2html_wrap_inline39632# To je zato da bi zapis broja bio jedinstven. Rang u ovom slučaju određuju minimalni i maksimalni eksponent. Maksimalni je #math2984#

#tex2html_wrap_indisplay39634#

dok je #math2985##tex2html_wrap_inline39636# Rang određujemo tako da nađemo onaj #tex2html_wrap_inline39638# za koji je #math2986#

#tex2html_wrap_indisplay39640#

Ako logaritmiramo, imamo #math2987#

#tex2html_wrap_indisplay39642#

Dakle rang je #math2988#

#tex2html_wrap_indisplay39644#

Ovakav zapis broja zovemo zapisom pomoću pomičnog zareza (floating-point). Greške nastaju na dva načina. Jedan način da nastane greška je taj da se slijedom operacija dođe do broja koji nije u rangu. U tom slučaju kažemo da se dogodio overflow. O tome nećemo govoriti. Drugi način kako moše doći do greške jeste kada želimo upisati ili kad operacijama dođemo do broja koji se ne može točno zapisati u formatu u kojem radi kompjuter. Na pr. dekadski broj #tex2html_wrap_inline39646# se ne može točno zapisati u formatu s bazom #tex2html_wrap_inline39648# bez obzira kolika bila preciznost. Pretvorba dekadskog zapisa u binarni u slučaju realnog broja #math2989##tex2html_wrap_inline39650# dan je ovim algoritmom.

Algoritam 12   Neka je #tex2html_wrap_inline39653# takav da je #math2990##tex2html_wrap_inline39655# Računamo nizove brojeva #tex2html_wrap_inline39657# i #tex2html_wrap_inline39659# iz formula
#math2991#
    #tex2html_wrap_indisplay39662#  
    #displaymath39664#  
    #tex2html_wrap_indisplay39666#  

Tada je #math2992##tex2html_wrap_inline39668# binarni zapis broja #tex2html_wrap_inline39670#

Pomoću ovog algoritma možemo utvrditi da binarni zapis dekadskog broja #tex2html_wrap_inline39672# glasi #math2993#

#tex2html_wrap_indisplay39674#