Cijeli brojevi

Za zapisivanje brojeva općenito, pa i u kompjuteru, koristi se niz znamenaka u nekom brojevnom sustavu. U tu svrhu treba odrediti bazu #tex2html_wrap_inline39434# Na pr. u dekadskom sustavu je #tex2html_wrap_inline39436# a u binarnom #tex2html_wrap_inline39438# Računati ne možemo s beskonačno mnogo znamenaka. To ne može niti kompjuter. Dapače, on je ograničen svojim fizičkim mogućnostima, hardwareom. Ograničenje se odnosi na broj znamenaka #tex2html_wrap_inline39440# koje može upotrebiti za zapis jednog broja. Broj #tex2html_wrap_inline39442# se zove preciznost. Uređeni par #tex2html_wrap_inline39444# zove se format. Cijeli brojevi se u kompjuteru zapisuju u formatu #tex2html_wrap_inline39446# ili #tex2html_wrap_inline39448# Dakle radi se o brojevima koji se zapisuju pomoću znamenki 0 i #tex2html_wrap_inline39451# razmještenih na #tex2html_wrap_inline39453# ili #tex2html_wrap_inline39455# mjesta. Pri tom se prvo mjesto koristi za predznak. Broj 0 označava pozitivan broj, #tex2html_wrap_inline39458# negativan. Pojedino mjesto na koje možemo upisati jednu znamenku zove se bit. Imamo sljedeći algoritam za pretvaranje broja zapisanog u dekadskom sustavu u binarni.

Algoritam 11   Neka je #tex2html_wrap_inline39461# dekadski zapis broja. Računamo #math2975#

#tex2html_wrap_indisplay39463#;SPMnbsp; ;SPMnbsp; za #tex2html_wrap_indisplay39464#

gdje je #math2976#

#tex2html_wrap_indisplay39466#

Račun provodimo sve dok ne dobijemo #tex2html_wrap_inline39468#

Primjer 3.23   Treba za broj koji ima dekadski zapis #tex2html_wrap_inline39471# naći binarni zapis. Rješenje.
#tex2html_wrap_inline39473# 0 #tex2html_wrap_inline39476# #tex2html_wrap_inline39478# #tex2html_wrap_inline39480# #tex2html_wrap_inline39482# #tex2html_wrap_inline39484# #tex2html_wrap_inline39486# #tex2html_wrap_inline39488# #tex2html_wrap_inline39490# #tex2html_wrap_inline39492# #tex2html_wrap_inline39494#
#tex2html_wrap_inline39496# #tex2html_wrap_inline39498# #tex2html_wrap_inline39500# #tex2html_wrap_inline39502# #tex2html_wrap_inline39504# #tex2html_wrap_inline39506# #tex2html_wrap_inline39508# #tex2html_wrap_inline39510# #tex2html_wrap_inline39512# #tex2html_wrap_inline39514# #tex2html_wrap_inline39516# #tex2html_wrap_inline39518#
#tex2html_wrap_inline39520# 0 #tex2html_wrap_inline39523# #tex2html_wrap_inline39525# #tex2html_wrap_inline39527# 0 0 #tex2html_wrap_inline39531# #tex2html_wrap_inline39533# #tex2html_wrap_inline39535# #tex2html_wrap_inline39537# #tex2html_wrap_inline39539#
Dakle binarni zapis je #math2977##tex2html_wrap_inline39577#

Tako se u formatu #tex2html_wrap_inline39579# dekadski broj #tex2html_wrap_inline39581# zapisuje kao #math2978#

#tex2html_wrap_indisplay39583#

Segment određen donjom i gornjom granicom zapisa zove se rang. Budući da u formatu #tex2html_wrap_inline39585# imamo #tex2html_wrap_inline39587# bitova za upis znamenaka (jedan bit je rezerviran za predznak), i budući da se mogu koristiti samo znamenke 0 i #tex2html_wrap_inline39590# najveći broj koji tako možemo zapisati je #math2979#

#tex2html_wrap_indisplay39592#

Najmanji cijeli broj koji se tako može zapisati je #tex2html_wrap_inline39594# Tako je rang u ovom slučaju #math2980#

#tex2html_wrap_indisplay39596#

Ovakav zapis brojeva se zove zapis pomoću fiksnog zareza (fixed-point). U aritmetici foksnog zareza postoje greške, no mi ćemo se ovdje ograničiti samo na neke aspekte pojave grešaka kod zapisa i raračunanja s realnim brojevima.