Za zapisivanje brojeva općenito, pa i u kompjuteru, koristi se niz znamenaka u nekom brojevnom sustavu. U tu svrhu treba odrediti bazu Na pr. u dekadskom sustavu je a u binarnom Računati ne možemo s beskonačno mnogo znamenaka. To ne može niti kompjuter. Dapače, on je ograničen svojim fizičkim mogućnostima, hardwareom. Ograničenje se odnosi na broj znamenaka koje može upotrebiti za zapis jednog broja. Broj se zove preciznost. Uređeni par zove se format.
Cijeli brojevi se u kompjuteru zapisuju u formatu ili Dakle radi se o brojevima koji se zapisuju pomoću znamenki 0 i razmještenih na ili mjesta. Pri tom se prvo mjesto koristi za predznak. Broj 0 označava pozitivan broj, negativan. Pojedino mjesto na koje možemo upisati jednu znamenku zove se bit.
Imamo sljedeći algoritam za pretvaranje broja zapisanog u dekadskom sustavu u binarni.
Rješenje.
0 | |||||||||||
0 | 0 | 0 |
Tako se u formatu dekadski broj zapisuje kao
Ovakav zapis brojeva se zove zapis pomoću fiksnog zareza (fixed-point). U aritmetici fiksnog zareza postoje greške, no mi ćemo se ovdje ograničiti samo na neke aspekte pojave grešaka kod zapisa i računanja s realnim brojevima.