11-11-20, 15:16
|
| Όνομα: Κώστας Έκδοση λογισμικού Office: Ms-Office 2016, Ms-Office 365 Γλώσσα λογισμικού Office: Ελληνική | | Εγγραφή: 14-09-2010
Μηνύματα: 13
| |
Παράθεση:
Αρχική Δημοσίευση από kapetang  Αν έχουμε ένα δεκαδικό με λίγα δεκαδικά, δεν συνεπάγεται ότι θα αποθηκευτεί στον υπολογιστή με απόλυτη ακρίβεια.
Ο αριθμός 0,1 για την ακριβή αποθήκευσή του, απαιτεί άπειρα ψηφία (0, 1) του δυαδικού συστήματος.
Συνεπώς αν για την αποθήκευσή του χρησιμοποιήσω 64 θα αποθηκευτεί κατά προσέγγιση.
Λεπτομέρειες για τα παραπάνω στο σύνδεσμο: https://courses.chemeng.ntua.gr/file...-errors_v1.pdf
Στο προηγούμενο μήνυμα έβαλα λάθος σύνδεσμο. | Κατάλαβα τι εννοείς. διάβασα το κείμενο. Έκανα τα πεδία double και φαίνεται να λειτουργεί σωστά. Ή τουλάχιστον στο βάθος των υπολογισμών που θέλω να βγάζει σωστά.
|