|
Pour traiter les données, chaque fonction dans un programme d'ordinateur doit être informé à l'avance quel type de données s'attendre. Les langages de programmation font des distinctions que les humains pourraient trouver insignifiant. La plupart des gens trouvent peu de différence entre les numéros 2147483647 et 2147483648 . Pour le langage de programmation FORTRAN Toutefois , ces deux chiffres sont complètement différents types de données . De même, les numéros 34 et 34.001 ne peuvent pas être traités comme le même type d'information. Arrondi automatique et les opérations de conversion sont disponibles pour récupérer des réponses approximatives à des opérations mathématiques . Lorsque la précision numérique est important , un programmeur doit spécifier le type de données exact pour chaque variable d'entrée ainsi que la précision souhaitée pour la réponse. Instructions
1 déclarer une variable de type entier pour les opérations d'accepter et retourner les valeurs des nombres entiers compris entre - 2147483648 2147483647 et . La raison de cette différence à un seul chiffre dans les valeurs de retour est l'inclusion de 0 comme un nombre positif
2 déclarer une variable de type REAL pour les nombres avec une virgule décimale avec des valeurs comprises entre 10 ^ . - 38 et 10 ^ +38 ( 10 élevé à la puissance négative ou positive 38e ) .
3 augmenter la précision d'un nombre réel de doubler la quantité de nombres après la virgule inclus dans calculs de déclarer les variables et les réponses que DOUBLE PRECISION . Cette déclaration inclut nombre à peu près de l'ordre de 10 ^ -76 à 10 ^ 76 .
|
