12-04-2009, 11:30
|
|
|
חבר מתאריך: 10.10.07
הודעות: 2,500
|
|
בתגובה להודעה מספר 1 שנכתבה על ידי dorM שמתחילה ב "האם המחשבונים המדעיים מעגלים את המספרים בחישובים גדולים?"
באופן עקרוני, כל מחשב (גם מחשבי על) מעגל תוצאות.
במחשבון שלך, ערך המספר נשמר ככל הנראה כמשתנה 32 ביט (ועוד ביטים למעריך).
זו גם הסיבה העיקרית שמחשבי על מדעיים משתמשים במשתנים של 64 ו 128 ביט.
הדיוק לא מושפע מגודל החזקה, אלא רק ממספר הביטים שמיצג את הערך (תנסה 2 חלקי 3) - למחשבון שלך יש דיוק של כ 10 ספרות עשרוניות, וב CALC של חלונות יש כ 32 ספרות עשרוניות, אך בכל מקרה - תמיד יבוצע עיגול בסוף.
_____________________________________
Elim
|