מחולל מספרים אקראיים

גלגל רולטה, שיטה פרימיטיבית ליצירת מספרים אקראיים

בחישוביות, מחולל מספרים אקראיים (מכונה בקיצור RNG, ראשי תיבות של המונח האנגלי Random number generator) הוא התקן פיזי או חישובי המייצר רצף סימנים (מספרים) חסרי תבנית או סדר דטרמיניסטי כלשהו, דהיינו אקראיים. מערכות מבוססות מחשב נפוצות יותר ביצירת מספרים אקראיים, אם כי לא תמיד איכותן טובה, אף על פי שרובן עוברות בהצלחה מבחנים סטטיסטיים לוודא שאין להן דפוס קבוע כלשהו. קיים מגוון גדול של מקורות טבעיים להפקת מספרים אקראיים, חלקם היו ידועים מימי קדם וחלקם אמצעים חדשים כגון אלו המבוססים על מכניקה קוונטית.

השיטות הפרימיטיביות ליצירת מספרים אקראיים – קרי קוביות משחק, הטלת מטבע, ערבוב קלפים, גלגל רולטה ומכונת לוטו – עדיין מצויות בשימוש כיום, בעיקר לצורך משחקי הימורים. הן לא מתאימות כאשר נדרשת כמות גדולה של מספרים אקראיים באיכות גבוהה, כגון בסטטיסטיקה מדעית או בקריפטוגרפיה, ובמיוחד לא נוחות ליישום במחשב. תופעות טבע שונות, כמו רעש תרמי, נראות על פניהן כאקראיות אמיתיות ויכולות לשמש כבסיס לחומרה ייעודית, אולם מרביתן סובלות מהטיה המקלקלת את אקראיותן, עובדה שנוצלה בעבר על ידי מהמרים, במיוחד במשחקי רולטה ובלאק ג'ק.

שיטות פיזיקליות (חומרה)

בהנחה שניתן להגדיר מספרים אקראיים, המקום הטוב ביותר למצוא אותם הוא בתופעות טבע או בתופעות כאוטיות. חומרה ליצירת מספרים אקראיים היא מכשיר המתוכנן לנצל תופעות כאלה, דוגמת רעש תרמי, רעש חשמלי, האפקט הפוטואלקטרי או תופעות "קוונטיות" אחרות. אירועים אילו נחשבים תאורטית כבלתי צפויים לחלוטין, דבר שצריך להיבחן אמנם ביישום מעשי.

מכשיר טיפוסי כזה עשוי לכלול רכיב הגברה שתפקידו להעביר את אירוע הטבעי ליחידה מיקרוסקופית ומתמר שתפקידו להמיר את אירוע לאות דיגיטלי. בשיטות אחדות ממירים "מקור רעש" למחרוזת סיביות אקראית באמצעות התקן עצמאי המחובר למחשב. הרעש מוגבר, מסונן ומעובד לסיביות לפני העברתו דרך התקן אחר שנקרא קומפרטור (משווה) המייצר אות לוגי שמשנה מצבים, או שהאות הלוגי מועבר למחשב באמצעות RS-232. בגישה אחרת מנצלים התקן המובנה במרבית המחשבים המודרניים, ממיר דיגיטלי/אנלוגי.

מנורת לבה, הבועות מרחפות בנוזל בתנועות אקראיות

מכשירים אחרים מבוססים על אירועים מאקרוסקופיים כאוטיים כמו גלגל רולטה. אקראיותם נשענת על תאוריות בתחום מערכות דינמיות ותורת הכאוס, הטוענות שעל אף שאירועים אלו דטרמיניסטיים באופיים לפי חוקי המכניקה הקלאסית, במציאות מתרחשים באופן שלא ניתן לחיזוי משום שהם רגישים למשתנים סביבתיים ותנאים התחלתיים מורכבים ועדינים.

אירועים כאוטיים ניתנים להמרה לאות דיגיטלי באמצעים שונים. חברת סיליקון גרפיקס צילמה מנורות לבה כדי לייצר מהתמונות מספרים אקראיים. תאגיד RAND פיתחו מכשיר אלקטרוני המדמה גלגל רולטה כדי לייצר מספרים אקראיים. רעיונות אחרים הם לצלם בועות אוויר באקווריום או שמיים ביום מעונן ולהמיר את התמונות למחרוזת אקראית. קומודור 64 מחשב אישי שהיה פופולרי בשנות השמונים הכיל מחולל חומרה שמוקם בכרטיס הקול והשתמש בהמרת אות אנלוגי לאות דיגיטלי ליצירת מספרים אקראיים. היות שהתופעות הללו אינן נקיות מהטיות סטטיסטיות, מכשירים מתוחכמים יותר עשויים לנצל כמה מקורות ולבצע סינון של אותות בעלי תבנית קבועה או אותות המושפעים מתנאים חיצוניים כלשהם.

בכל מקרה, התוצאה של התקנים פיזיים כאלה אינה נקייה לחלוטין מהטיות סטטיסטיות. על פי רוב פלט מחולל כזה אינו אקראי לגמרי וסובל מהשפעות גורמים חיצוניים כמו מתח חשמלי, מגנטיות, טמפרטורה או התיישנות. עקב כך אפשר בניתוח הסתברותי של הפלט לנחש מהי הסיבית הבאה ברצף בסיכויים גבוהים מחמישים אחוז בשיעור מסוים. על כן מקובל בדרך כלל לבצע תיקונים, אילו נעשים לאחר ייצור המספרים בחומרה המיוחדת לכך או באמצעות תוכנה.

מקורות טבעיים

להלן מספר מקורות טבעיים המאפשרים יצירת אקראיות אמיתית:

  • רעש שוט; מקור רעש קוונטי במעגל חשמלי. דוגמה פשוטה היא דיודת אור, שבשל עקרון אי הוודאות פוטונים הנתקלים במעגל גורמים לשינויי מתח מקריים. מחשב Atari 8-bit השתמש בשיטה כזו.
  • קרינה רדיואקטיבית; כמו זו המשמשת במערכות גילוי עשן מסוימות. הקרינה נמדדת באמצעות מונה גייגר המחובר למחשב. חברת HotBits מנצלת טכניקה כזו.
  • פוטונים; חלקיקי אור העוברים דרך מראה חצי שקופה. מוצר מסחרי של חברת id Quantique מבוסס על טכנולוגיה דומה.
  • רעש תרמי; רעש הנובע מנגד המוגבר באמצעות מגבר ליצירת מקור מתח אקראי. תופעות מסוג זה קלות ליישום ורגישות לטמפרטורה של המערכת. ומאותה סיבה פגיעות להתקפות ניסיון לשינוי טמפרטורת המכשיר.
  • רעש מפולת; רעש הנוצר מדיודת מפולת או מדיודת זנר.
  • רעש אטמוספירי או רעש לבן; נמדד באמצעות מקלט רדיו המחובר למחשב. חברת Random.org משתמשת בשיטה זו. פרטים על כיצד מנוצל הרעש לצורך מספרים אקראיים אפשר למצוא באתר החברה.
  • מנורת לבה; טכניקה ידועה של צילום התנועה האקראית של בועות שעווה צמיגות במכל זכוכית ויצירת מספרים אקראיים מהתמונות. המחולל האקראי Lavarand של חברת סיליקון גרפיקס פעל בשיטה כזו.
  • ערבוב פריימים של סרטי וידאו או תמונות של שמים ביום מעונן. חברת טכנולוגיות ליתיום האמריקאית השתמשה במצלמה קבועה שכוונה לשמים ביום מעונן כדי לייצר מספרים אקראיים.
  • פיגור שעון (clock drift); תופעה הקיימת בשעונים כמו שעוני יד שנוטים לפגר או למהר לאחר זמן. הפרש הזמן הנמדד בין השעונים אינו קבוע ויכול לשמש כמקור לאקראיות. שעונים פועלים על מתנד קריסטלי או קוורץ המייצר אות חשמלי מחזורי. גרסה מסוימת של מרכזת אינטל כוללת התקן המנצל תופעה זו. המחולל מורכב משני מתנדים אחד מהיר והשני אטי ודיודה תרמית לאפנון המתנד האיטי שמפעיל בתורו מדידה של המתנד המהיר. פלט המדידות עובר דה-קורלציה לפני שהופך לרצף אקראי. על עיקרון דומה פועל מחולל חומרה המובנה במעבדי VIA Technologies, גרסה אחת שלו פועלת על שילוב של ארבעה מתנדים במקצבים שונים. תוצאת XOR של שניים מהם משמשת להטיה של המתנד השלישי שבתורו משמש לשליטה במתנד הרביעי המייצר את הסיביות האקראיות. אקראיות מערכת מסוג זה מנצלת את העובדה ששינויים מינוריים במשתנים סביבתיים כמו טמפרטורה ומתח חשמלי משפיעה על קצב המתנדים ובכך מושגת אנטרופיה גבוהה. קצב העבודה של מחוללים אילו גבוה, הפלט הגולמי מופק בקצב של עשרות מגה בית בשנייה והגישה אליהם מוגבלת ברמת משתמש כדי למנוע ניסיון לשלוט במחולל.

מרבית המכשירים המבוססים על התופעות המנויות בדרך כלל יקרים לייצור ותחזוקה, נוטים להיות אטיים מאוד ותוצאתם לא תמיד נקייה מנטייה סטטיסטית בשל רגישותם הרבה לתנאים סביבתיים ומשתנים חיצוניים. כיוון שכך, נוהגים למצוא פשרה סבירה בין אקראיות מושלמת הנובעת מחומרה ייעודית מחד ואקראיות אלגוריתמית (חישובית) מאידך, על ידי ניצול אנטרופיה זולה וזמינה. מרבית אפליקציות האבטחה מנצלות אנטרופיה טבעית שאפשר להפיק מהמערכת עצמה; אפליקציות מסוימות דורשות מהמשתמש לספק מחרוזת ארוכה של קואורדינטות עכבר או הקשות מקלדת אקראיות. אלגוריתמים אחרים דוגמת Yarrow משתמשים בטכניקה של איסוף נתונים אקראיים מגוונים לתוך "מאגר" (pool), שם הם מעובדים באמצעות פרימיטיבים קריפטוגרפיים כמו אלגוריתם הצפנה או פונקציית גיבוב, לפני שמופק פלט אקראי. בכך מושג שיפור באקראיות ללא צורך בחומרה יקרה. טכניקה זו פגיעה להתקפות קורלציה, היות שחלק מהנתונים הללו קל לניחוש. לא קשה למשל לנחש את נתוני שעון מערכת ששימשו לאתחול המחולל, אם ידוע טווח הזמן המשוער שבו התבצעה קריאה למחולל.

ספריית Cryptolib המכילה אוסף שגרות ספרייה קריפטוגרפיות בשפת C++‎, מיישמת אלגוריתם הנקרא TrueRand ליצירת מספרים אקראיים המבוסס על רעיון המתנד. מרבית המעבדים המודרניים מכילים שני מתנדי גביש מובנים, אחד עבור שעון זמן אמת ואחד עבור שעון מעבד ראשי. אלגוריתם TrueRand מנצל עובדה זו, האלגוריתם משתמש בשרות (service) מערכת שעוצר את שעון זמן האמת. תת-שגרה אחת קובעת עצירה למשך קליק שעון אחד (1/60 של שנייה) בעוד שתת-שגרה אחרת נכנסת ללולאת המתנה. מאחר שהעצירה לא נמשכת בדיוק קליק שעון אחד, הסיבית הנמוכה ביותר של מונה הלולאה בין עצירה להפעלה של השעון השני, תהיה אקראית. בסביבה מרובת משימות אלגוריתם כזה עלול להיתקל בהשפעות לא אקראיות במקרה שמערכת ההפעלה תעצור את הלולאה הפנימית כדי לבצע מטלות אחרות.

מחולל פסידו אקראי

ערך מורחב – מחולל מספרים פסידו-אקראיים

מחולל פסידו אקראי (PRNG) הוא אלגוריתם המסוגל לייצר כמות נכבדה של מספרים עם מאפייני אקראיות טובים באיכותם, אך לא אקראיים באמת ועל כן מכונים "מדומים". אחת השיטות הנפוצות להפקת מספרים פסידו אקראיים היא אלגוריתם linear congruential generator (בקיצור LCG) שמשתמש בנוסחת הנסיגה: . מחולל זה מייצר רצף מספרים פסידו אקראיים שגודלם אינו עולה על גודלו של ומחזוריותו אינה גבוהה מ-. בשל פשטותו המחולל נמצא בשימוש נרחב כיום.

השיטה הראשונה והפשוטה ביותר ליצירת מספרים אקראיים (שיטת עט ונייר הנקראת "אמצע הריבוע") הומצאה ב-1946 על ידי ג'ון פון נוימן. מעלים מספר בריבוע ונוטלים רק את הספרות האמצעיות כמספר אקראי וחוזר חלילה. השיטה אמנם קלה לביצוע אך איכותה ירודה. מרבית שפות התכנות כוללות פונקציות או שגרות ספריה התומכות ביצירת מספרים אקראיים כמו בשפת C (שמממשת ואריאציה של LCG). לעיתים הפונקציה מחזירה שבר עשרוני בהתפלגות אחידה בטווח ולעיתים מספר שלם. מקובל שהפונקציה האקראית כוללת פונקציית עזר נוספת, המאפשרת למשתמש לאתחל את המחולל ממקור אקראי כלשהו במחשב, כמו מספר מילי השניות שחלפו מאז הפעלתו או נתוני מערכת (חסרי חשיבות) אחרים.

פונקציות ספריה סטנדרטיות לרוב בעלות מאפיינים סטטיסטיים גרועים וחלקן בעלי מחזוריות כה קצרה שאחרי כמה עשרות אלפי מספרים המחולל מתחיל לחזור על עצמו בהעתק מדויק. עבור יישומים פשוטים כמו משחקי מחשב הם מספקים אקראיות סבירה. כשמדובר במשחקי הימורים בסכומים גבוהים, בקריפטוגרפיה או בניתוחים סטטיסטיים מדעיים, לא מומלץ להשתמש בהם.

מהיבט של תורת האינפורמציה, צ'ייטין וקולמוגורוב הוכיחו שרצף סיביות לא יקרא אקראי "אמיתי" אם יכול היה להיווצר על ידי תוכנת מחשב הקצרה ממנו. מחוללים פסידו אקראיים נפוצים אינם עומדים בדרישה זו. פלט המחולל בסיביות עולה לאין שיעור על אורכה של תוכנת המחשב המיישמת אותו. ישנן כמה הגדרות פורמליות לאקראיות, העדר תבנית או דפוס קבוע כלשהו ברצף האקראי או רמת אנטרופיה שלו (ראה דונלד קנות').

מעצם ההגדרה בהינתן האלגוריתם והמצב ההתחלתי, ניתן לשחזר במדויק את הרצף האקראי שהפיק המחולל. אפילו בהינתן מידע חלקי של מצב פנימי כלשהו של המחולל, עשוי הדבר להקל על ניחוש חלק או מלוא הרצף שהמחולל ייצר. בנוסף, היות שהמחולל מתחיל ממצב התחלתי בגודל סופי כלשהו וכמות הזיכרון אינה בלתי מוגבלת, בשלב כלשהו יחזור הרצף על עצמו שוב. אמנם המחוללים הנפוצים כיום מכילים מחזוריות עצומה, בסדר גודל של מיליוני סיביות. קיימת שאלה פתוחה האם ניתן להבחין בהבדל בין פלט מחולל כזה לבין רצף אקראי אמיתי, ללא ידיעת המצב ההתחלתי והאלגוריתם. קריפטוגרפיה מסתמכת על ההשערה שלא ניתן לזהות הבדל כזה תוך שימוש בעוצמת חישוב מוגבלת.

כיוון שהמחוללים הפסידו אקראיים הרגילים אינם מתאימים לצורך קריפטוגרפיה. לצד השיטות הרגילות, ברוב מערכות ההפעלה קיימות שגרות ספרייה יותר איכותיות ליצירת מספרים פסידו אקראיים המתאימות למטרות קריפטוגרפיות, כמו CryptGenRandom של מיקרוסופט או dev/random של לינוקס.

יישומים מעשיים

אחד היישומים הראשונים ליצירת מספרים אקראיים היה כדורי פינג פונג ממוספרים שנופחו באוויר ונשלפו בדרך כלשהי ממכל ערבוב. טכניקה זו מגיעה לתוצאות טובות והיא בשימוש עד היום בעיקר בהגרלות לוטו, בשיטה זו נעשה שימוש כבר על ידי הסינים כמאתיים שנה לפני הספירה במשחק הימורים שנקרא קנו. חסרונה שהיא אטית מאוד ואינה מתאימה לתהליכים ממוכנים.

בעבר פרסמו חברות שונות ברשת האינטרנט רשימות של מספרים אקראיים שנלקחו ממקורות שונים. ב-1995 פרסם תאגיד RAND ספר המכיל רשימה של מיליון מספרים אקראיים שנוצרו באמצעות סימולציה אלקטרונית של גלגל רולטה שחובר למכונת ניקוב. הרשימה הוכנה לאחר סינון ובדיקה קפדניים והייתה הראשונה מסוגה. עקב פרסומה ברבים רשימה זו לא מתאימה לצורך מפתחות הצפנה או גרעין התחלתי למחולל פסידו אקראי קריפטוגרפי, עיקר התועלת ברשימה כזו היה הדמיה לצורך מחקר מדעי.

השימושים העיקריים כיום במחוללים אקראיים הוא במשחקי הימורים למיניהם, במיוחד משחקי הימורים אלקטרוניים, דגימות סטטיסטיות, הדמיות מחשב ומשחקי מחשב, סימולציות מדעיות וקריפטוגרפיה. ככלל תכונת האי-צפיות (אנטרופיה גבוהה) חשובה בעיקר באפליקציות אבטחה, בהן מחולל מבוסס חומרה עדיף באופן כללי על פני מחולל פסידו אקראי, היכן שהדבר אפשרי. למשל השולח והמקבל יכולים לשחזר רצף אקראי מתוך גרעין התחלתי סודי המשותף להם ולהשתמש בו כמפתח הצפנה. צופני זרם פועלים בדיוק בדרך זו.

מחוללי מספרים פסידו אקראיים מסייעים בפיתוח סימולציות בשיטת מונטה קרלו. יתרונם בכך שהם מאפשרים לשחזר את הרצף האקראי שוב ושוב אם משתמשים באותו גרעין התחלתי.

מספרים אקראיים נפוצים בתכנות, בניגוד לקריפטוגרפיה הדורשת אקראיות באיכות גבוהה מאוד, למרבית היישומים דרושה בדרך כלל אקראיות בינונית. יישומים המציגים "טיפ יומי" אקראי, משחקי מחשב המדמים פעולות של יריב או יישומים המבצעים מיון וחיפוש במסד נתונים, לא זקוקים לאקראיות באיכות גבוהה. מעבר לכך, נגני מדיה המאפשרים השמעת מוזיקה בסדר אקראי, דורשים בדרך כלל ששיר לא יחזור על עצמו פעמיים ברצף, דרישה שאינה הכרחית בהגדרה הבסיסית של אקראיות. יתרה מזו, מערכת אקראית אמיתית תאפשר מעצם ההגדרה חזרה של אלמנטים מסוימים מספר לא גדול של פעמים. אם ידוע שהמחולל אינו מייצר מספר אלמנטים עוקבים, מהווה הדבר פגם בסיסי.

הכנות ובדיקות סטטיסטיות

אפשר לייצר מספרים אקראיים באמצעות התקן המנצל תופעה פיזית ותיקון הטיות אם ישנן באמצעים שונים. היתרון הוא שהפלט במקרה זה ייקרא אקראי "אמיתי". אולם משיקולים מעשיים (כלכליים) הנטייה כיום היא להסתפק בתהליך חישובי דטרמיניסטי המייצר רצף מספרים ארוך שנראה על פניו כאקראי הנגזר ממקור אקראי אמיתי קצר, אותו מכנים פסידו-אקראי. אלגוריתם פסידו אקראי ידוע שנבדק היטב בעזרת מבחנים סטטיסטיים קפדניים מהווה חלופה זולה וסבירה. ארגוני תקינה בינלאומיים מפיצים תקנים שונים לבדיקת טיב מחוללים אקראיים ופסידו אקראיים.

כל מחולל אקראי חייב לעבור בדיקות סטטיסטיות לפני שאפשר יהיה לבטוח באיכות הפלט שלו. מחוללים פיזיים רגישים להשפעות חיצוניות כמו טמפרטורה, הספקת חשמל, התיישנות או השפעות אחרות ועלולים לסבול מכשל אטי ומתמשך שאינו מורגש לעין, או מירידה חדה באיכותם. לעיתים שגיאות או תקלות ברמת חומרה קשות לאיתור. באותה מידה, מחוללים חישוביים פסידו אקראיים עשויים גם הם לסבול מכשל לוגי כלשהו. ישנן שיטות מתמטיות להערכת אנטרופיה של פלט אקראי, הן יעילות אך ורק כדי להצביע על מאפיינים המעידים על מידת אי-הצפיות, אך לא כדי לקבוע האם רצף הוא אקראי אמיתי או לא. גם בהינתן מקור אקראי הטוב ביותר האפשרי, אין זה קל להבטיח שאקראיות המספרים המופקים מהמחולל אינה מוטה (unbiased) לחלוטין לצד כלשהו.

הבעיה לקבוע האם מספר אקראי שיוצר באמצעות המחולל, הוא אקראי "אמיתי" היא בעיה מאוד קשה. גם אם יעבור בהצלחה מבחנים סטטיסטיים אין זה מוכיח שהרצף באמת אקראי. לצורך המחשה נתון הרצף האקראי הבא (40 סיביות):

11100 01100 01000 10100 11101 11100 10010 01001

אם נכפיל אותו 4 פעמים ונשרשר אותם למחרוזת אחת באורך 160 סיביות, כמובן שהתוצאה לא תהיה אקראית כלל. למרות זאת נראה שהמחרוזת האמורה תעבור בהצלחה מספר מבחנים סטטיסטיים. אם כי המחרוזת לא תעבור בדיקת אוטו-קורלציה, אפשר לראות כי המבחנים הסטטיסטיים אינם מספקים הוכחה וודאית לאקראיות.

הלבנה (whitening)

כמעט כל רצף אקראי גולמי שנוצר אם באמצעים פיזיים או באמצעים חישוביים, סובל מהטיה סטטיסטית וקורלציה. ישנן כמה דרכים לתיקון ההטיה מה שקרוי "הלבנה" בשל הזיקה לרעש לבן. אפשר לתקן הטיות בחומרה בשלב ייצור המספרים, באמצעים טכניים או אלקטרוניים ואפשר לעשות זאת בשיטות חישוביות.

ג'ון פון נוימן המציא שיטה פשוטה ויעילה הנקראת "דה-קורלציה" להסרת הטיה אם קיימת מרצף אקראי כדלהלן: בכל שלב מטפלים בשתי סיביות קלט, אם התקבלו שתי סיביות זהות מדלגים עליהן (מסירים אותן מהרצף), אם התקבל הזוג "01" מוחקים את האפס ומתקבל "1" ואם מתקבל הזוג "10" משנים ל-"0". השפעת טכניקה זו על הקלט היא שללא תלות במקורו, במחיר של איבוד כמה סיביות, הקלט מתקרב להתפלגות סטטיסטית של חמישים אחוז. השיטה פשוטה וקלה ליישום בחומרה או במחשב.

שיטה אחרת לתקן הטיה של רצף אקראי ולצמצם קורלציה היא לשלבו עם רצף אקראי אחר באיכות גבוהה, כמו חישוב XOR של הרצף האמור עם רצף פסידו אקראי קריפטוגרפי. התוצאה תהיה באיכות שאינה עולה על איכות הרצף הטוב מבין השניים.

דרך אחרת היא לשלב שני רצפים בעלי 'אקראיות חלשה' באמצעות XOR ולייצר מהם רצף אקראי באיכות גבוהה יותר. אם ההסתברות של סיבית אפס בשני הרצפים היא כאשר אזי הוא ההטיה של הרצף. אם מחברים ב-XOR את שני הרצפים יחד מתקבל רצף בעל הטיה ל-. אם חוזרים על הפעולה מספר פעמים עם רצפים אחרים מצמצמים את e יותר. עובדה זו נובעת מהתכונה של האופרטור XOR ולֶמת ההצטברות.

המחוללים הקריפטוגרפיים משתמשים בפונקציית גיבוב קריפטוגרפית כמו SHA או MD5 כדי לתקן הטיה וקורלציה. אפשר לנצל גם פונקציית תיקון שגיאות (CRC) או אלגוריתם הצפנה. טכניקה זו אטרקטיבית מכמה סיבות, ראשית היא מהירה וקלה ליישום, שנית בתכנון מחולל קריפטוגרפי, משתדלים להסתמך על פרימיטיבים קריפטוגרפיים הקיימים במערכת ממילא, בכך חוסכים משאבים וזמן. איכות הפלט במקרה כזה תלויה לגמרי באיכות פונקציית הגיבוב או ההצפנה. שגם לאחר השימוש בהן תיתכן עדיין תאורטית הטיה קלה.

מבחנים סטטיסטיים

קיים מגוון גדול של מבחנים סטטיסטיים לבדיקת איכות מחולל אקראי. המבחנים לא נועדו להוכיח מתמטית שהרצף שהמחולל מייצר אקראי, אלא לאתר נקודות תורפה במחולל שעשויות להעיד על אקראיות לקויה. הבדיקות נעשות על דגימה של הפלט בסיביות. כל מבחן סטטיסטי קובע האם הרצף הנדון מכיל מאפיינים מסוימים שנצפו מראש ברצף אקראי אמיתי. תוצאת מבחן או ניסוי כזה אינה דטרמיניסטית אלא הסתברותית. למשל רצף אקראי אמיתי אמור להכיל סיביות אפס ואחד במספר שווה בקירוב. אם הרצף הנדון אינו עונה על דרישה זו אפשר לומר שהמחולל שייצר את הרצף נכשל בניסוי. לעומת זאת אם מספר הסיביות אחד ואפס שווה בשיעור סטייה מסוים שנקבע מראש, אפשר לומר שהרצף האקראי "התקבל". במונח התקבל מתכוונים שאין דוחים את טענת אקראיותו. גם אם הרצף עובר בהצלחה מבחן סטטיסטי נתון, אין הדבר מהווה הוכחה מוחלטת לאקראיותו אלא יותר מעין אישוש הסתברותי.

רוב המבחנים הסטטיסטיים מבוססים על התפלגות נורמלית והתפלגות כי בריבוע (). התפלגות נורמלית היא סכום מספר גדול של משתנים מקריים בלתי תלויים בעלי תוחלת ושונות זהים. משתנה מקרי הוא בעל התפלגות נורמלית אם פונקציית הצפיפות שלו היא מהצורה:

מסמנים זאת . במקרה ש- מתקבלת התפלגות נורמלית "סטנדרטית" מהצורה:

הנקראת גם "עקומת הפעמון" בשל העובדה שגרף הפונקציה סימטרי ביחס לציר ה- בכך מתקבלת צורת פעמון. המעבר מהתפלגות נורמלית של להתפלגות נורמלית סטנדרטית הוא .

התפלגות עם דרגות חופש מתרחשת כאשר סוכמים ריבועי משתנים מקריים בלתי תלויים בעלי התפלגות נורמלית סטנדרטית. ניתן להשתמש בהתפלגות כדי לייצג את מידת ההתאמה בין תדירות אירועים שנצפו לבין התדירות המשוערת תחת הנחה (היפותזה) הסתברותית כלשהי. פונקציית הצפיפות של התפלגות כי בריבוע היא מהצורה:

, עבור גדול מאפס והפונקציה נקראת פונקציית גמא המוגדרת: עבור גדול מאפס.

אם הוא משתנה מקרי בעל התפלגות עם דרגות חופש, אזי . במילים אחרות מייצג את ההסתברות ש- יחרוג מהערך הצפוי בנקודה . קיימות טבלאות מוכנות של ערכי התפלגות כי בריבוע, שאפשר להשתמש בהן כמקור להשוואה. במקרה של התפלגות נורמלית סטנדרטית כאשר אומרים שהמשתנה הוא בעל התפלגות כי בריבוע עם דרגת חופש אחת.

ניסוי סטטיסטי הוא תהליך שבהתבסס על ערכים שנצפו במשתנה מקרי אחד או יותר, מאשש היפותזה סטטיסטית הנקראת השערת האפס (אותה מסמנים ) המייצגת טענה בנוגע להתפלגות המשתנה או המשתנים בהתאם לרמת מובהקות . רמת המובהקות מייצגת את ההסתברות שהשערת האפס תתקבל או תדחה (גם בניגוד לנכונותה). מצב שבו השערת האפס נדחית למרות היותה נכונה (כאשר ערך גבוה מדי) נקרא "טעות מסוג I". לעומתה, טעות מסוג II עלולה להתרחש כאשר רמת המובהקות נמוכה מדי, אז קיימת סכנה שהשערה תתקבל למרות היותה שגויה, דהיינו במקרה זה הרצף ייחשב כאקראי אף על פי שאינו כזה.

את הניסוי עורכים עם "נתון" סטטיסטי שהוא פונקציה של אלמנטים מהדגימה (כגון מספר האפסים או האחדים בדגימה). הנתון צריך להתאים להתפלגות הנורמלית או כי בריבוע של רצף אקראי אמיתי. את ערכי הנתון משווים עם ערכים ידועים מראש. לדוגמה אם מתאים להתפלגות כי בריבוע עם דרגות חופש וידוע שהנתון הסטטיסטי לצורך הניסוי אמור לקבל ערכים גבוהים יותר במקרה של אקראיות לקויה, קובעים ערך "סף" לפי נתון ידוע מראש (בדרך כלל בעקבות ניסויים בערכים אקראיים אמיתיים) ומחשבים את , אם תוצאת הניסוי הנתון נמוכה מערך זה הרי שהרצף נכשל בבדיקה. בדרך דומה מחשבים את ערכי עבור כל ניסוי ספציפי ובודקים אם תוצאת הניסוי נמוכה מערך זה. אם בכל המקרים התוצאה גבוהה, אפשר לקבל את הרצף כאקראי. כמובן שיש להביא בחשבון אחוז נמוך של תוצאות, אפילו במקרה של רצף אקראי אמיתי שעלולות להיות נמוכות מערכי הסף שנקבעו, מה שמעיד כביכול על אקראיות לקויה. קביעת ערכי סף היא משימה קשה, ערכי סף בדרך כלל נקבעים אמפירית.

להלן מפורטים שישה מבחנים סטטיסטיים בסיסיים (המובאים בספר Handbook of Applied Cryptography). במבחנים המתוארים הוא סדרה של סיביות באורך . כאשר צריך להיות גדול, בין ל- (מיליון סיביות). רמת המובהקות נקבעה כאן (ערכים אחרים אפשריים אך דורשים התאמות בערכי הסף). דוגמה לטבלת ערכים באחוזים של התפלגות נורמלית כצפוי מהתנהגות משתנים אקראיים:

0.1 0.05 0.025 0.01 0.005 0.0025 0.001 0.0005
1.2816 1.6449 1.9600 2.3263 2.5758 2.8070 3.0902 3.2905

למשל בכניסה והערך , משמעות הדבר שאם בעל התפלגות נורמלית סטנדרטית אזי חורג מהערך בנקודה זו בחמישה אחוז מהמקרים בקירוב.

מבחן תדירות (monobit test)

בדיקה דו-כיוונית שמטרתה לוודא שמספר מופעי סיביות '1' ו-'0' זהה בקירוב, כצפוי מרצף אקראי. אם ו- מייצגים את סיביות '0' ו-'1' בהתאמה אזי הנוסחה היא:

מבחן סריאלי (two bit test)

מטרת הבדיקה לקבוע האם מספר הזוגות 00, 01, 10, 11 המופיעים ברצף זהה בקירוב כצפוי מרצף אקראי. אם , , , מייצגים את הזוגות האמורים בהתאמה, אזי הנוסחה היא:

מבחן פוקר (poker test)

מחלקים את הרצף ל- חלקים כל אחד בגודל סיביות כאשר מקיים והערך מייצג את מספר המופעים של החלק ה-. מבחן פוקר בודק האם מספר כל המופעים ברצף זהה בקירוב למספר הצפוי מרצף אקראי באמצעות הנוסחה:

מבחן פוקר הוא הכללה של מבחן תדירות רק שכאן בודקים תדירות מופעים של תת-רצפים הגדולים מ-1.

מבחן ריצות (runs test)

מטרת הבדיקה לקבוע האם מספר הריצות (רצפים של סיביות אפס או אחד עוקבות) באורכים שונים, מופיעים ברצף בתדירות הצפויה מרצף אקראי. ריצה של אחדים נקראת כאן block ואילו ריצה של אפסים נקראת gap. מספר הריצות באורך ברצף באורך צריך להיות אם ו- מייצגים את ריצות האפס והאחד בהתאמה, אזי נוסחת מבחן הריצה היא:

כאשר . ו- מייצג את הריצה הארוכה ביותר כך שמתקיים .

מבחן אוטוקורלציה (auto-correlation)

מטרת המבחן היא לחפש קורלציה (רמת מתאם) בין קטעים חופפים של הרצף. אם הוא ערך הנמוך מ- מספר הסיביות ב- שאינן מתאימות להזחה הוא: . נוסחת האוטו-קורלציה היא:

מבחן אוניברסלי של מאורר

יולי מאורר (Ueli M. Maurer) פרסם בירחון הקריפטוגרפיה (1992), מבחן אוניברסלי למחולל פסידו אקראי, שבניגוד למבחנים אחרים, מסוגל לאתר כל סוג של סטייה סטטיסטית משמעותית של פלט המחולל מפלט אקראי אמיתי. הרעיון מבוסס על העובדה שאם פלט המחולל ניתן לדחיסה משמרת (ללא איבוד מידע) באופן משמעותי, הפלט אינו אקראי. במקום לנסות לדחוס את הפלט ממש, אלגוריתם מאורר מנסה להעריך את אורך הרצף הנבדק לאחר דחיסה. חסרונו העיקרי של האלגוריתם שנדרשת עבורו דגימה של פלט ארוך במידה רבה מהדרוש במבחנים המתוארים לעיל.

הרעיון של אלגוריתם מאורר הוא כדלהלן: מחלקים את הרצף s למקטעים לא חופפים כל אחד בגודל סיביות ( הוא בטווח ), כאשר מספר הגושים הכולל צריך להיות . הערך צריך להיות לפחות ו- צריך להיות לפחות . הערך מייצג את המספר השלם שהייצוג הבינארי שלו הוא הגוש בטווח . מייצרים טבלה עם כניסות, ב- הכניסות הראשונות מציבים את מספר הגוש האחרון שהופיע, כלומר עבור מ-1 עד מציבים כאשר מייצג את מספר הגוש ברצף. הכניסות הנותרות משמשות לחישוב הסטטיסטי כדלהלן. עבור כל גוש מ- עד מציבים בכניסה את . מסכמים את המרחקים עבור כל הגושים, כלומר את מספר הגושים מהמופע האחרון של הגוש ההאמור עד לגוש הנוכחי, מחשבים את הלוגריתם בבסיס 2 של הסכום הסופי ומחלקים ב-. כדלהלן:

מאורר פרסם כמו כן טבלה של ערכי התוחלת והשונות עבור הפרמטרים השונים (בטווח שבין 6 ל-16) לצורך רמת מובהקות () עבור המבחן האוניברסלי.

תקן FIPS PB800-22 לבדיקת אקראיות

המכון האמריקאי לסטנדרט וטכנולוגיה (NIST) פרסם במאי 2001 את PB800-22, חבילת תוכנה ותיעוד נלווה הכוללת מבחנים סטטיסטיים למחוללים אקראיים ופסידו אקראיים עבור אפליקציות קריפטוגרפיות. החבילה כוללת 16 מבחני אקראיות חזקים, המבוססים על מחקרים שנעשו בתחום עבור הממשל. כמו כן החבילה כוללת מספר ערכים קבועים לייחוס, המלצות ודוגמאות. להלן תקציר 16 המבחנים:

1. The Frequency (Monobit) Test

מבחן תדירות הבודק אם מספר המופעים של '0' ו-'1' זהה בקירוב כצפוי מרצף אקראי. מבחן תדירות ידוע כמבחן החשוב ביותר ומומלץ לביצוע תחילה. אם הרצף הנבדק נכשל במבחן זה, מומלץ לעצור את הבדיקה ולהכריז על המחולל כלקוי, היות שרוב הסיכויים שהרצף לא יעבור את יתר המבחנים המנויים.

2. Frequency Test within a Block

מבחן תדירות דומה למבחן הקודם מלבד זאת שהמבחן מתמקד במספר סיביות '1' בגושים בגודל סיביות. ברצף אקראי אמיתי מספר סיביות '1' בממוצע בגוש נתון שואף ל- (אם מתקבל מבחן התדירות הראשון).

3. The Runs Test

מבחן ריצות; מבחן דו כיווני הבודק אם מספר הריצות באורכים שונים ברצף הוא כצפוי מרצף אקראי. "ריצה" היא רצף של סיביות עוקבות זהות (0 או 1). המבחן בודק את מידת התנודתיות של הרצף, דהיינו המעבר מרצפים של אפס לרצפים של אחד וחוזר חלילה. מעבר מהיר מדי (הרבה ריצות קצרות) או אטי מדי (מעט ריצות ארוכות) מעיד על אקראיות לקויה.

4. Test for the Longest-Run-of-Ones in a Block

מבחן ריצות ארוכות; מבחן הבודק אם הריצה הארוכה ביותר של אחדים (מזה משתמע גם אפסים) בגוש נתון אינו עולה על השיעור הצפוי מרצף אקראי.

5. The Binary Matrix Rank Test

מבחן דרגת מטריצה בינארית; מבחן הבודק את דרגות תת-מטריצות עוקבות של הרצף. המטרה היא לבדוק תלויות ליניאריות בתת-קטעים באורך קבוע מהרצף הנבדק ולהשוות את התוצאות מול תוצאות ידועות הצפויות מרצף אקראי.
הדמיה של התמרת פורייה של רצף אקראי; בתרשים העליון לא נראית מחזוריות כלשהי, לעומתו בתרשים התחתון נראית בבירור מחזוריות המעידה על אקראיות לקויה

.

6. The Discrete Fourier Transform (Spectral) Test

מבחן ספקטרלי (התמרת פורייה); מבחן הבודק מאפייני מחזוריות או דפוסיות ברצף הנבדק על ידי התמרת פורייה בדידה של הרצף. המבחן מתמקד במספר ה"פיקים" ותדירותם.

7. The Non-overlapping Template Matching Test

מבחן התאמת תבניות לא חופפות; מבחן המתמקד בבדיקת תדירותן של תבניות קצרות קבועות מראש ברצף האקראי. "תבניות" הן רצפים בינאריים קצרים לא מחזוריים שנבחרו מראש. הסריקה מתבצעת באמצעות חלון בגודל סיביות שתחילתו בסיבית הראשונה ברצף, אם לא נמצאה התאמה בין הסיביות שבחלון לבין תבנית נתונה, מתבצעת הזחה של החלון בסיבית אחת. אם נמצאה התאמה מתבצעת קפיצה של סיביות ברצף וחוזר חלילה. מופעים רבים מדי של תבניות זהות מעידים על אקראיות לקויה.

8. The Overlapping Template Matching Test

מבחן התאמת תבניות חופפות; בדומה למבחן הקודם, אך בשינוי קל. כאשר נמצאת התאמה בין התבנית לבין סיביות החלון מתבצעת הזחה של החלון רק בסיבית אחת. בכך מתאפשרת בדיקה גם של תבניות חופפות ברצף.

9. Maurer's "Universal Statistical" Test

מבחן אוניברסלי של מאורר; אלגוריתם הבודק את מידת הדחיסות של הרצף הנקבעת לפי פרמטרים שחושבו מראש. מידת הדחיסות מאפשרת להעריך את מידת אקראיות הרצף. ככל שהרצף דחיס יותר כך אקראיותו נמוכה יותר.

10. The Lempel-Ziv Compression Test

מבחן דחיסת למפל-זיו; מבחן המנסה לבדוק את מידת אקראיות הרצף על ידי יישום וריאציה של אלגוריתם למפל זיו לדחיסת נתונים. בדומה למבחן הקודם ההנחה היא שככל שהרצף ניתן לדחיסה יותר כך אקראיותו נמוכה יותר. העיקרון הוא לבנות מילון של כל המילים (words) בכל האורכים (עד גבול מסוים) המופיעים ברצף. מספר המילים הסופי במילון משפיע על רמת האקראיות. מספר נמוך מעיד על אקראיות גרועה.

11. The Linear Complexity Test

מבחן סיבוכיות ליניארית; מיושם באמצעות LFSR. כל רצף אקראי יכול להיות צירוף ליניארי כלשהו של רצף קצר יותר. למשל רצף באורך L סיביות יכול לשמש ליצירת רצף אקראי ארוך יותר על ידי חיבור בינארי או שילוב של חלק מהסיביות הקודמות והזזה צעד אחד לימין. אלגוריתם ברלקמפ-מסי מחשב סיבוכיות ליניארית של רצף סיביות על ידי מציאת אוגר ההזזה הקטן ביותר האפשרי, אתו ניתן לשחזר את הרצף כולו. בעיקרון ככל שה-LFSR גדול יותר כך מידת האקראיות גבוהה יותר.

12. The Serial Test

מבחן סריאלי; מבחן המתמקד בהסתברות מופעים של תבניות חופפות של m סיביות ברצף כולו. ברצף אקראי אחיד הסיכויים שרצף של סיביות יופיע שווה לסיכויים של כל רצף אחר. כמובן שאם מתקבל מבחן התדירות הראשון. ההבדל הוא שבמבחן זה בודקים תדירות של קטעים גדולים יותר מ-1 (כמו ). עבור רצף באורך סיביות צריך להיות נמוך מ-.

13. The Approximate Entropy Test

מבחן אנתרופיה משוערת; בדומה למבחן הסריאלי במבחן זה בודקים תדירות מופעים של כל המחרוזות האפשריות באורך סיביות לאורך כל הרצף אלא שכאן בודקים את תדירות גושים חופפים בגדלים סמוכים כמו ו- סיביות מול תוצאות ידועות שנצפו ברצפים אקראיים. בדרך זו נבדקת מידת הסדירות או אי-הסדירות של הרצף.

14. The Cumulative Sums (Cusums) Test

מבחן סכום מצטבר; מבחן הבודק את אופי התנועה סביב האפס בהילוך אקראי הנקרא גם "הילוך שיכור". ההילוך האקראי כאן מתבצע על ידי חישוב הסכום המצטבר של סיביות הרצף כשהם מוחלפות ב- ו- בהתאמה. הגרף הנוצר מהילוך אקראי ברצף אקראי אמיתי, מראה שקיימת תנודתיות מסוימת סביב ציר האפס. בדיקה והשוואה של התנודתיות של הרצף הנבדק מעידה על טיב אקראיותו. תנועה הדוקה מדי או מופרעת מדי מעידה על אקראיות לקויה.

15. The Random Excursions Test

מבחן הילוך אקראי; בדומה לבדיקה הקודמת, כאן מתמקדים במספר המעגלים או ביקורים בנקודה מסוימת בסכום המצטבר של הילוך האקראי. "מעגל" של הילוך אקראי הוא סדרת צעדים אקראיים ביחידות מרחק מוגדרות שחוזרת לאחר מספר מסוים של צעדים לנקודת המוצא. הרעיון של המבחן הוא לבדוק אם מספר הביקורים (מעגלים) בנקודות מוצא שונות הוא בתדירות הצפויה מרצף אקראי. המבחן מורכב למעשה מאיסוף מידע על 8 נקודות מוצא 4 מהם מעל האפס והיתר מתחת לאפס.

16. The Random Excursions Variant Test

מבחן הילוך אקראי (גרסה שונה); בהתבסס על המבחן הקודם, בגרסה זו בודקים את מספר הביקורים הכולל בנקודת מוצא נתונה בסכום המצטבר של ההילוך האקראי. המבחן למעשה מורכב מ-18 מצבים (נקודות מוצא) שונים.

אקראיות סטטיסטית והתפלגות סטטיסטית

כאשר עולה צורך במספרים אקראיים בעלי בהתפלגות נורמלית, אפשר להשתמש במספרים אקראיים בעלי התפלגות אחידה בטווח שבין אפס לאחד כדי לייצר מספרים בכל התפלגות רצויה על ידי העברתם בפונקציה הופכית של פונקציית התפלגות מצטברת, עם ההתפלגות הדרושה. כדי לייצר זוג מספרים אקראיים בלתי תלויים בעלי התפלגות נורמלית, אפשר לייצר תחילה קואורדינטות קוטביות כאשר ו- ערך בהתפלגות אחידה בטווח . ראו טרנספורמציית Box-Muller.

אפשר לייצר מספרים אקראיים גם באמצעות פונקציות התפלגות סטטיסטית כמו פונקציית הצטברות או פונקציית צפיפות של משתנה מקרי נורמלי. שיטה אחת היא שיטת ההיפוך האינטגרלית אתה משתמשים לייצר ערכי מדגם אקראיים מתוך כל התפלגות נתונה בהינתן פונקציית ההתפלגות המצטברת, בשיטה זו מחשבים את האינטגרל של שטח מסוים השווה או נמוך ממספר שנבחר באקראי מהטווח (0,1). שיטה אחרת נקראת "שיטת דחייה-קבלה", המשמשת גם היא ליצירת ערכים מדגמיים אקראיים מהתפלגות נתונה. בוחרים זוג ערכים x,y ובודקים אם הפונקציה של x גדולה או שווה לערך y. אם כן ערכו של x "מתקבל" אחרת ערכו "נדחה" וחוזר חלילה.

ראו גם

קישורים חיצוניים