גישה משמעותית למדידת מידע: כל מה שאתה צריך לדעת

לפני שתתחיל למדוד מידע, בואו להציג הגדרה ולהבין מה אנחנו מתמודדים.

הגדרה

מידע הוא מידע, מסרים, נתונים בכל הביטויים שלה, טפסים, ללא קשר לתוכן שלהם. אפילו שטות גמורה שנכתבה על פיסת נייר יכולה להיחשב למידע. עם זאת, הגדרה זו היא מן החוק הפדרלי הרוסי.

ניתן להבחין בין הערכים הבאים לבין התקנים הבינלאומיים:

• הכרת הנושאים, העובדות, הרעיונות, המשמעויות, הדעות שאנשים מחליפים בהקשר מסוים;
• ידע על עובדות, אירועים, משמעויות, דברים, מושגים, אשר בהקשר קונקרטי יש משמעות מסוימת.

הנתונים הם צורה ממומשת של ייצוג מידע, אם כי בכמה טקסטים שני מושגים אלה יכולים לשמש מילים נרדפות.

שיטות המדידה

מושג המידע מוגדר בדרכים שונות. הוא נמדד גם בדרכים שונות. ניתן להבחין בין הגישות הבסיסיות הבאות למדידת מידע:

1. גישה אלפביתית.
2. גישה הסתברותית.
3. גישה משמעותית למדידת מידע.

כולם תואמים הגדרות שונות ויש להם מחברים שונים אשר דעתם על הנתונים מגוונים. הגישה ההסתברותית פותחה על ידי A.N. Kolmogorov לא לקח בחשבון את הנושא של העברת מידע, כלומר, הוא מודד את הכמות שלה, לא משנה כמה חשוב עבור העברת וקבלה ישות. גישה משמעותית למדידת מידע, שנוצרה על ידי K. Shannon, לוקחת בחשבון יותר משתנים, והיא מעין הערכה לחשיבות של נתונים אלה עבור המדינה המארחת. אבל בואו נסתכל על הכל בסדר.

גישה פרוספקטיבית

כאמור, הגישות למדידת כמות המידע שונות מאוד. גישה זו פותחה על ידי שאנון ב -1948. הוא מורכב מכך שכמות המידע תלויה במספר האירועים ובהסתברותם. חישוב כמות המידע שהתקבלה בגישה זו יכולה להיעשות על פי הנוסחה הבאה, שבה אני הכמות הנדרשת, N הוא מספר האירועים, ו- p _i הוא ההסתברות של כל אירוע.

אלפבית

שיטה עצמאית לחלוטין של חישוב כמות של מידע. הוא לא לוקח בחשבון מה בדיוק כתוב בהודעה, ואינו מחבר את הסכום שנכתב עם התוכן. כדי לחשב את כמות המידע, אנחנו צריכים לדעת את הכוח של האלפבית ואת כמות הטקסט. למעשה, כוחה של האלפבית אינו מוגבל. עם זאת, מחשבים משתמשים באלפבית מספיק עם קיבולת של 256 תווים. לכן, אנו יכולים לחשב כמה מידע נושא בפני עצמו סמל אחד של טקסט מודפס במחשב. מאז 256 = 2 ⁸ , תו אחד הוא 8 סיביות של נתונים.

1 bit הוא כמות מינימלית, בלתי ניתנת לחלוקה של מידע. לדברי שאנון, זהו כמות של נתונים שמפחיתה את חוסר הוודאות של הידע בחצי.

8bit = 1 בתים.

1024 bytes = 1 קילו-בתים.

1024 קילו-בתים = 1 מגה-בתים.

חשבתי

כפי שניתן לראות, הגישות למדידת מידע שונות מאוד. יש דרך אחרת למדוד את כמותו. זה מאפשר לך להעריך לא רק את הכמות, אלא גם את האיכות. גישה משמעותית למדידת מידע מאפשרת לקחת בחשבון את התועלת של הנתונים. כמו כן, גישה זו פירושה כי כמות המידע הכלול ההודעה נקבעת על ידי כמות של ידע חדש כי אדם יקבל.

אם מתבטא נוסחאות מתמטיות, אז את כמות המידע שווה 1 bit, צריך להפחית את חוסר הוודאות של הידע האנושי 2 פעמים. לכן, אנו משתמשים בנוסחה הבאה לקביעת כמות המידע:

X = log ₂ H, כאשר X הוא כמות הנתונים שהתקבלו, ו- H הוא מספר התוצאות הבלתי ניתנות לצמצום. לדוגמה, אנו פותרים את הבעיה.

ללא שם: בואו יש פירמידה משולשת עם ארבעה צדדים. כאשר לזרוק אותו יש סיכוי שזה ייפול על אחד מארבעת הצדדים. לפיכך, H = 4 (מספר התוצאות equiprobable). כפי שאתה מבין, הסיכוי שהאובייקט שלנו ייפול על אחד הפרצופים וכך יישאר עומד פחות מאשר אם תזרוק מטבע ותצפה שהוא יעמוד זקוף.

הפתרון. X = log ₂ H = log ₂ 4 = 2.

כפי שאתה יכול לראות, התוצאה היא 2. אבל מה זה דמות? כאמור, יחידת המינימום הבלתי ניתנת לחלוקה היא מעט. כתוצאה מכך, לאחר הנפילה, קיבלנו 2 פיסות מידע.

גישות למדידת מידע משתמשות בלוגריתמים לחישובים. כדי לפשט פעולות אלה, באפשרותך להשתמש במחשבון או בטבלה מיוחדת של לוגריתמים.

תרגול

איפה אתה יכול להפיק תועלת הידע שנצבר במאמר זה, במיוחד נתונים על גישה משמעותית למדידת מידע? אין ספק, בבחינה במדעי המחשב. שאלה זו מאפשרת לך לנווט טוב יותר בטכנולוגיית המחשב, בפרט, במונחים של זיכרון פנימי וחיצוני. בפועל, ידע זה אין ערך מעשי, למעט במדע. לא מעסיק יאלץ אותך לחשב את כמות המידע במסמך מודפס או בכתב התוכנית. אלא אם כן תכנות, שבו תצטרך להגדיר את גודל הזיכרון שהוקצה למשתנה.