הסיפור האמיתי מאחורי הסיפור "ארשת של הונאה"

ולמה זה אמור להטריד אותנו שמצלמות טובות יותר בלזהות אותנו מבני אדם

אתחיל בקידום עצמי קצר: באפריל האחרון פרסמתי בכתב העת "נכון" את הסיפור הקצר "ארשת של הונאה". על קצה המזלג, זהו סיפורה של מנתחת פלסטית המתבקשת לקחת חלק ב… ובכן, הונאה. רק שמדובר בהונאת ביטוח, והיא מתבצעת באמצעות אנדרואידים. אפשר לקרוא את הסיפור המלא כאן או לרכוש את האסופה בקישור הבא והבא.

זה אומנם סיפור מדע בדיוני, שרואה אור באסופת מדע בדיוני, אבל המדע שמאחוריו מעוגן היטב במציאות של ימינו. למעשה, קיבלתי את הרעיון לכתוב אותו בעקבות פיטץ' מכירות של סטארטאפ ישראלי בתקופה שבה עבדתי בעצמי בחברת ביטוח. לא צריך להתאמץ כדי לגלות באיזה סטארטאפ מדובר, ובכל מקרה הוא לא היחיד שעוסק בתחום זיהוי הפנים – הטכנולוגיה שנחשבת לדבר החם הבא בתעשיית האינשורטק, ולא רק היא.

ג'יימי אוליבר נותן את השני סנט שלו על טכנולוגיית זיהוי הפנים, בקולנוע ובכלל

חברות הביטוח, כמו גם התעשיות הביטחוניות, מותגי הלייפסטייל, ומה לא – מעוניינים בזיהוי פנים משום שהוא מאפשר להם לזהות מגמות לפני שהן מתרחשות. הדוגמה הכי קלאסית היא של מחבל שניתן לזהות לפני שהוא מוציא לפועל פיגוע, אבל עם הטכנולוגיה של היום אפשר גם לזהות קמטים לפני שהם נוצרים בפנים, ואפילו סימנים מקדימים של סכרת ויתר לחץ דם. אז כן, טכנולוגיה מזהה פנים יכולה בפוטנציה להציל חיי אדם, אבל היא גם יכולה לשלול מאדם בריא ביטוח בריאות מהעבודה, בגלל סימנים מקדימים למחלה כזאת או אחרת – מה שיכול בפוטנציה למנוע ממנו טיפול רפואי או לייקר אותו מאוד.

חברות הביטוח יטענו להגנתן שלטכנולוגיית זיהוי הפנים יש הצדקה חברתית. כשכולנו משלמים פרמיות ביטוח כדי לממן את הטיפול של מספר חולים מצומצם, שניתן היה לחזות מראש את מצבם הרפואי, הפרמיות מתייקרות שלא לצורך. מן הסתם, גם החברות עצמן חוסכות מיליארדי דולרים כשהן לא מבטחות לקוחות עם מחלות שטרם התפרצו, ולפיכך לא מוזכרות בשום מקום בהצהרת הבריאות. אבל האמת היא שהטכנולוגיה פגומה כבר היום מסיבות אחרות, שאין להן שום קשר לתאוות בצע.

למה הטכנולוגיה פגומה?

נתחיל מכך שטכנולוגיית זיהוי הפנים היא גזענית במובהק, כלומר היא מתקשה מאוד להבדיל בין תווי הפנים של אנשים לא לבנים. בכך היא לא שונה בהרבה מקורטנה, סירי או כל אחת מהאינטליגנציות המלאכותיות האחרות שפותחו על ידי גברים לבנים ויודעות בעיקר לזהות קולות של גברים דוברי אנגלית במבטא אמריקני. רק שבמקרה של זיהוי פנים, מדובר בטכנולוגיה שעובדת *לרעתם* של אנשים לבנים, או לפחות לכאורה. היא תזהה בלי בעיה עוברי אורח לבנים בעלי תיק פלילי, אבל גם תצביע על כל מי שנתוניו אינם מפוענחים היטב – כלומר אינו לבן – כחשוד פוטנציאלי.

קיימת אומנם כבר טכנולוגיה שנועדה למנוע את האפשרות של זיהוי פנים, וסביר להניח שהשימוש בה הוא לא רק בשם הצדק החברתי. אבל בינתיים, מספר המצלמות במקומות ציבוריים המצוידות בטכנולוגיית זיהוי פנים עולה מיום ליום, מה שיוצר מקרי מבחן מעניינים באופן שבו אותה טכנולוגיה מתקבלת בקרב הציבור שבה בעת מודע ולא מודע לכך שעוקבים אחריו.

כדי כך, בעוד רבים מאתנו התרגלו לפתוח את הסמארטפון באמצעות סריקה של תווי הפנים, בהודו כבר התעוררה סביב הנושא מחלוקת של ממש. נטען, בין היתר שהטכנולוגיה משמשת את הממשל לעקוב אחר אקטיביסטים במחוזות המוסלמים של המדינה. נטען גם שהיא משמשת את העשירים לצרכי אבטחה פרטיים על חשבון אוכלוסיות עניות שזקוקות לה על מנת להילחם בפשיעה. באוקראינה אפילו משתמשים בה לצרכי תעמולה, כשיוצרים קשר עם אימותיהם של חללים רוסים לאחר שסורקים את תווי הפנים שלהם.    

לא כל השימושים הם פוליטיים. באנגליה הטכנולוגיה מותקנת בבתי קזינו, שם היא מנוצלת למעקב אחר הלקוחות העשירים ביותר. לקוחות עשירים שלא נהנים מהמשקה שהוגש להם, או מפגינים סימנים של עייפות, זוכים מיד לפינוקים על חשבון הבית כדי לוודא שיישארו עד כמה שניתן. וסופרי הקלפים למיניהם? בתי הקזינו כבר משתפים תמונות שלהם מזמן, כך שהם נזרקים מעבר לדלת עוד לפני שהספיקו להיכנס בה.

זיהוי פנים בספרות ובקולנוע

בתי הקזינו באנגליה הם כנראה רק הסנונית מקרב החברות שבוודאות ינצלו את זיהוי הפנים לצרכים מסחריים. כלומר, על מנת להציב ללקוחות פרסומות מפולחות יותר. רואים זאת מצוין בסרט "דוח מיוחד", כשהדמות אותה מגלם טום קרוז מנסה לשווא להתחמק מפרסומות רעשניות המותאמות לה באמצעות סריקת גלגל העין.

מעניין לחשוב על כך שבשנת 2002, בה הסרט יצא, עוד היה מוזר ואף מפחיד לשמוע את הפרסומות קוראות בקול רם בשמו של הגיבור (ובכך מאיימות להסגיר את מיקומו למשטרה). היום כולנו רגילים, ואף מצפים, שהפרסומים שמגיעים אלינו ישתמשו בשמנו הפרטי. רק תסתכלו בדיוורים שמגיעים אליכם מספקי השירות בדואר האלקטרוני (ונפתחים כולם ב-"הי, X").

הסצנה בה טום קרוז חומק מפרסומות בסרט "דוח מיוחד"

בסרט "דוקטור סטריינג' בממדי הטירוף" יש סצנה מטרידה עוד יותר. הגיבור ובת הלוויה שלו מתהלכים בשדרה עתידנית בשם memory lane שבלי התרעה מוקדמת סורקת את בת הלוויה ומציגה לה זיכרון מעברה. מדובר בזיכרון של היום בו איבדה את שתי האימהות שלה בגלל טרגדיה הקשורה למסע בזמן. למען הסר ספק, מדובר בזיכרון כואב מאוד לאותה דמות, והוא מוצג בפרטים מוחשיים למדי, בלב רחוב הומה אדם. מטריד, כבר אמרתי?

המחשה נוספת של איך עובדת "שדרת הזכרונות":

הכלאה של סצנות מסרטי MARVEL שממחישה איך עובדת "שדרת הזכרונות"

אם יש בכך נחמה, בספרות היפה אין כמעט סיכוי להיתקל במקום פולשני כמו "שדרת הזיכרונות". ספרים, באופן מסורתי, שופעים דימויים של פנים, מבטים, הבעות ורשמים. אין רגע דרמטי יותר בספר מהרגע שבו דמות פוגשת בדמות חדשה, רצוי כזאת שלא הוצגה קודם לכן, ומתחילה לתאר אותה בפרטי פרטים – כמובן בדגש על תווי הפנים. עכשיו דמיינו אביזר חיצוני, נגיד משקפי מציאות רבודה, שנוקבים עבור הדמות המספרת בשמה של הדמות החדשה, עוד בטרם נערכה ביניהן היכרות. קצת הורג את המתח, לא?

לא מפתיע, אם כן, שטכנולוגיית זיהוי פנים נפוצה יותר אצל דמויות שזקוקות לה מסיבה מוחשית. נגיד, כי הן מלכתחילה שילוב של אדם ומכונה, ולכן גם מצוידות ביכולת זיהוי של מכונה. אותו כנ"ל לגבי דמויות שסובלות ממוגבלות, ומשתמשות במכשיר חיצוני על מנת לזהות אחרים. במקרים כאלה, הטכנולוגיה צפויה גם לקחת חלק בהתרחשויות שיהיו מנת חלקה של הדמות בהמשך.

אז למה כתבתי את "ארשת של הונאה"?

אני לא מתנגדת לטכנולוגיית זיהוי פנים, או לטכנולוגיה בכלל. נתתי כאן מספיק סיבות מדוע מדובר בפיתוח שבמקרים מסוימים יכול דווקא לקדם את האנושות ואף להציל חיים. גם פרסומות מפולחות, לפחות כפי שאנחנו רגילים לחוות אותן היום, עדיפות על פני הפרסומות הלא רלוונטיות שהיינו מוצפים בהן קודם לכן. הבעיה היא לא הטכנולוגיה, אלא המחיר של השימוש בה. במקרה של "ארשת של הונאה", מדובר במחיר שרק אנשים מסוג מאוד מסוים יכולים לשלם. רק שכמו כל רגולציה, הטכנולוגיה שמזהה פנים פותחה (גם אם לא במכוון) כך שניתן יהיה לעקוף אותה. האופן שבו ניתן לעשות זאת חושף לא רק את חולשותיה של המערכת אלא גם את התקווה שטמונה ביכולת המעקף למי שבדרך כלל מוצאים את עצמם נופלים בין הכיסאות. לפעמים, להיות בלתי נראים זה לא דבר רע, במיוחד אם אפשר להיות אלה שצוחקים אחרונים.  

מאת: אור רוזנברג

אוהבת לקרוא ספרים ולפעמים גם אוהבת לכתוב אותם. ספר הביכורים שלי עובר בימים אלה עריכה ספרותית

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s

החושב הלא נורמלי

לחשוב מחוץ לקופסה

אם תרצי

Do not fear mistakes. There are none. -- Miles Davis

ולווט אנדרגראונד

בלוג ביקורת התקשורת של דבורית שרגל

הפרעות קצב ועיצוב

חפירות על עיצוב, מוזיקה ושטויות נוספות

מולטיוורס

קומיקס, קולנוע, טלוויזיה וכל מה שחוצה עולמות

נוֹשָׁנוֹת

פכים קטנים ועניינים שונים מתוך כתבים ישנים. הבסטה שלי בשוק הפשפשים של הזיכרון הקולקטיבי. _____ מאת אורי רוזנברג

%d בלוגרים אהבו את זה: