נגישות ואפליה בעידן ה AI

ענקיות הטכנולוגיה משקיעות מיליונים בפיתוח יכולות בינה מלאכותית בכלל ובהקשר לטכנולוגיות מסייעות לנגישות בפרט. הבעיה היא שלאלגוריתמים הללו יש פוטנציאל  דווקא לייצר יותר חסמי נגישות, לשמר וליצור אפליה בקרב אוכלוסיות מוחלשות ואנשים עם מוגבלות.

טקסט חלופי אוטומטי

יכולות הבינה המלאכותית מאפשרים לנתח תמונות ולספק עבורם טקסט חלופי אוטומטי. יש שיאמרו שתחום זה נמצא בתחילת דרכו ויש שיעידו כי הוא מנסים לפתח אותו כבר שנים רבות מאוד. כך או כך,  התיאור החלופי האוטומטי סובל מלא מעט כשלים גם בתמונות  פשוטות למדי.

לאחרונה, בחנתי את עצמי באמצעות מצלמת הסלפי בכדי לוודא שאני נראית בסדר. אם פעם נשים היו מתבוננות בראי, הרי היום יותר ויותר נשים מצלמות את עצמן בכדי לבחון את מראן. בהקשר זה לתמונות הסלפי יש יתרון משמעותי עבור נשים עם מוגבלות בראייה. לא רק שאפשר לצלם את הפנים, אפשר גם להגדיל חלקים שונים בתמונה בכדי לראות אם למשל האיפור תקין – וללא ספק זוהי תחושה נפלאה.

אבל אם נפעיל קורא מסך במטרה לנסות לנתח את הטקסט החלופי האוטומטי, נגלה לא מעט אי דיוקים בלשון ההמעטה על תמונות מצולמות בכלל ועל תמונות סלפי בפרט. כך למשל צילמתי את עצמי במספר תמונות אחת אחרי השנייה וגיליתי  את התיאורים הטקסטואליים האוטומטיים של מנגנון ה AI.

הטקסט החלופי האוטומטי שהתקבל מתמונות פנים, שיער פזור על רקע קיר

  • אדם בוגר, פנים
  • אדם בוגר, אנשים
  • אדם בוגר, כובע צמר וצעיף
  • אדם בוגר, כיסוי ראש
  • אדם בוגר, פנים, ציור

כאמור מדובר באותה תמונת פנים שצולמה במרווחי זמן של כמה שניות או לכל היותר דקות ספורות.

הטקסט החלופי האוטומטי משתנה בזמנים שונים

כשהחלטתי לכתוב בנושא, חזרתי שוב לתמונות המצולמות בכדי להעתיק את תיאורי הטקסט האוטומטי החלופי, רק בכדי לגלות שבחלק מהתמונות הטקסט החלופי האוטומטי השתנה. מכך אפשר ללמוד מספר דברים:

  1. ניתוח התמונות באמצעות AIמתרחש כל הזמן ותיאור חלופי שהיה בזמן נתון עשוי להשתנות.
  2. התיאור החלופי האוטומטי אינו מהימן לכשעצמו ובהינתן העובדה שהוא עשוי להשתנות בזמנים שונים הופכת את כל הסיפור למאוד בעייתי.
  3. אסור שטכנולוגיה כזו של תיאור חלופי אוטומטי ישמשו כאמצעי להתאמות נגישות עבור תמונות ותרשימים ובמיוחד כשלאלה עשויות להיות השלכות חשובות עבור המשתמשים.

שגיאות בזיהוי פנים של אנשים עם מאפייני פנים לא סטנדרטיים

ישנם אנשים עם מוגבלות המתאפיינים בעיוות פנים. הדבר מתבטא באיברי פנים שאינם בגודל נורמאלי. מערכות בינה מלאכותית לומדות לזהות מאפייני פנים בין היתר בהתבסס על נתונים כמותיים המתייחסים לגודל ופרופורציה. לפיכך, במקרה של אנשים עם מוגבלות המתאפיינים בעיוות מאפייני פנים מסוימים, מערכות AI עשויות כלל שלא לזהות שמדובר בבן אנוש.

זיהוי אנשים המתניידים בכיסאות גלגלים כאובייקטים

גם במקרים אלו, מערכות בינה מלאכותית המשמשים בייצור מכוניות אוטונומיות, מגדירים הולכי רגל על פי מאפיינים מסוימים של הולכי רגל. והינה, אדם המתנייד בכיסא גלגלים שאינו עונה על שורות קוד באלגוריתם לזיהוי הולכי רגל, עשוי לזהות אדם המתנייד בכיסא גלגלים כאובייקט – ולא לעצור בזמן או בכלל. ההטיה לא  מסתכמת רק בהטיית מתניידים בכיסאות גלגלים, אלא גם באנשים המסתייעים למשל בהליכונים, מקלות הליכה, בהליכה צולעת וכדומה.

תמלול אוטומטי באמצעות AI

בפרסום קודם שלי בנושא AI ונגישות, תיארתי את הבעייתיות שיש בתמלול אוטומטי בשיחות פשוטות למדי ועל אחת כמה וכמה כשמדובר בתמלול אוטומטי של הרצאות או חלילה שיחות שעשויות להיות לגביהן השלכות משפטיות. התמלול האוטומטי עד כדי כך שגוי שהוא משבש את הבנת הדברים שתומללו על ידי מערכות בינה מלאכותית.

למרבה הצער, ידוע על מקרה אחד לפחות בארץ של סטודנטית עם חירשות שסורבה לבקשת תרגום לשפת הסימנים. יתר על כן, המוסד האקדמי התעקש על התאמת נגישות בדמות תמלול אוטומטי. כתוצאה מכך בין היתר, הסטודנטית שניסתה את התמלול האוטומטי נכשלה בבחינה בסופו של דבר. וכעת, בנוסף לטענות נוספות הנוגעות לאפליה, תובעת את המוסד האקדמי.

הבנת דיבור

אנשים עם מוגבלות המתבטאת בקושי בדיבור או בהעדר יכולת לדבר, עשויים להיתקל בבעיה רצינית מול מערכות זיהוי דיבור. כבר היום ניתן לראות שילוב מערכות כאלה (למשל בבנקים) וכבר היום, סטייה קלה בנימת הקול, ללא מוגבלות, שהוקלט לראשונה לצורך זיהוי בכדי  שהמערכת תזהה שגיאה בזיהוי משתמש ותמנע ממנו גישה לשירות.

מוגבלות קוגניטיבית

תחום המוגבלות הקוגניטיבית כמו כל תחום מוגבלות, מורכב מרצף (טווח) מוגבלויות כך שיהיה קשה מאוד להבנתי לתכנת אלגוריתמים שיוכלו להתמודד עם המורכבויות של מוגבלויות קוגניטיביות ובמיוחד כשמדובר במוגבלות שכלית  התפתחותית מורכבת.

התבססות אפליה מבוססת AI

הקשר בין אפליה לבינה מלאכותית די ברור כשחושבים על הנושא

  • האלגוריתמים של למידת מכונה נוצרים על ידי בני אדם
  • אלגוריתמים חדשים שמפותחים על ידי בני אדם מתבססים על אלגוריתמים קודמים שהוכיחו את עצמם כמוצלחים. כך בעצם נוצר מעגל קסמים של אלגוריתמים  שעשויים להיות בהחלט בעייתיים.
  • בדרך כלל מדובר באנשים ממעמד מבוסס יחסית, בעלי השכלה גבוהה ובעלי דעות קדומות באשר לאנשים מקבוצות אוכלוסייה מוחלשות
  • כאשר מבססים קשרים בהליך למידת מכונה המבוססים על דעות קדומות, סטיגמות שליליות והנחות שגויות על קבוצות אוכלוסייה מוחלשות לרבות אנשים עם מוגבלות יש חשש אמיתי מיצירת מערכות בינה מלאכותית מפלות
  • כאשר מערכות בינה מלאכותית הפועלות ככלים אוטומטיים למתן שירות ציבורי, וכשאין גורם אנושי בסמוך למערכת הבינה המלאכותית, הדבר עשוי ליצור לא רק אפליה, אלא גם עוול גדול יותר בחוסר היכולת לתקן את המעוות בזמן סביר וחשש אמיתי שאדם עם מוגבלות ייפגע בהיבט כזה או אחר.

אם לפני יותר מעשור, המגמה הייתה לבחון את האדם בהקשר החברתי בו הוא פועל, המגמות בבינה המלאכותית שינו מגמות אלו על ידי התבססות על תבניות מוכנות מראש של אלגוריתמים ובכך עשויים להחזיר את מערך הסטיגמות השליליות והמוטות על בני אדם.

יתר על כן, דיווחים מצביעים על כך שאכן מערכות בינה מלאכותית מפלים אנשים מקבוצות אוכלוסייה מוחלשות יותר  לרבות אנשים עם מוגבלות ולהלן כמה דוגמאות:

באיזו מידה ניתן לטפל בנושא?

התומכים בטכנולוגיות ה AI יעידו שניתן לטפל בנושא ולצמצם אפליה בין היתר על ידי למידה מעמיקה יותר של המאפיינים הייחודיים של קבוצות שונות באוכלוסייה. כאן נשאלת השאלה, האם באמת ניתן ללמד מכונות בינה מלאכותית את כל השונות החברתית וההקשרים החברתיים בהם חיים בני אדם ובהם אנשים עם מוגבלות? יש הגורסים שכן

לכל אלה הגורסים שכן ניתן ללמד בהליך למידה מעמיקה את תחום המוגבלות, אפשר לטעון כנגד ובמיוחד במציאות הישראלית, שהחזון רחוק מלהתממש. אם נבחן לעומק את התחומים בהם לומדים על תחומי הנגישות והמוגבלויות בארץ, נגלה שלא רק שהנושא נלמד במקומות בודדים בלבד, אלא שהוא לא נלמד כלל בתחומי דעת שונים ובמיוחד בתחומי המדעים המדויקים. לכן, אם אין בסיס כלשהו בתחומי המדעים ללימוד נושאי הנגישות ותחום המוגבלות, אין לצפות שהלומדים את התחום ויעסקו בו בעתיד, ייצגו נאמנה את תחום המוגבלות והנגישות בהקשרו הרחב.

וחשוב מכל, אם תחום ה AI עתיד להיכנס לחוקים, תקנות ותקנים, יש הכרח לעגן את הנושא בהקשר של אנשים עם מוגבלות כך שלא יופלו בקבלת שירות ציבורי ובכך שיוכלו להשתלב במציאות בה משולבים מערכות בינה מלאכותית. ובתהליך הזה חייבים להיות מעורבים אנשים עם מוגבלות.

 

תרומות

שמי אילנה בניש ואני עוסקת בתחום הנגישות לאינטרנט, טכנולוגיות מסייעות וטכנולוגיות מידע משנת 2008. מלווה את התחום כאשת מקצוע המלווה ארגונים במגזר הציבורי, הפרטי והשלישי בייעוץ מקצועי, בהערכת נגישות, בהדרכות ובליווי שוטף. בנוסף פעילה חברתית לקידום זכויות אוכלוסיות מוחלשות ואנשים עם מוגבלות בכלל ובמרחבים דיגיטליים בפרט. אוהבת לכתוב מאמרי דעה, סקירות מוצרים ושירותים מזווית כמה שיותר אובייקטיבית, ביקורתית או מפרגנת. . . אם אתם מוצאים שהכתיבה שלי אפקטיבית ומסייעת לכם או לאנשים נוספים, אני מקווה שתשקלו לפרגן לכתיבה שלי על ידי תרומה קטנה שאתם קובעים בה את הסכום. קבלות יישלחו למייל המשתמש ממנו התקבל התשלום. תודה מראש על הקריאה והתמיכה.

© כל הזכויות שמורות לאילנה בניש. כל שימוש מסחרי אסור בהחלט.

השאר תגובה

%d בלוגרים אהבו את זה: