COMPAS – קווים לדמותו

האמריקאים מתמחים כידוע בהמצאת ראשי תיבות, וגם הפעם הם לא מאכזבים. COMPAS הוא לא אחר מאשר: Correctional Offender Management Profiling for Alternative Sanctions. האלגוריתם פותח על ידי החברה Equivant (לשעבר – Northpoint) והוא משמש את מערכות המשפט והאכיפה ברחבי ארצות הברית לשם הערכת הסיכויים שאדם שפשע יחזור לפשוע בעתיד (בשפה המקצועית – יהיה 'רצידיביסט').

אין כמו פסק דין עסיסי כדי להדגים את השימוש באלגוריתם. ב-2013 הואשם Eric Loomis בירי מרכב נוסע. לומיס מצדו הכחיש שהשתתף בירי וכפר ברוב כתב האישום. בתהליך שהפך כבר רגיל, נדרש לומיס למלא שאלון שהוא אחד הכלים בהם עושה COMPAS שימוש. בשאלון – 137 שאלות (!) הנוגעות בצדדים מגוונים מאוד של ההיסטוריה הנאשם: מקום מגוריו, חברותו ב-gang, יחסו לחוקים ולמערכת המשפט, ועוד (הנה סריקה של השאלון – שווה עיון).

עכשיו הגיע תורו של COMPAS לתת את דברו. בהתחשב בשאלון, בהיסטוריה הפלילית המתועדת לגבי הנאשם, ובעוד קריטריונים וכללים רבים וסודיים שהטמיעו בו אנשי Equivant הוא נתן את מסקנתו לגבי הסיכון הנשקף מלומיס. הפלט של COMPAS הוגש לשופטי ההרכב. למגינת לבו של לומיס החליטו השופטים, בין השאר על סמך אותו פלט, לגזור עליו עונש של 6 שנות מאסר ו-5 שנים בליווי קצין מבחן.

אבל לומיס לא אמר נואש. הוא ערער בפני בית המשפט העליון של וויסקונסין, ובהמשך בפני בית המשפט הפדראלי, נגד השימוש באלגוריתם. אבל לחלק הזה נחזור רק בסוף… (למעוניינים בהבנה מעמיקה של האלגוריתם, מעבר להצגה שנתתי כאן – בבקשה)

התפיסה שבבסיס COMPAS והביקורת עליה

ניבוי התנהגות עתידית של בני אדם תמיד היה עסק מסובך. ההחלטה השיפוטית מתקבלת בתנאי חוסר ודאות, היכרות מוגבלת עם הנאשם, ומעורבות בה הטיות (יוריסטיקות) רבות. "אין לו לדיין אלא מה שעיניו רואות" – פשוטו כמשמעו, ובמלוא מובן המשפט.

בא COMPAS ואומר: "תנו לי כמה שיותר מידע היסטורי על עבריינים, אירועים, מקרים ופסקי דין מהעבר; הבו לי שאלון ממנו אלמד עוד על הנאשם על עצמו ואת ההיסטוריה הפלילית שלו – ואני, בעזרת עיבוד, ניתוח והערכה, אוציא פלט שיסייע למזער את ההטיות ולגשר על פערי הידע האינהרנטיים להליך הפלילי. ועוד, על הדרך, אני אייעל את ההליך ואקל על העומס העצום הקיים בבתי משפט."

אך כמובן שהדברים אינם כה פשוטים. מוגשת כאן רשימה חלקית מאוד של דברי הביקורת אשר ניתן להטיח ב-COMPAS:

חוסר הוגנות. חוקרי ProPublica עוררו הדים כשהוכיחו שמרחב הטעות לגבי נאשמים אפרו-אמריקאים הוא גדול יותר מאשר לגבי לבנים. לדבריהם, אם בוחנים עבריינים בטווח של שנתיים, מסתבר שלאלגוריתם יש 45% סיכוי לטעות לגבי שחורים, בעוד לגבי לבנים הסיכוי עומד על 23% בלבד. Equivant לא נשארה חייבת והגנה על עצמה בדו"ח. אחת התובנות המעניינות אגב היא שבעצם: הכל תלוי באיך מגדירים הוגנות!

חוסר שקיפות. Equivant עומדת בתוקף על שמירת הסודיות של 'הקופסה השחורה' של האלגוריתם ואינה רוצה לחשוף (בהנחה והיא בעצמה יודעת מה קורה שם בפנים..) מה קורה שם בפנים. זה אולי נהוג בשוק הפרטי אך בעייתי בראי הזכות להליך הוגן ויכולת הציבור לבקר את קבלת ההחלטות של האלגוריתם. המחקר הזה עמד על כך וטען כי ProPublica (חברינו מסעיף 1) הגיעו למסקנות שגויות כיוון שהניחו הנחות שגויות לגבי תפקודו של COMPAS (היא בתורה יכולה להאשים את Equivant שלא מסכימה לגלות סודות…).

הישענות על גורמים פרטיים. האם ראוי להפריט מרכיבים בהליך הפלילי? האם לא נכון יותר שההליך ינוהל על ידי הגוף הציבורי והרשמי הנקרא – "מדינה"? בארצות הברית זו כבר לא שאלה, שם יש בתי סוהר פרטיים לרוב – אז מה זה כבר אלגוריתם פרטי… אבל בהקשר הישראלי זו שאלה מעניינת. היא עלתה בעבר בבג"ץ הפרטת בתי הסוהר, שם נקבע שהעברת סמכויות שלטוניות לידי זכיין פרטי פוגעת בכבוד ובחירות. האם יש דמיון לסוגית COMPAS?

מה שמעניין באמת – ערעור על יסודות המשפט!

כל הנ"ל הוא ללא ספק מרתק ומהווה פתיח לתילי תילים של טענות, מחקרים ודילמות לגבי COMPAS אך בשלב הזה אני רוצה לעמוד על היבט מעט אחר של הסוגיה.

ראו, בהליך המשפטי, טרום-COMPAS ודומיו, משולבות כל מיני תפיסות אשר מעצימות את הסמליות של אולם בית המשפט, של השופט ושל ההליך הפלילי: כולם מכתתים רגליהם לבית המשפט, לאולם המכובד והמקודש של בית המשפט. המשפט, הכרעת הדין והגזר הדין הם רגעים מכוננים וסמליים: הנאשם X נותן דין וחשבון על חטאיו ומתוודה בפני השופט; כבוד השופט המלומד עושה שימוש בסמכות שהחוק עצמו מקנה לו בהסתמך על כושר שיפוטו ומכריע לגבי הנכון והלא-נכון, הראוי והשגוי, הטוב והרע.

פתאום בא COMPAS ומזכיר כי השופט הוא בן אדם עם הטיות ובעיקר שמאוד חבל לא להשתמש באינסוף הנתונים הקיימים כדי לחתור אל האמת. האלגוריתם מציע לנו לתקן את תחלואות ההליך בעזרת כלים חישוביים, נתונים וסטטיסטיקה. "תן לי מידע לגבי העבר וההיסטוריה ואני אסיק בוודאות די טובה מה צופן בעתיד". שופט, אל תצמצם את עצמך לנאשם הספציפי או למטען הידע המוגבל שבראשך – הנה לך מאגר נתונים עצום וא-פרסונאלי, מבוסס קריטריונים מוגדרים, שיכול לתת את ה'תשובה הנכונה'. ואיזו סיבה יכולה להיות לשופט לא לתת משקל משמעותי לדבר שכזה?

הנקודה שלי היא ש-COMPAS קצת 'מחלל' את קדושת המשפט – לטוב ולרע. אפשר להעמיד פנים שהאקשן ממשיך להתרחש בין השופט לבין הנאשם, באולם וברגעי הדיון. אבל מסתבר שחלקים משמעותיים ממנו עברו מיקור חוץ – נתח מכובד מתהליך השיפוט נטש את בית המשפט לטובת חלקיקי השניות שבהן האלגוריתם מחשב את הפלט שלו. וככל שפלט האלגוריתם יתפוס מקום משמעותי יותר בשיקול הדעת, כך נוטה ההליך להתבסס על סטטיסטיקה ולא על שיפוט ערכי.

השימוש באלגוריתמים איננו רק משנה או מייעל שיטות עבודה קיימות, האלגוריתם איננו רק כלי שמשפר את ההליכים הקיימים. אלא שהוא משפיע על תפיסות היסוד של בני האדם והחברה האנושית. הטכנולוגיה איננה נייטרלית. היא מוציאה 'ישן' מפני 'חדש'. הטכנולוגיה משנה תפיסות יסוד ומקדמת ערכים של יעילות ואפקטיביות על חשבון מוסדות מסורתיים.

שימו לב שלא אמרתי אם זה טוב או רע, כמו לכל דבר בחיים – יש לזה יתרונות וחסרונות…

אבל מה בדבר Loomis?

Loomis עתר לבימ"ש העליון של Wisconsin נגד השימוש באלגוריתם. לדבריו כיוון שנשמרת סודיות האלגוריתם, לנאשם אין ההזדמנות לאתגר את התוקף המדעי של הכלי – דבר המהווה פגיעה בזכות להליך הוגן.

את בית המשפט זה לא שכנע. הוא פסק נגד Loomis והסתפק בקריאה לשימוש זהיר באלגוריתם. וזאת על אף שהשופטים כלל לא נחשפו לקרביים של האלגוריתם (וגם אם כן – האם הם כשירים להבין בזה משהו..?!). בבימ"ש העליון של ארה"ב נתקל Loomis שוב בסירוב, כיוון שהשופטים דחו את העתירה.

ובקיצור, לגבי Loomis הסיפור תם ונשלם, את עונשו הוא יירצה…
לגבי הסוגיה בכללותה – אני מקווה שנשאר לכם חומר למחשבה…