הבינה המלאכותית היא כלי עזר ולא תחליף לשיפוט האנושי
כתבה שפורסמה במדור הטכנולוגיה של אתר «כל אל-ערב» מציגה את תמצית הדיון המתנהל סביב הבינה המלאכותית. היא מתחילה מהתרחבות נוכחותה בחמישה תחומים — החינוך, העבודה, הבריאות, התקשורת והמסחר — ומעמידה מולה את מה שהיא מציעה ואת מה שחוששים ממנו. בצד התועלת היא מונה חיסכון בזמן, ניתוח כמויות גדולות של מידע, הקלה על משימות יומיומיות, תמיכה בלמידה וביצירתיות והעלאת יעילות העבודה. בצד הדאגה היא מונה את הפרטיות, את התוכן המזויף, את השפעת האוטומציה על מקומות העבודה ואת האפשרות שהתשובה תהיה שגויה או מוטה בעודה נראית משכנעת. היא מביאה מפי מומחים אזהרה שהסתמכות מלאה עלולה להביא לנסיגת תפקידו של האדם באימות ובניתוח, ומסיקה כלל מעשי שהיא מפרטת בארבעה סעיפים.
היכן היא נמצאת כיום
הכתבה יוצאת מתצפית ולא מדעה: כלי הבינה המלאכותית כבר אינם מוגבלים לתחום טכני צר, אלא נעשו נוכחים בחינוך, בעבודה, בבריאות, בתקשורת ובמסחר. חמשת התחומים הללו מכסים יחד את מה שנוגע לאדם ביומו: מה שהוא לומד, מה שהוא עובד, מה שהוא מקבל כטיפול, מה שהוא קורא ומה שהוא קונה. ההתרחבות שהכתבה מתארת מהירה, וזה מה שגורם לדיון על תועלותיה וסיכוניה לגדול באותה מהירות עצמה במקום להקדים אותה.
מה היא עושה היטב
בצד התועלת מונה הכתבה חמישה דברים. הראשון הוא חיסכון בזמן במשימות שקודם לכן צרכו אותו. השני הוא היכולת לנתח כמויות גדולות של מידע, משימה שהאדם לבדו אינו מסוגל לה כשהנתונים מתנפחים. השלישי הוא הקלה על ביצוע העבודות היומיומיות החוזרות. הרביעי הוא תמיכה בלמידה וביצירתיות, כלומר שימוש בה כעזר להבנה ולהולדת רעיונות. והחמישי הוא שיפור חלק מן השירותים והעלאת יעילות העבודה. המכנה המשותף לחמישה הוא שכולם רווחים במהירות ובהיקף ולא בשיפוט של מה נכון.
ממה חוששים
מנגד מציבה הכתבה ארבעה חששות. הראשון נוגע לפרטיותו של מי שמשתמש בכלים האלה ולנתונים שלו שמגיעים אליהם. השני הוא התפשטות המידע המטעה והתוכן המזויף שייצורו נעשה קל יותר. השלישי הוא השפעת האוטומציה על חלק ממקומות העבודה. והרביעי הוא המדויק שבהם: שהמערכות האלה יגישו מידע שגוי או מוטה בניסוח שנראה משכנע למשתמש. האחרון מסוכן יותר מן הטעות הגלויה, משום שכשהטעות באה בתבנית בטוחה בעצמה קשה לקורא לפקפק בה.
אזהרה מנסיגת תפקידו של האדם
הטקסט מביא מפי מומחים אזהרה שחורגת מן הטעויות הבודדות אל מה שעושה ההרגל: שהסתמכות מלאה על הכלים האלה בחשיבה ובקבלת ההחלטות עלולה להחליש את תפקידו של האדם באימות ובניתוח. האזהרה מציינת במפורש את הסוגיות הרגישות, כלומר אלה המחייבות שיפוט אנושי ואחריות ברורה שנושא בה אדם מסוים. השאלה כאן אינה איכות התשובה אלא מי עומד מאחוריה כשהיא שגויה.
הכלל בארבעה סעיפים
הכתבה מסיימת בארבעה סעיפים מעשיים המסכמים את מה שהיא מכנה השימוש הרציונלי. הראשון הוא אימות המידע שהכלי מגיש במקום לקבלו כמות שהוא. השני הוא הימנעות משיתוף נתונים אישיים או רגישים ללא צורך. השלישי הוא השוואת מה שיוצא ממנו למקורות אמינים. והרביעי הוא שלא להסתמך עליו לבדו בהחלטות רפואיות, משפטיות או כספיות וכיוצא באלה. הכתבה אומרת שהשאלה כבר אינה אם הבינה המלאכותית תהיה חלק מן החיים, אלא כיצד משתמשים בה שימוש אחראי.
