- הפער בין השיח המסחרי של חברות בינה מלאכותית לבין המציאות של תהליכי התפעול הפנימיים שלהן.
- הצורך המתמשך בשיקול דעת אנושי ואמפתיה בניהול סכסוכים ובשירות לקוחות לנוכח אוטומציה.
- סתירות אתיות בנוגע לקניין רוחני ושימוש בנתונים לאימון מודלים יצירתיים.
מרתק לראות כיצד מגזר הטכנולוגיה מוכר לנו עתיד שבו אוטומציה תפתור הכל, בעוד שבפועל, החברות שמייצרות את הכלים הללו נראות תקועות בתהליכים ארכאיים כשזה נוח להן. אנו חיים בעידן של הבטחות גרנדיוזיות שבהן בינה מלאכותית (AI) מוצגת כתרופה, אך לעתים קרובות מתנגשת חזיתית עם מציאות הרבה יותר פשוטה ולעיתים סותרת.
אם נגרד את פני השטח של שיווק אגרסיבי, נגלה פער עצום בין מה שאומרים לנו שבינה מלאכותית יכולה לעשות לבין מה שמפתחים עצמם מעזים ליישם בעסקיהם. אין מדובר בהכחשת הפוטנציאל של הטכנולוגיה, אלא בהדגשת הציניות הדיגיטלית שמתעוררת כאשר הרטוריקה התאגידית אינה מתיישבת עם אספקת השירותים בפועל.
המקרה של OpenAI: להטיף לאחרים את מה שאתם לא מתרגלים בבית
דמיינו שאתם רוצים לבקש החזר כספי עבור מנוי PRO מ-OpenAI. הייתם מצפים שחזית המהפכה הטכנולוגית תספק מערכת חלקה, אבל ההפתעה מגיעה כשאתם מגלים שכדי לממש זכות בסיסית כמו זכות הנסיגה באיחוד האירופי, הבינה המלאכותית מוותרת במהירות ומפנה אתכם למפעיל אנושי . לאחר שעות של המתנה, סוכן אמיתי הוא סוף סוף זה שמעבד את הבקשה.
הדבר האירוני ביותר הוא שאותה חברה מציעה קורסים המלמדים בפירוט כיצד לתכנת סוכנים אוטונומיים לניהול החזרים כספיים, תוך שימוש במגזר התעופה כדוגמה. זהו התרחיש הקלאסי של "עשה כדברי, לא כדברי", שבו הם מוכרים לך את הכלי לאוטומציה של תהליך שהם עצמם לא הצליחו להכניס לייצור לטובת התועלת התפעולית שלהם.
אם ננתח את זרימת ההחזר על פי החוק האירופי, נראה שמדובר במשימה דטרמיניסטית לחלוטין : אימות האזור הגיאוגרפי, בדיקה שלא חלפו יותר מ-14 יום, וביצוע התשלום. העובדה ש-OpenAI אינה מאצילת סמכויות אלו למודלים שלה, אך מעודדת מפתחים להשתמש ב-API שלה כדי לעשות זאת, היא אינדיקציה די ברורה למצב הנוכחי של סוכנים אוטונומיים.
החזרה לערך האנושי ולמציאות של קלרנה
הם לא היחידים שנאלצו לסגת. מנכ"ל קלרנה, שהיה אחד התומכים הנלהבים ביותר בהחלפת שירות לקוחות בבינה מלאכותית, הודה בסופו של דבר שאין דבר בעל ערך כמו בן אדם . לאחר שמילא את העולם באופטימיות טכנולוגית, הוא הגיע למסקנה שהיכולת להתחבר עם אדם אחר היא נכס שאין לו תחליף.
התגלות זו אינה מקרית. כאשר למשתמש יש בעיה רצינית או מתסכלת, צ'אטבוט לעיתים קרובות מלבה את כעסו של הלקוח. לעומת זאת, התערבות אנושית יכולה לזהות את המטען הרגשי באמצעות משפט פשוט ולהתאים את טון השיחה כדי להרגיע את הרוחות, דבר שבינה מלאכותית עדיין לא יכולה לשכפל באופן טבעי.
יתר על כן, עובדים אמיתיים משמשים כחיישנים קריטיים עבור העסק. נציג תמיכה יכול לזהות דפוסים חריגים בכרטיסים ולהתריע בפני ההנדסה על כשל מוצר ספציפי בהתבסס על הבנתם את ההקשר - יכולת ניתוח איכותנית שחזון בתעשייה צופה שבינה מלאכותית תשתלט עליה, אך בפועל נותרת במידה רבה אנושית.
מלחמת אגו וגניבת קניין רוחני
הצביעות לא נעצרת ברמה התפעולית; היא משתרעת על האתיקה של אימון המודלים. תאגידים גדולים השתמשו באלפי ספרים ומאמרים ללא אישור או תמורה כדי להזין את המערכות שלהם. זהו הליך סטנדרטי עבור "גדולי הבינה המלאכותית", שמסתתרים מאחורי מושג ה"שימוש הוגן" כדי לנכס לעצמם את עבודתם של אחרים.
זה אבסורד שמנהלים כמו סאטיה נאדלה ממיקרוסופט מגנים את הצביעות של אחרים בכל הנוגע ל"זיקוק" (כאשר חברות קטנות משתמשות במודלים גדולים כדי לאמן את שלהן). במילים אחרות, הם מגנים על זכותה של הענקית לספוג נתונים ציבוריים מבלי לשלם למחברים , אבל אז מרגישים קורבנות כאשר אותו תהליך חוזר על עצמו בקנה מידה קטן יותר נגדם. אפילו כאשר גוגל מפתחת שבב ספציפי עבור ג'מיני במרדף אחר יעילות, הבסיס האתי של האימון נותר נקודת המחלוקת העיקרית.
ציניות בגיוס כישרונות
כדי להשלים את תמונת חוסר העקביות הזו, די להסתכל על מודעות הדרושים של חלק מהחברות הללו. אנתרופיק, למשל, ביקשה במפורש בטפסי המועמדות שלה שמועמדים לא ישתמשו בבינה מלאכותית גנרטיבית לכתיבת טקסטים, בטענה שהם רוצים להעריך את כישורי התקשורת הטבעיים של הפרט.
עבור אחת החברות שמתפארות ביותר ביכולתה של הבינה המלאכותית לכתוב ולנמק, איסור השימוש בה בתהליך מיון הוא תרגיל בציניות מוחלטת. אנו מתבקשים לאמץ בינה מלאכותית בכל פינה בחיינו המקצועיים, אך כשמדובר בהערכת תכונות אנושיות , הכלי שהן עצמן מוכרות הופך למכשול.
התמונה כולה מצביעה על כך שבעוד שהפוטנציאל של הבינה המלאכותית עצום, החלפה מוחלטת של שיקול הדעת האנושי היא עדיין חלום רחוק. כל עוד ענקיות הטכנולוגיה ממשיכות להפיץ הייפ ולהציע פתרונות שהן עצמן אינן מיישמות בתהליכים הבסיסיים ביותר שלהן, עלינו לשמור על מנה בריאה של ספקנות כלפי ההייפ המוגזם של התעשייה.