אם כבר מומחה, אז שיהיה מלאכותי
כלים של בינה מלאכותית יכולים לקדם או לעכב את הפתרון למשבר המומחיות. בינתיים באקדמיה לא יודעים איך להשתמש בצ'אט ג'יפיטי ומעדיפים לחייב את כולנו לשים מצופים במקום ללמוד לשחות. הנה כמה מחשבות על זה
צ’אט GPT גרסת יצאת צדיק
פרופ’ גיל אייל מהמחלקה לסוציולוגיה באוניברסיטת קולומביה חוקר את “משבר המומחיות”: מתקפות על המהימנות של ידע מדעי והתייחסות למומחים כאליטות מנותקות, שהניטרליות שלהן מוטלת בספק וטובת הכלל לכאורה לא מעניינת אותם. השיא היה בתקופת הקורונה, אבל פרופ’ אייל מזהה את תחילת המשבר הזה עוד מאז שנות ה-70. לפי אייל, הסיבה העיקרית היא צמיחתו של “המדע הרגולטורי”, תחום עיסוק של רשויות שמספקות המלצות והערכות (כמו ה-FDA האמריקאי או המלב”מ אצלנו), אבל מתוך שיקולים חברתיים, שיקולים של בריאות הציבור וכמובן גם שיקולים פוליטיים. לטענתנו, זה מדע שמגיע עם סט ערכים - וערכים הם סובייקטיביים.
השבוע פגשתי את פרופ’ אייל לשיחה קצרה שבה תהינו יחד באיזה אופן בינה מלאכותית תשפיע על משבר המומחיות. הסכמנו שמדובר בשאלה מעניינת, כי לתשובות יש השלכות סוציולוגיות והשפעות על המבנה החברתי. אם כלי AI כמו ChatGPT ימשיכו להציג תוצאות כל כך טובות במפגשים אחד על אחד עם משתמשי הקצה, לא יעבור הרבה זמן עד שנייחס להם מומחיות. ואז מה?
בתסריט האופטימי, המשבר ייפתר ונפסיק לחשוד באינטרסים מבחוץ שמשפיעים על התוצאות ועל ההמלצות לפעולה. יש או אין משבר אקלים? פרומפט אחד ונגמר. כדאי או לא כדאי להפסיק את השטות הזאת של הגשת משקאות בלי קש בחוף של מוש? שואלים את הצ’אט ומתקדמים. לעומת זאת, בתסריט השלילי, המשבר עוד יותר יתחזק וכולנו לא נאמין לאף אחד, אף פעם. נרגיש למשל שאם ממילא קיימות הטיות ושהן חלק בלתי נפרד מהמודל, הרי שאפשר להסיק שאין מומחיות אובייקטיבית ואין טעם לצפות לה. יאללה בלגן.
פרופ’ אייל הוא סוציולוג ולכן מה שמעניין אותו הוא המוסדות החברתיים. אני לעומת זאת מסתכל על העניין מנקודת מבט אחרת, כזו שמנסה לברר איך משבר המומחיות ישפיע על האופן שבו אנחנו כבני אדם משתמשים בבינה מלאכותית ותופסים את הידע והתשובות שהיא מעניקה לנו.
לדעתי, התסריט הריאלי הוא כרגיל איפשהו באמצע. כבר עכשיו החברות שמפתחות את המודלים סופגות ביקורת לגבי מה הן מאשרות ולא מאשרות להם ללמוד. ממש תכף יגיעו חברות שאצלן המודלים פתוחים לחלוטין ולכן אין להם בעיה להצהיר שיהודים אוהבים כסף, לעומת כאלה שיהיו מפוקחים ובהם לא יסכימו שתשאלו משהו בסגנון “מי היה הנשיא השחור הראשון של ארצות הברית” (ג’ון אוליבר כרגיל מדגים הכי טוב). בשלב הבא, כל אחד ואחת מאיתנו יוכלו לבחור עם מה לעבוד וכל היתר יישארו לא רלוונטיים. צ’אט GPT ודומיו ייתפסו בתור מומחים, אבל רק אם סט הערכים שלהם מתאים לנו. “עשה לך רב” - גרסת 2023.
if you cant beat them, regulate them
ההשכלה הגבוהה כמרקחה. רק השבוע צורפתי ל-5 קבוצות וואטסאפ שונות שעוסקות אך ורק בבינה מלאכותית באקדמיה: מה אפשר לעשות איתה, מה היתרונות שלה ובעיקר איך מטילים עליה רגולציה כמה שיותר מהר. בנוסף, פנו אליי מקבוצת מחקר גדולה שמורכבת מ-12 פרופסורים, כדי לברר אם אני יכול לעזור להם לשלב כלים כאלה במגה-פרויקט שהם מעורבים בו. לחץ.
הבלגן הזה מתחבר גם באופן כללי יותר לאופן שבו נתפס הקשר בין AI וחינוך, החל מהתגובות להחלטה של הארוורד לשלב מרצה-רובוט בכיתה ועד לדאגות (שכבר הספיקו להתיישן. לא ייאמן כמה התחום הזה זז מהר) לגבי תלמידי בית ספר שמשתמשים בצ’אט GPT כדי לכתוב עבודות. אף אחד/ת לא יודע מי נגד מי, והתחושה היא שגם אם נמצא את מי לשאול - התשובה של היום כבר לא תהיה רלוונטית מחר. מהפכה בסדר גודל היסטורי, גם מהבחינה הזאת.
קל לזלזל, אבל האמת היא שמדובר במצוקה אמיתית. מצד אחד, האקדמאים.יות מבינים שיש פה משהו גדול ושכדאי להם להשתמש בו. מצד שני, אין להם את הכלים, הרקע והידע המתאימים ואין גם בתוך המוסדות עצמם מישהו שזמין להעניק להם אותו. הבורות, שלא באשמתם, מביאה להתגוננות והתבצרות בעמדה שבה הכי קל להם עדיין להחזיק: בואו נטיל רגולציה והגבלות, לפני שהמפלצת תאכל את כולנו. או שבואו כולנו נחפש מידע ב-ChatGPT, למרות שהוא לא מיועד לכך. לך תבנה מדינה.
מה שלא מספיק קורה בעיניי זאת הסברה. במקום להגביל ולפחד, לשחרר וללמד. המצב כרגע הוא שיש בריכה וכולם מנסחים חוק שמחייב להיכנס למים רק עם מצופים, אבל אף אחד עוד לא ניסה בכלל לשחות. כולם אומרים שהם רוצים ללמוד, אבל מפחדים להכניס את האצבע למים. בתור אילתי במקור, זה מרגיש לי כמו בזבוז הקצאה.
קטנות
עבודת תחקיר מרשימה של The verge מגלה שמפעלי היזע לאימון מודלים נמצאים בניירובי ובמדינות שכנות. המחשבה הראשונה שלי הייתה להשוות את זה לכל מה שאנחנו מכירים מעולמות הטקסטיל, מה שמעלה תהייה: האם חברות אמריקאיות מעדיפות אאוט סורסינג לאפריקה ולא למזרח בגלל סיבות כלכליות, או מטעמי ביטחון שדה ומאבקי אמריקה-סין? וכאן מסתבר שחלק גדול מהעבודה בכלל מבוצע מלכתחילה על ידי בוטים, אז אולי זה בכלל לא משנה.
אחרי טורניר כדורגל לרובוטים ותחרות פרומפטים בירושלים (ברכות לזוכה), עודכנתי דרך קבוצת “עליית המכונות” בפייסבוק לגבי הדבר הבא במה שאני תופס בתור הממשק בין אדם-טכנולוגיה-תרבות: אולימפיאדת ה-Enhanced Games. כמו אולימפיאדה - אבל על סטרואידים. באמת, לא כדימוי. אני בעד (והטיזר עשוי מעולה):
דיבייט סופר מעניין בין יאן לאקון מ-מטא, ששוב מוכיח שהוא לגמרי בראש, לבין כאלה שחושבים שה-AI עוד יהרוג את כולנו. תשפטו בעצמכם.