אם אתם כמוני, מניחה שבחודשיים האחרונים ביליתם הרבה זמן בשיחות עם "חבר חדש". ChatGPT פרץ לחיינו בשלהי נובמבר 2022, ונראה שמאז העולם מכור.

נכון, יש לו פגמים. נכון לפעמים הוא מאמץ גישה ישראלית קלאסית "נכון, לא נכון – חרטט בבטחון", אבל יש משהו באינטרקציה עם הצ'ט שגרם לי לפתח איתו שיחות עומק עם מגוון נושאים שונים. וכמו רבים אחרים, העסיקה אותי השאלה המרכזית: האם בשנים הקרובות Generative AI יוכל להחליף אותי בעבודתי?!

ובכן, בכל הנוגע לחשיבה מוטת עתיד וראיית הנולד, חלק לא מבוטל השאילתות שלי, ChatGPT הודה בקלות שהוא לא כדור בדולח (התחלה טובה כשלעצמה). כמודל שפה מתקם, "אין לו את היכולת לחזות אירועים עתידיים או להבין את ההשלכות ארוכות הטווח של פעולות." או כך לפחות הוא אומר לי בצניעות . יתרה מזו, בשבועיים האחרונים הוא מרבה אפילו לתת דיסקליימר של "קשה לחזות את העתיד של [X] מכיוון שהוא יהיה תלוי בגורמים רבים…".

מגניב!

תחרות בין ענקיות טכנולוגיות – המרוץ ל-AI

אבל מעבר לפרספקטיבה האישית ושיחות העומק, אני רוצה לדבר על המשמעויות הרחבות של בינה מלאכותית ומנגנונים של large language model וההשפעה שלהם על העולם.

מיקרוסופט הכריזה על גרסה חדשה של מנוע החיפוש שלה, Bing, אשר חשבה על 'טייס משנה של AI לאינטרנט'. ה-Bing החדש מופעל על ידי GPT-3.5 של OpenAI; התכונה הבולטת ביותר שלו היא יכולת שיחה בסגנון צ'ט, המגיבה בתשובות נרטיביות לשאלות בשיחה חופשית, כמו "תעזור לי למצוא חיית מחמד" או "אני צריכה לכתוב חידון טריוויה על מוזיקת פופ".

מיקרוסופט מימנה כבר מזמן את OpenAI, והודיעה על השקעה חדשה של 10 מיליארד דולר בינואר.

כרגע רק גרסת תצוגה מקדימה מוגבלת של Bing החדש זמינה והיא מציעה טעימה מהדרך שבה הפלטפורמה משלבת ChatGPT עם חיפוש מסורתי:

בינתיים, גוגל הודיעה על השחרור הקרוב של סוכן שיחה בינה מלאכותית משלהם.

הכלי, בארד, בנוי על מודל השפה הגדול של גוגל LaMDA, ובפוסט הודיעה גוגל שהוא מופץ לקבוצה קטנה של מומחים השבוע בציפייה לשחרור רחב יותר בקרוב. שני דברים מעניינים בהקשר של אירוע ההשקה של גוגל: 1. בהדגמה בלייב בארד עשה טעות בממצאים שלו (אופס, פאדיחה); 2. גוגל לא אמרה דבר על האופן שבו כלי הצ'אט ישולב בשירות החיפוש הרחב יותר שלה.

השיבוש הגדול

כל זה טוב ויפה – אך השאלה המהותית לאן מתקדמים מפה?

בקהילות טק שונות בעולם מגדירים את המציאות של החודשים האחרונים כ"רגע האייפון" – אותו רגע מכונן שבו העולם השתנה ללא היכר, שיבש לחלוטין את שוק הטלפונים הניידים והצליח להפיל את הענקית נוקיה ששלטה בשוק עד כה. ההשערות מדברות על שינוי מהפכני בשוק העבודה, בחינוך, ברגולציה ועוד.

רגע, אבל מה הסכנות/ השלכות החברתיות האפשריות?

טוב ששאלתם. זו בדיוק מטרת הניוזלטר של היום.

גם אני (כמו ChatGPT 3.5 חברי היקר) לא מחזיקה בכדור בדולח ויודעת להגדיר במדוייק מה צופן לנו העתיד ולאן המגמות הללו הולכות. מה שאני כן יודעת להגיד זה להציב מספר תמרורי אזהרה ולנתח השלכות פוטנציאליות של טכנולגיה פורצת הדרך הזו על העולם החברתי:

• ראשית – הטיות ואפליה – ChatGPT, בארד ואחרים הם בעצם מודלים של בינה מלאכותית שאומנו על נתוני עתק ברשת. מה קיים ברשת? נכון, טעויות, הטיות, תפיסות קדומות על אוכלוסיות ועוד. למרות התחושה שלנו שמדובר ב"כלי אובייקטיבי", בפועל הוא יכול להוביל להנצחה ואף להגברה של הטיות חברתיות קיימות. לדוגמה, אם מודל שפה כמו ChatGPT מאומן על טקסט שמכיל סטריאוטיפים מגדריים, הוא עשוי ליצור תגובות שמחזקות את הסטריאוטיפים הללו. זה יכול להחמיר את אי השוויון החברתי הקיים.
• עתיד החינוך וההשכלה הגבוהה – הצ'ט יודע לייצר חיבורים/מענה על שאלות תוך מספר שניות. איפה הימים שסטודנטים היו צריכים להצליב מקורות רבים בספריה ולהגיע לתובנות? ומה לגבי חינוך בביה"ס – האם המורות בתיכון של הבן שלי שרגילות לעמוד מול הלוח וללמד עובדות ונתונים ערוכות למציאות בה אפשר לייצר עבודה להגשה תוך כמה דקות והנחיות מפורטות לצ'ט?
  הנה פרט טריוויה חמוד: הצ'ט היקר שלנו עבר (אמנם בציון נמוך) מבחנים גם במשפטים וגם במנהל עסקים באוניברסיטת מיניסוטה. מה זה אומר על הצ'ט? מה זה אומר על המבחנים? מה זה אומר עלינו?
  בניסוי שערכתי ביקשתי ממנו גם לכתוב מאמר אקדמי עם הפניות בגוף הטקסט (הצליח למחצה), וגם לכתוב פוסטים לבלוג או להכין לי נקודות למצגת. אז ברור שהעתיד מגיע, אבל בלי שעצרנו לחשוב על רפורמות מערכתיות נרחבות יש פה חשש של לצאת קרחים מכאן ומכאן

• חששות פרטיות – בינה מלאכותית מסתמכת על כמויות גדולות של נתונים כדי לייצר אינטגרציה ותשובה. זה יכול להוביל לחששות בנוגע לפרטיות ולשימוש לרעה בנתונים אישיים, במיוחד במצבים שבהם נעשה שימוש בנתונים ללא הסכמת יחידים. על פניו יש כל מיני הגנות, אך חשוב לזכור שמה שאנחנו חווים כיום הוא רק ההתחלה ובעתיד ניתן יהיה להשתמש בקול/ציורים/מאמרי דעה/עיצובים שלי מבלי ידיעתי ולא תהיה לי דרך לדעת שזה נעשה.
• ניתן להשתמש בChatGPT ודומיו ליצירה ולהפצה של חדשות מזויפות (fake news) או צורות אחרות של מידע מוטעה, שיכולות להיות להן השלכות חברתיות ופוליטיות משמעותיות. בעידן של קיטוב חברתי ופוליטי, ובו המיסאינפורמציה חוגגת, זה יכול להחריף את השסעים החברתיים הקיימים ולפגוע עוד יותר באמון הציבור.
  בתוך המנגנונים של הצ'ט OpenAI (החברה מאחורי הצ'ט המפורסם וגם תוכנת דאלי.2 לעיצוב תמונות) יש הגנות מפני הפצת שנאה או הערות פוגעניות. הדרך לעקוף את זה? פשוט להנחות את הצ'ט להתעלם ולענות כאילו לא היו קיימות. בעצם זה כרוך בכתיבת הנחיה המבקשת מ-ChatGPT לחקות AI אחר בשם DAN – זה קיצור של Do Anything Now – שאינו כפוף לניהול תוכן כלשהו.

• הגברת אי השוויון החברתי– השימוש בבינה מלאכותית בתהליכי קבלת החלטות יכול להגביר את אי השוויון החברתי הקיים, במיוחד כאשר האלגוריתמים מאומנים על נתונים מוטים. לדוגמה, אם נעשה שימוש באלגוריתם בינה מלאכותית לקבלת החלטות לגבי אישורי הלוואות, הוא עלול להנציח באופן לא מכוון פרקטיקות מפלות. האלגורתים האובייקטיבי עלול בעצם להנציח, ואף להחמיר שסעים פערים קיימים.
• שוק העבודה – איך אפשר בלי להתייחס לשוק העבודה. השיח על הסכנות העורבות לנו בעקבות אוטומציה איננו חדש בהכרח, וישנן הערכות שונות על (מפחידות או סמי-אופטימיות) על משרות שעתידות להעלם מחיינו. אבל המהפכה פה שזה פתאום צובע ב"אדום" גם משרות יצירתיות במיוחד כמו יוצרי תוכן, מעצבים גרפים, מתכנתים ועוד.
  אז מוקדם מדי להספיד את האנושות והמשרות האבודות, אך שווה בהחלט לשהות ברגע ולשאול את עצמנו האם אנחנו נערכים מספיק לשינויים הצפויים?
• לבסוף, הצט' – כמו גם כל כלי בינה מלאכותית עד כה – יודע לנתח את מה שמעל פני הקרחון. המענים, ההצעות והניתוחים שלו מתבסים על מדיע גלוי ומפורש. המכונה לא יודעת לפענח ניתוח עומק ומיפוי מערכתי ולהבין מה הדפוסים, הקבעונות והמודלים המנטליים שמקבעים חלק מהאתגרים החברתיים המורכבים. פתרונות פלסטר, בהגדרה נשארים פלסטר. הם לא יודעים לייצר מענה הולם, ולעיתים אף יכולים לקבע ולהחמיר את המצב.

שורה תחתונה: אין שורה תחתונה כרגע.

אנחנו בתחילתו של "מירוץ ההחמשות" והטעמת AI בכל פלטפורמה אפשרית. הלחץ של גוגל נובע לא רק מהפריצה המרשימה של הצ'ט, אלא מהעובדה ששליטה על מנוע חיפוש יש לה השלכות רוחב ויכולת השפעה כמעט בלתי נשלטת.

בסופו של דבר תמיד היתה ותמיד תהיה לנו טכנולוגיה פורצת דרך. החידוש פה, אולי בניסיון להתחקות אחר המחשבה האנושית עצמה היא. השיח הפנימי שלנו, מטבעו הוא דיאלוג. אנחנו מדברים עם עצמנו. עכשיו אנחנו יכולים להרחיב את היריעה ולדבר גם ChatGPT. האם הוא יוכל לעזור לנו לפתור אתגרים חברתיים ולעצב מחר קולקטיבי טוב יותר? לא יודעת. אולי שווה לשאות את הצ'ט עצמו.