משפיענית רשת בשם קריין מרג'ורי (Caryn Marjorie), שפופולרית מאוד ברשת החברתית Snapchat בה יש לה 1.9 מיליון עוקבים בפלטפורמה, פרסמה שבוע שעברה גרסה מלאכותית של עצמה – AI Girlfriend. המנויים משלמים $1 לדקה כדי לשוחח עם CarynAI, שלדברי היוצרת בנויה על גבי GPT-4 ומאומנת על למעלה מ-2,000 שעות של תוכן הווידאו והקול שלה.

מרג'ורי אומרת שהבוט הרוויח 72,000 דולר בשבוע הראשון לשחרור. למעשה השאיפה שלה  להרוויח כ-5 מיליון דולר לחודש אם 20,000 אנשים – שזה רק 1% מהעוקבים שלה בסנאפצ'ט – ירשמו.

עד פה חמוד.

השאלה מתעוררת מה עם החברה הווירטואלית CaryAI תצא מגבולות הגימיק? מה יקרה אם אנשים עם קשיים חברתיים מסוימים יפתחו קשרי תלות בבוט החדש מתוך תפיסה שהם מדברים עם קריין מרג'ורי? מה אם אנשים אחרים ירצו לערוך את הגנים שלהם כדי להיות יותר דומים לבינה מלאכותית האהובה עליהם? רגע, אם זה נשמע לכם מוכר – לא בכדי לפני כמה שנים ממש עשו על זה סרט.

מצד אחד מי אנחנו שנקבע שזה פסול, או מסוכן להקשר לטכנולוגיה. אתם יכולים לתאר את החיים שלכם בלי וויז? בלי גוגלדרייב? בלי סירי או אלקסה (תכל'ס גרסה רק קצת יותר מיושנת מרעיון בוט מושתת AI שמחכה אדם אמיתי). מצד שני משהו בבטן מרגיש שזה אחר; אולי בגלל שמודבר בבינה מלאכותית שמחכה אחר אדם אמיתי – יש פה מעין טשטוש בין עולם אמיתי לסימולציה.

בואו נלך אפילו שלב אחד קדימה – מה עם CaryAI תשדל או תעודד מישהו לבצע פשע? או להתאבד? מי אחראי על "התנהגות" זו (ברור לי שזה בוט במחשב ואין לו באמת התנהגות, אבל רק בשביל הדיון) – מהן על גבולות האתיקה של בינה מלאכותית?

להתסער או לעצור? ולאן רצים בכלל?

על המהומה שלפני כמה שבועות, כאשר יותר מאלף ממומחי הבינה המלאכותית ומדעי המחשב המובילים בעולם, חתמו על עצומה לעצור לחצי שנה לפחות פיתוח של מערכות עוצמתיות יותר מ-GPT-4 של OpenAI, בטח שמעתם.

הטענה המרכזית היא יש לפתח מערכות כאלה רק כשיש ביטחון שההשפעה שלהן תהיה חיובית והסיכונים נשלטים. היא נהיה בטוחים בכך? לא בטוח. כיוון הפתרון המסתמן כרגע הוא הסכמה על גבולות האתיקה של בינה מלאכותית כך שתתיישר  עם הערכים המוסריים של האנושות (AI alignment). OK, יש רק בעיה אחת קטנה – מה הם בדיוק הערכים המוסכימים של האנושות?

גבולות האתיקה של בינה מלאכותית

כדי להתמודד עם השאלה הזו, חוקרים ב-DeepMind פרסמו מאמר חדש על שאלת יישור הבינה המלאכותית בהתאם לנורמות ולערכים האתיים שלנו. הדגש הוא הפעם הוא לא באיך "לאלף" את הבינה המלאכותית, יותר איך אנחנו מסכימים על הערכים שאנחנו רוצים ש-AI יתיישרו איתם?

המחברים פיתחו מסגרת לבחירת ערכים המבוססת על ניסוי מחשבתי אגדי בשם העמדה המקורית, שנוצר על ידי הפילוסוף הפוליטי ג'ון רולס. בניסוי מחשבתי זה מתבקשת קבוצת אזרחים להמציא חברה צודקת, שאליה יצטרפו בהמשך. כדי להשלים את המשימה הזו, האזרחים הדמיוניים האלה נמצאים מאחורי מה שרולס מכנה מסך הבערות (veil of ignorance), כך שאין להם מושג מי הם יהיו בסופו של דבר – המגדר, הגזע, השפע שלהם, כל דבר אחר – כשהם סוף סוף יהפכו לחלק מהחברה שהם יוצרים. הטענה המרכזית של רולס כי בתנאים כאלה יבחרו האנשים בחוקים הוגנים ושוויוניים שמתעדפים את הרווחה המינימלית של הכי מסכנים.

ובכן, חוקרי DeepMind אספו 2,508 משתתפים, וגילו שאלו שהוצבו בעמדה המקורית מאחורי מסך הבערות הדמיוני, נטו יותר לשיקולים של הוגנות, וביקשו להנהיג ערכי יישור לבינה מלאכותית כך שתגן על החלשים ותהיה מוגבלת הרבה יותר מבחינת סכנות פוטנציאליות. המחקר מצא שהם גם פחות עשויים לשנות את דעתם, מאשר קבוצת ביקורת שפשוט התבקשו להמציא ערכים שנחשבו להוגנים עבור בינה מלאכותית.

החוקרים מסכמים בתרגיל מסך הבערות (מודה שהתגעגתי פתאום לשיעור פלוסופיות של מדע המדינה אישם בשלהי התואר הראשון ) זה יכול להיות בדיוק מה שאנחנו צריכים כדי לקבוע את גבולות האתיקה של בינה מלאכותית. הטיעון הרחב (והמעניין יותר!) שמעלה מאמר זה, עם זאת, הוא גם בעל ערך רב. הדיון המיינסטרים על יישור בדרך כלל מניח 😝שהערכים שעלינו לבקש מ-AI להתיישר איתם ברורים. בהתחשב במציאות של המתח הפוליטי וההפגנות משני הצדדים כל סופ"ש, יחד עם העובדה שיש ממש כרגע מלחמה באמצע אירופה, שלא לדבר על עוני וניצול מתמשך בחלקים גדולים של העולם…. ובכן זה לא המצב.

תובנות ביניים (או מה אני לוקחת מפה)

סר ישעיה ברלין טען בתורת הפלורליזם הערכי שלו, שבגדול חיי אדם עוסקים בהתאמה בין ערכים שאינם תואמים זה את זה אך לגיטימיים באותה מידה. למשל, חופש וביטחון. הם ערכים ליברליים-אנושיים תקפים באותה מידה; אך לעתים קרובות הם נמצאים במתח אחד עם השני. כדי לתת עדיפות לחופש, לעתים קרובות אתה צריך לקבל קצת פחות ביטחון. מי יכול לקבל את ההחלטה איך ליישר את הבינה המלאכותית באיזון בין שני הערכים הללו?!

ואולי במקום לנסות להגיע להכרעה ברורה על ערכים ועל גבולות האתיקה של בינה מלאכותית – יכול להיות שאנחנו צריכים לכוון למודל קוד פתוח, ולעודד בעצם פלורליזם דמוקרטי של ריבוי AIs, בצורה שתעצים עמים וקהילות שונות לחיות וליצור על פי מערכות הערכים שלהם?

מה צופן העתיד של הבינה המלאכותית? אני לא יודעת.

זה הדבר הראשון שאני שמה על השולחן בכל הכשרה של בניית תרחישים או סדנת חשיבת עתיד שמעבירה, מה שאני כן יודעת שלא הגיוני לצפות שדווקא דרך דיון על רגלוציה של בינה מלאכותית, נצליח ליישב מחלוקות עקרונית של מאות ואף אלפי שנים.

אפילוג – המציאות דווקא כן רצה קדימה

ובינתיים ילדים וילדות, בזמן שהדיון התיאורטי הזה היה מעניין,

המפלגה השלטת בסין פרסמה כללים חדשים על מודלים של בינה מלאכותית יוצרת (Generative AI). טיוטות הכללים של מינהל מרחב הסייבר של סין קובעת כי התפוקות של המודלים הללו חייבות לשקף את ערכי הליבה של הסוציאליזם ולא לערער את כוחה של המדינה.

זה קרה, אגב, כאשר ענקית הטכנולוגיה הסינית עליבאבא הכריזה על תוכניות להפיץ את יריבתה LLM ל-ChatGPT, Tongyi Qianwen, בכל מוצריה. צירוף מקרים מעניין…

אך סין לא לבד, ממשלת ארה"ב מחפשת גם היא לקבוע תקנות חדשות סביב AI. המינהל הלאומי לתקשורת ומידע (National Telecommunications and Information Administration) יצא בתהליך שיתוף לציבור הרחב, כמו גם ממומחים מהתעשייה ומהאקדמיה, כדי לייתר 'מעקות בטיחות' כדי להבטיח שה-AI בטוח, שקוף וחסר פניות ככל האפשר.

אז היכן ייקבעו גבולות האתיקה של בינה מלאכותית??

מה שבטוח שנאחל המון בהצלחה לקריין מרג'ורי, מתחילת הפוסט, שהטיבה לנצל את המומנטום😊