עד כמה אנחנו קרובים לאיבוד שליטה על ה-AI?

מנכל אופן AI סם אלטמן הכריז לאחרונה שהאנושות כבר נכנסה לעידן הסינגולריות התיאורטית שבה הבינה המלאכותית תגיע לרמה שתאפשר לה לשפר את עצמה באופן עצמאי. ההכרזה הזאת, גרמה בו זמנית, להתלהבות וגם לחשש בקרב מדענים, חוקרים והציבור הרחב.
הסינגולריות, שנחשבה עד לא מכבר לתרחיש עתידי תיאורטי, הולכת ומשפיעה כבר היום על אורחות החיים, שוק העבודה, על הקשרים הבין-אישיים ועל יכולת האדם לשלוט במערכות שהוא מייצר. ד"ר אורן דיין, ס. ראש התוכנית לתואר ראשון בהתנהגות אנושית בעולם דיגיטלי במכללה האקדמית אחוה, מסביר איך זה יעבוד.

למי שלא בדיוק שולט במושגים, מה זה עידן הסינגולריות?

"מדובר במונח שהגיע מעולם המתמטיקה, ובעצם מדובר על נקודה שהבינה המלאכותית תעבוד כל כך מהר שאנחנו לא נבין מה בעצם קורה שם. זה לא אומר שאנחנו לא נהיה מסוגלים כן לתפוס את הדברים בזמן, ולהגיב. זה לא מנטרל את היכולת שלנו לתגובה, אבל זה כן מנטרל את היכולת שלנו להבין. אנשים עושים בזה שימוש יומי, שואלים שאלות, מתייעצים, מעלים בדיקות דם, מה כדאי לי לקנות, מה מתאים לי, זה פוגש גם את מי שנגד הטכנולוגיה, זה פוגש אותו באופן יומיומי. כל פעולות האשראי, קנייה צרכנית, AI מחליט האם העסקה מאושרת או לא. מערכות בנקיות, כל עולם הצרכנות, איך אנחנו תופסים מוצרים, AI כבר עושה את העבודה בפועל. עולם השיווק מייצר לנו תובנות AI ואנחנו פוגשים אותם בפועל".

כמי שמתעסק בנושא של התנהגות אנושית בעולם דיגיטלי, איזה שינויים פסיכולוגיים אתה רואה כתוצאה מהכניסה של ה-AI לחיים שלנו? זה שינה בנו משהו?

"בוודאי. זה קודם כל מכניס נוחות. אם לפני 20 שנה היית צריך לחפש משהו בגוגל, ואז הולך וקורא, רואה שזה לא מתאים, חוזר לגוגל, מחפש שוב. היום, בעידן הבינה המלאכותית אתה פשוט שואל שאלות ואתה מקבל תשובות שהן יותר, נקרא לזה לטעמך. למשל, פעם בגוגל הרבה אנשים חיפשו ביטוח. רוב האנשים התכוונו לביטוח שהוא ביטוח חיים או ביטוח רכב, אבל גוגל המליץ על ביטוח חקלאי כמילה שנייה כי הוא ידע שזה מה שמחפשים רוב האנשים. הבוטים של היום כבר יודעים להגיד שאם הוא בן אנוש ואני מכיר את השיחות הקודמות אני יכול להניח שהוא הולך לכיוון כזה או אחר. כ'לקוח' אתה נורא מרוצה מהתשובות, כי זה בדיוק מה שהיה לך בראש. ופה יש איזשהו עניין של ציפייה. אנחנו, כבני אנוש, מצפים לקבל איזשהו תוצר מסוים. אם הוא קל, אנחנו אוהבים את זה".

וכמה אנשים היום לא משקיעים באיזשהו תהליך כי ה-AI יודע לתת תשובות?

"אחד הדברים המעניינים לדעתי בנושא הזה של השימוש האנושי ובשאלות שהוא שואל, זה עד כמה ניסוח השאלה מדויק. הרבה פעמים מספיק שהכנסתי בשאלה מילה אחת שהיא לא בדיוק למה שאני מחפש כתשובה, וזה יכול לקחת אותי בכלל לכיוון אחר בתשובה. יש איזשהו אלמנט שהוא מאוד מעניין. כי אם פעם, אגב זה אותם אלמנטים בכל פעם שנכנסת טכנולוגיה, היה לנו Web 1.0, היית שואל שאלה או ומחכה לתגובה. זה מה שהמחשב ידע לעשות, או לשלוח או לקבל. ואז הגיע גוגל, שלח את השאלות, קיבל את התשובות. היום יש סוג של שיחה. כלומר, אם זה הולך לכיוון לא טוב, אתה אומר לו, פה עצור, לא לזה התכוונתי, ואתה משפר אותו. כלומר, השיחה מאפשרת תהליך הרבה יותר מהיר, ודיוק יותר מהיר. מאוד דומה לשיחה טבעית בין שני בני אדם".

הדעה השכיחה היא שככל שיחדור יותר AI לחיינו אנחנו נוותר על כוח אדם אנושי בהרבה תחומים של החיים?

"יש הרבה פעולות שבני האדם לא רוצים לעשות, שהן פעולות סיזיפיות שלא מערבות מחשבה ושלא כיף לעשות אותן, ואנחנו בשמחה זורקים אותן ל-AI. מצד שני, אני חושב שיש כאן כיוון שהוא מאוד מעניין, כי אם תסתכל בחברות שהכניסו את נושא ה-AI באופן מאוד עוצמתי, אתה שם לב שהדרג הבא הופך להיות מנהל, במקום מבצע. זה אומר שפתאום נדרשים הרבה יותר מנהלים, הרבה יותר פעולות אנושיות, הרבה יותר לקיחת אחריות על המכונה, שזה כן מעודד, כי במקום לעשות עבודות שהן קטנות ולא חשובות, אנחנו הופכים להיות מנהלים בדרגים הרבה יותר נמוכים".

עד כמה אנחנו קרובים לאיבוד שליטה על הכלים האלה של ה-AI?

"זה מאוד תלוי בנו. אם אנחנו ניקח אחריות וננהל את המכונה, לא תהיה בעיה. אבל, אם המכונה תמשיך לעשות מה שהיא רוצה (זה לא ממש מה שהיא רוצה, זה מה שאנחנו מגדירים לה לעשות) פשוט לא מגדירים לה גבולות, אז היא תצא מפרופורציות וזה מה שהביא את הסינגולריות הזאת לאיזשהו דיון, שהמכונה פרצה גבול שאמרו לה לפרוץ אותו. אז עכשיו צריך לחשוב מי לוקח פה את האחריות, המכונה שעשתה מה שאמרו לה או שמישהו לא פיקח עליה?".

לראיון המלאהלחצו על הלינק…