פרופ' נתן אינטרטור - אונ' ת"א , חברת נוירוסטיר: רובוטים שפיתחו מהנדסי פייסבוק החלו לדבר בשפה משלהם
 
סוג מדיה:  טלויזיה
מקור:  ערוץ 23
תאריך:  15/08/2017
שעה:  00:49:55
תכנית:  עושים סדר חדש
אורך:  05:55
מרואיינים:  בן כספית
 
בכל שאלה או בקשה התקשרו לטל. 03-5635050
או במייל ל - מחלקת שירות לקוחות
תמלול    הסתר
בן כספית : לא מזמן פורסמה בתקשורת ידיעה על זה שמתכנתים בפייסבוק הופתעו לגלות שיש שני רובוטים שפיתחו, משוחחים ביניהם בשפה מיוחדת רק לרובוטים. את פרופ' נתן אינטרטור מבית הספר למדעי המחשב באוניברסיטת תל אביב, הידיעה הזאת לא הפתיעה, השאלה היא לא אם רובוטים ימציאו שפה משלהם, אלא מתי. שלום לך.
פרופ' נתן אינטרטור : שלום וברכה.
בן כספית : אותי זה לא מרגיע מה שאמרת פה עכשיו.
פרופ' נתן אינטרטור : אוקיי.
בן כספית : אוטוטו הם יתחילו לדבר מאחורי גבינו, לאן זה יוביל?
פרופ' נתן אינטרטור : בוא ננסה להבין קודם מה קרה.
בן כספית : יאללה.
פרופ' נתן אינטרטור : אוקיי. המערכת כשמה כן היא, מערכת לומדת, זאת אומרת זה שני רובוטים שהשפה שלהם לא מושלמת, לא ביצירת שפה ולא בהבנת שפה. התחילו לדבר ביניהם, בעצם הרבה מאוד, כדי להעביר מסרים, מתוך תקווה ללמד אחד את השני, כי זה בדיוק מה שעשו למשל בדיפ... שלמד לשחק שח, על ידי זה שהוא שיחק הרבה מאוד, שני מחשבים שיחקו אחד מול השני הרבה מאוד פעמים ובעצם בצורה כזאת דיברו. מה ההבדל? בשח אנחנו חוקים מאוד ברורים, חייל לא יכול לזוז בצורה חדשה, כאשר נתנו לרובוטים האלה ללמוד שפה בעצם לא יכלו לתת חוקים כאלה ברורים ואז אם רובוט פלט איזה שהוא סימן שהוא לא בשפתנו.
בן כספית : התפלק לו.
פרופ' נתן אינטרטור : אבל במקרה הרובוט השני שהוא בסך הכל מצפה להבין, מנסה להבין מה הרובוט הראשון אומר, בסופו של דבר הבין מה הרובוט אמר, בעצם שני הרובוטים האלה קיבלו חיזוק על העובדה שהתקשורת ביניהם הצליחה, כי רובוט א' אמר משהו שרובוט ב' הבין ואף אחד לא חשב על זה שבעצם הם דיברו בשפה שהיא לא מוכרת לנו וכך לאט לאט התחילה להתפתח שפה שלהם.
בן כספית : כל פעם קרה דבר כזה, הם הוסיפו עוד סימן.
פרופ' נתן אינטרטור : בדיוק.
בן כספית : שרק הם מבינים.
פרופ' נתן אינטרטור : חיזוק, כן, נכון, נכון מאוד.
בן כספית : לאן זה יכול להוביל אותנו?
פרופ' נתן אינטרטור : זה יכול להוביל אותנו כמובן למצב שבו רובוטים ידברו בשפה שלא נבין וזה יתן להם עדיפות נוספת עלינו.
בן כספית : האם יהיה פעם מצב שבו רובוטים... רובוטים יחשבו?
פרופ' נתן אינטרטור : לא, עכשיו נכנסים פה, כי המילה חשיבה היא כמובן מילה...
בן כספית : תגדיר מילה.
פרופ' נתן אינטרטור : בדיוק.
בן כספית : האם יהיה מצב שאני אחזור הביתה וארוקן מה שלמדתי באותו יום מהמוח שלי לדיסק און קי לתוך המחשב?
פרופ' נתן אינטרטור : מתישהו זה יקרה, אבל אני חושב שלא כל כך בדורנו. לצורך הענין הזה. כי התקשורת עם המוח שזה אגב התחום שמעניין אותי, היא הרבה פחות מפותחת. אנחנו עוד רחוקים מלהבין איך באמת המוח עובד, איך באמת המוח שומר נתונים. מצד שני המערכות האלה שהן מערכות מה שנקרא ארטיפישל אינטליג'נט, או למידה שהיא לא רלוונטית, היא לא מדויקת כמו למידת המוח, שיפרו את יכולת הלמידה שלהם בשנים האחרונות וזה בעצם מה שאנחנו רואים עכשיו. אנחנו רואים התפרצות אדירה של נקרא להם יצורים תבוניים, נקרא לרובוטים האלה, שמתפשטים בעולם שלנו ובאמת יחליפו וישנו, ישנו סדרי עולם, כמו שהטלפון האלחוטי, הטלפון החכם שלנו שינה סדרי עולם בעשר שנים.
בן כספית : השאלה אם באמת אי פעם, אנחנו ראינו, גדלנו על ברכי הסרטים של המלחמה... נגד המכונות, אם אי פעם אני אצטרך לחשוד בשניים מהרובוטים שלי שזוממים נגדי, מדברים בשפה שהם פיתחו ומקננת לה איזה קנוניה.
פרופ' נתן אינטרטור : אז כמובן כעיקרון זה לא בלתי אפשרי.
בן כספית : יופי, באמת. אבל לא בדורנו.
פרופ' נתן אינטרטור : המצב הוא, היום הוא כזה שהטכנולוגיה מקדימה בהרבה את הרגולציה שבאה בעצם לעצור אותה ולשמור עליה. אוקיי. אז אם יש היום חוקים לנהיגה ואומרים לנו לא לעבור באור אדום, למרות שזה יקצר לי את זמן הנסיעה, אז אנחנו נעצור ולא נעבור באור אדום. אין את החוקים האלה עדיין לרובוטים בצורה כזאת שהם לא יתחילו לקצר את הזמן ולעבור באור אדום מבחינת המושגים שלהם. זה צריך להגיע, זה יגיע.
בן כספית : עוד אין רגולציה, השאלה אם הם לא יפתחו, מכיוון שאמרת, הגדרת אותם כיצורים תבוניים, הם לא יפתחו דרכים לעקוף רגולציה.
פרופ' נתן אינטרטור : שוב...
בן כספית : או שנוציא את השאלטר וזהו.
פרופ' נתן אינטרטור : הם ינסו לעשות את מה שמלמדים אותם לעשות בצורה הטובה ביותר. הרגולציה צריכה למנוע מהם לעשות את זה מצד אחד בצורה הטובה ביותר, אבל בצורה שאולי תזיק לבני אנוש, זה החוק פחות או יותר, אסימוב כבר התחיל להסתכל על הדברים האלה. הרגולציה צריכה לעזור לנו, זה ברור לחלוטין.
בן כספית : עכשיו כשאתה אומר רגולציה, זה גם אתיקה?
פרופ' נתן אינטרטור : בוודאי.
בן כספית : כאילו יש כבר... של אתיקה בענייני רובוטים?
פרופ' נתן אינטרטור : אנחנו הרי היום מדברים על המכונית הנבונה שתיסע לבד, אנחנו נכנסים שם לבעיות אתיקה שבעצם תלמיד שלומד נהיגה לא נתקל בהם, לא מדברים על זה, אבל אם מכונית היום כדי, בזמן סכנה יש, היא חייבת לפנות או ימינה או שמאלה משום שלצורך הענין משאית מתקרבת אליה ובצד ימין יש שני אנשים ובצד שמאל יש עשרה אנשים, בעצם האתיקה היא זאת שצריכה ללמד את המכונית הזאת מה לעשות.
בן כספית : פרופ' אינטרטור.
פרופ' נתן אינטרטור : והרגולציה צריכה להשגיח.
בן כספית : אתה מתעסק בנושא הכי מעניין שאני רק יכול לקנא. תודה רבה לך על השיחה הזו.
פרופ' נתן אינטרטור : התקשורת היותר מעניין על התקשורת הינו מוח.
בן כספית : עד כאן עושים סדר חדש להיום, תודה שהייתם איתנו. אותו עוד שומעים על רקע הפרידה. התקשורת עם המוח האנושי.
פרופ' נתן אינטרטור : בוודאי, בוודאי.
בן כספית : זה משהו יותר משוכלל מרובוטים לדעתי.
פרופ' נתן אינטרטור : הוא היום יותר משוכלל.
בן כספית : אבל לא לנצח?
פרופ' נתן אינטרטור : זה אחת המטרות היא לשפר, להשתמש ברובוטים, להשתמש בטכנולוגיה הזאת כדי לשפר את המוח שלנו. כי אנחנו נמצאים היום במצב שבעצם יצורים מאוד נבונים סביבנו ובעצם הם יקחו אותנו וזה מה שאמרתי קשור לנושא האחר, יקחו הרבה מהעבודות שהיום אנשים מבצעים.
5 אייטמים אחרונים של בן כספית
שנה מרואיינ/ת: בן כספית
 
25/09/2017,   רדיו ללא הפסקה ,  יניב לוי, מנהל המרכז הארצי להצלת צבי ים : במדינות שבהם נעשו פעולות שימור חזקות כמו בישראל רואים התאוששות של אוכלסית צבי הים אבל הגורמים המאיימים עדיין מאיימים והתמותה נותרה גבוהה אולם נמצאים במגמה חיובית.    הזמן תמלול
25/09/2017,   רדיו ללא הפסקה ,  דיווחי תנועה    הזמן תמלול
25/09/2017,   רדיו ללא הפסקה ,  אליעזר צפריר, ראש משלחת המוסד לכורדיסטן: נכון שיש קשיים גדולים מאוד אבל הם החליטו בחבל הכורדי שבעיראק שהם כמעט מדינה בלי להכריז מדינה, יש להם נשיא ,פרלמנט , ממשלה וצבא.    הזמן תמלול
25/09/2017,   רדיו ללא הפסקה ,  הבחירות בגרמניה. אלעד שמחיוף: אכזבה גדולה לאנגלה מרקל שקיבלה פחות קולות משמעותית מהבחירות הקודמות, תצטרך להרכיב קואליציה צרה.    הזמן תמלול
25/09/2017,   רדיו ללא הפסקה ,  מפכ"ל המשטרה לשעבר, אסף חפץ : היה הרבה פחות סבלני למחאת הנכים כבר מההתחלה, אם כל הצורך להתחשב ולבוא דברים אבל לחסום כבישים בצורה פראית כזאת זה דבר שאסור למשטרת ישראל להסכים לו. זאת פגיעה מהותית בחופש התנועה.    הזמן תמלול