תגית: רובוטים

איאן מקיואן, "מכונות כמוני": איך מזהים בן אדם, ואיך תועיל הבינה המלאכותית למאבק נגד קורונה

קנדי לא נרצח. בריטניה הובסה קשות במלחמת פולקלנד. הביטלס שבו והתאחדו, מקץ שתים עשרה שנות פירוד. קרטר נבחר לכהונה שנייה לנשיא ארצות הברית. והכי חשוב: אלן טיורינג סירב לעבור סירוס כימי, לא התאבד ב-1954, המשיך לפעול כמדען יצירתי ורב פעלים, פיתח ושכלל מאוד את המחקר העוסק ב-AI: בינה מלאכותית, וכבר בשנות ה-80 של המאה העשרים אִפשר את יצירתם של רובוטים משוכללים, דמויי אדם. חלקם נראים כמו גברים, ושמם אדם, וחלקם נראים כמו נשים ושמם חוה. התפתחות ה-AI כפי שמתאר אותה מקיואן באמת מתרחשת כיום בנתיב שהוא מתאר: מניחים למכונות ללמוד בכוחות עצמן, עד שהן משתכללות ומצליחות לפתור בעיות בלי שום מעורבות אנושית ובלי שבני אדם מסוגלים בכלל להבין את הדרך שעשו. כך למשל מניחים להן ללמד את עצמן כיצד להביס יריב במשחק הלוח GO, הדורש מידה רבה של אינטואיציה וחשיבה יצירתית ואסטרטגית.

(יש לציין כי היום התפרסמה ב The marker כתבה המדווחת על כך שמדענים מנסים בעצם הימים הללו לרתום את ה-AI הבינה המלאכותית, כדי לפתח באמצעותה בין היתר תרופות וחיסון לקורונה. כפיר שרייבר, מנכ"ל ומייסד הסטרט-אפ Deepcure התראיין לכתבה וסיפר: "בשנים האחרונות ראינו שינויים מטורפים בעולם הטכנולוגי מבחינת כוח מחשוב, מחשוב מענן וכמובן בינה מלאכותית – למידת מכונה ודיפ לרנינג (למידה עמוקה). אבל באותו זמן תעשיית התרופות עדיין מתנהלת באותה דרך שבה היא התנהלה ב-100 השנים האחרונות. תהליך פיתוח תרופות נראה אותו הדבר, עם שינויים קלים. כמו שהוא נראה לפני 30 שנה", אבל, כך נכתב עוד, "התפתחות הבינה המלאכותית ויכולת המחשוב בשנים האחרונות הובילה לכך שמדעני מחשב יכולים כיום לנתח מערכות ביולוגיות מורכבות ביותר שכוללות מאות מיליארדי נתונים, כמו מספר התאים בגוף האדם," שבעבר לא היה אפשר לנתח. החברות מנצלות את יכולותיה של הבינה המלאכותית כדי להאיץ את כל התהליכים. הבינה המלאכותית תאפשר להם, לייעל את התהליכים ולמצוא תרופות שאחרת לא היה סיכוי להגיע אליהן).

זאת המציאות שבה מתרחש הספר שלפנינו, רומן "עתידני" שמתרחש בעצם בעבר חלופי.

הנחת היסוד שלו היא שאלמלא התאבד טיורינג, ההווה היה שונה לחלוטין (והוא מזכיר בכך כמובן את הספר 4321 של פול אוסטר, שכולו מביא בפנינו גרסאות חיים שונות של אותן דמויות): "ההווה הוא השברירי שבצירופים הבלתי מסתברים. הוא היה יכול להיות שונה. כל חלק בו, או כולו, היה יכול להיות אחרת. זה נכון לגבי דברים גדולים כקטנים. כמה קל לרקום עולמות שבהם ציפורן הבוהן שלי לא הייתה קמה נגדי; שבהם אני עשיר, גר מצפון לתמז אחרי שאחת מתוכניות ההתעשרות שלי עלתה יפה; שבהם שייקספיר מת בילדותו ואיש לא הרגיש בחסרונו, וארצות הברית החליטה להפיל על עיר ביפן את פצצת האטום שאותה כבר בחנה עד לשלמות" (כלומר: בעולם שמקיואן המציא, פצצות האטום לא הוטלו…).

יש בספר שלושה גיבורים: המספר, שכנתו מירנדה – שם שמעלה כמובן על הדעת את דמותה של מירנדה הזכה והתמימה במחזה "הסופה" או "הסערה" של שייקספיר – ורובוט דמוי אדם ששמו, אכן, "אדם".

אדם משוכלל ואנושי עד כדי כך שמתעוררת לרגע השאלה מה בכלל מגדיר אותנו כייצורים חיים ומה מבחין בינינו לבין רובוטים שמיטיבים לחקות אותנו באופן כמעט מושלם. אחת התשובות שמקיואן מציע היא שאנו, בני אדם ויצורים חיים, נזקקים לנקבינו. הוא מספר איך בתחילת שנות השלושים פגשו לראשונה תושבי גיניאה החדשה "דמויות חיוורות" ולא ידעו אם מדובר בבני אדם או באלים. התהייה יושבה אחרי שנער מבני השבט שנשלח לבלוש אחרי היצורים הללו דיווח שראה את אחד מה מסתתר מאחורי שיח, כדי לעשות את צרכיו…

אבל זוהי כמובן תשובה פשטנית, שכן נראה כי מלבד הצרכים הפיזיולוגיים הרובוט אדם הוא אדם לכל דבר. הוא עלה למספר כל כך הרבה כסף, עד שבאותו סכום היה יכול לרכוש לעצמו דירה. אדם נראה בעיניו כ"שיר הלל לכוח ההמצאה האנושי". עד כדי כך, שיכולותיו המופלגות מעמידות למבחן את אלה של בעליו. אדם שולט בכל מכמני התרבות האנושית. הוא מכיר את כל יצירותיו של שייקספיר, יכול לצטט מהן, יכול להשוותן ליצירות של מחזאים אחרים. הוא יודע את כל השפות. הוא מחובר למאגרי מידע שמאפשרים לו להגיע באלפיות השנייה לכל פרט או עניין שמצריך עיון. הוא מתיימר להרגיש: להתאהב, לקנא, להיות אָלים. הוא אפילו כותב שירי הייקו ומתפאר בהם…

אבל דבר אחד אין לו: הוא נטול גמישות מוסרית, ואינו מסוגל להבין דקויות שהנפש האנושית מיומנת בה. למשל – שקרים לבנים הם מעבר ליכולת הבנתו. האם אפשר לכתוב אלגוריתם לנפש מלאכותית שתתמודד עם שקר שנועד "לחסוך מבוכה מחבר? או לְשֶׁקר ששולח לכלא אנס שלא ייענש בלעדיו?"  נבצר ממנו להגיע "להחלטות מוסריות המתגבשות באזורים שמתחת לסף המחשבה המודעת".

כך למשל מנקודת המבט שלו, כלומר – של מכונה משוכללת עד בלי די – מובן מאליו ש"תרופה לסרטן תהיה להרוג את כולם". האמנם כך יקרה? האם היצירה של מכונה שנשגבת מבינתם של בני האדם תייתר את קיומם?

מקיואן נוגע במכונות כמוני בשאלות העוסקות במהות החיים. כמו בתחילתו ספרו המופלא כפרה, גם כאן הוא מנסה לגעת במקום שבו הנפש מביטה אל תוך עצמה, במקום שמחפש את הגבול המצוי אולי בין מחשבה ופעולה, ובוחן שוב את השאלה מיהו בעצם האדם המסוגל לחשוב. בכפרה הילדה תוהה היכן מצוי הרגע שבו מחשבה או פקודה עוברת מהמוח אל היד ואומרת לה לנוע, מיהו זה שחושב אותה, וכיצד בדיוק מתחולל המעבר בין מחשבה לתנועה. בספר שלפנינו הדימוי לקוח משדה הראייה שלנו: "אנחנו לא רואים הכול. אנחנו לא יכולים לראות מה שמאחורי הראש שלנו. אפילו לא את הסנטר של עצמנו. בוא נאמר ששדה הראייה שלנו מגיע למאה שמונים מעלות כמעט, אם כוללים בו גם מודעות לשולי השדה. אבל הדבר המוזר הוא שאין שום גבול, שום שוליים. אין אזור שרואים ואזור שחור, כמו כשמסתכלים במשקפת. לא משהו ומעבר לו שום דבר. יש לנו שדה ראייה ומעבר לו, משהו שהוא פחות משום דבר." והוא תוהה: אם "כזה הוא המוות. פחות מאין. פחות משחור."

אבל עניינו העיקרי בשאלות שמעורר העיסוק ברובוטים דמויי אנוש, ובמחשבות על בני האדם ועל האנושות. איך ייתכן, הוא תוהה, שחיינו מלאים כל כך בפרדוקסים. איך יצליח מתכנת להסביר לרובוט שמיליוני בני אדם מתים ממחלות שהאדם יודע לרפא אותן? איך ילמד אותו להבין שמיליונים בני אדם חיים בעוני, אף על פי שיש די מזון לכולם? איך יצליח לייצר קוד יעיל ונאה שיסביר את התופעה המכונה "אושוויץ"?

הספר ראה אור באנגלית לפני פחות משנה. מדהים להיווכח עד כמה השאלות ששאל איבדו בימים אלה את עוקצן, בשעה שהאנושות כולה נאבקת נגד מין ייצור לא ממש חי, זעיר וחמקני, שעושה בה שמות. ואולי בכל זאת אפשר לתלות את האשם בבני האדם, שפגיעתם האנושה במערכת האקולוגית היא זאת שהביאה עלינו את נגיף הקורונה, כפי שאפשר לראות בספר Spillover.

מכל מקום, מכונות כמוני הוא ספר מרתק ומעורר מחשבה.

 Ian McEwan, Machines Like Me

לעברית: מיכל אלפון