מבט חדש על מותר האדם מן המחשב

הקדמה:

בעולם בו כל נבואה היא (כמעט) בגדר עובדה, נקל להבין להנאתו המיוחדת של פרופ יהושע בר-הלל שעה שהוא מנפץ זו אחר זו שלפוחיות מלאות תחזיות ספקולטיביות, המרחפות אשכולות אשכולות מעל התיבות האפורות של המחשבים האלקטרוניים.

כמחברו של הספר הפופולרי ״אוטומטים — סכויים וסייגים״, ונשיאו של האיגוד הבינלאומי ללוגיקה, מתודולוגיה ופילוסופיה של המדע; קרוב פרופ בר-הלל לנושא המחשבים. מה גם שעסק בפועל (1951—1953) בבעיית התרגום המכאני. אך נסיון זה הנחיל לו אכזבה קשה, וכדבריו: הפיק לקח אשר לעולם לא ישכחו אותו.

אך נחזור לענין השלפוחיות. לאחר שפרופ׳ בר-הלל מנקב אותן הוא נוטל את הקרעים ונופח בהם אויר. ללמדן, שבכל תחזית ספקולטיבית יש כיסי אויר אמיתיים, אשר ״באופן עקרוני״ מסוגלים להתנפח למימדי הבלון המקורי, ״אך כרגע״ אין אנו יודעים כיצד לעשות זאת. למה דבר דומה? כאילו באת וטענת באוזני אותה צפרדע מסכנה שבמשל, שהתפוצצה במאמץ להידמות לפרה, כי באופן עקרוני היתה מסוגלת לעשות זאת. מסתמא, שכדי לחנוק משחק של דמיון אין אתה צריך חבל, די בהבל-פה של דו-תחמוצת הפחמן.

לבוש חליפה אפורה-בהירה ועניבה צבעונית, מרצה פרופ׳ בר-הלל את דבריו על ייחודו של פנומן זה הקרוי המוח האנושי. שיחו שקט ומאופק, בדרך כלל, אלא בשעה שהוא נועץ סיכה חדשה בשלפוחית נוספת.

מה שאיננו נכון בדבריו של פרופ׳ ליבוביץ¹

פרופ׳ בר-הלל, לפני שלוש שנים פרסמת את הספר שלך ״אוטומטים — סכויים וסייגים״. האם חל איזה שהוא שנוי בהערכות ובתחזיות שלך מאז?

לא. כמעט אין לי מה לחדש, פרט לנקודה אחת שאז לא הדגשתי אותה, אולי, במידה מספקת ועכשיו הייתי רוצה להאריך עליה את הדיבור. אלא שלפני זה שתי הערות; אחת, בקשר לדבריו המצוטטים של פרופ׳ ליבוביץ בגליון האחרון של ״מחשבות״. כי מה שאינו נראה לי, מה שפשוט נראה לי כלא נכון בדבריו של פרופ׳ ליבוביץ — זה אותו הניגוד שהוא מעמיד בין ״כמותי״ ו״איכותי״ וטענתו שהמחשבים, אמנם, מסוגלים היטב לטפל בכל ענין כמותי, אבל אינם מסוגלים לעסוק במספר בעיות — מכיון שהן איכותיות. אני חושב שבאופן עקרוני כל הניגוד הזה בין איכותי לכמותי איננו רציני, ואינני חושב שהוא ניתן, באיזה מקום שהוא, להגנה של ממש. נדמה לי כי הוא תהליך של הילכי מחשבה של פילוסופיה קונטיננטלית, אשר נדמה לי — אבד עליה כלח. אבל ביתר יחוד, במה ששיך למחשבים אלקטרוניים, זה, בשפה הפשוטה ביותר, איננו נכון.

אם אני מבין נכון, אינך רואה באפשרות לתרגם בעיה איכותית לשפה כמותית תנאי הכרחי מוקדם לטפול באותה בעיה במחשב.

אין תנאי כזה. כל בעיה איכותית11 ניתנת בצעד אחד או בשני צעדים להפוך אותה למה שאתה קורא — בעיה כמותית. כי הטפול הכמותי הוא משהו אשר מכיל את כל הספור האיכותי — כחלק ממשי של עצמו. כך שבאופן מושגי לא יתואר הדבר הזה.

האין, לדעתך, בעיות איכותיות שבשום פנים אין לתת להן ביטוי של כן ולא, או של אחד ואפס?

לדוגמה, אתה מוכן לתת איזו דוגמה לכך?

מושגים כמו טוב ורע, למשל.

בבקשה, אם משהו טוב ניתן לו את המספר אחד ואם משהו רע ניתן לו את המספר אפס.

השאלה היא אם הבחנה כזו תהיה מדוייקת — או לפחות ממצה — של אותו מצב שהיא באה לתאר.

מה הקשר בין זה לבין האיכותי והכמותי? כלומר, אם קשה לפעמים להתאים את המספרים אחד ואפס, על אחת כמה וכמה שלעתים קרובות מאוד יהיה קשה להתאים מספרים מסוגים אחרים. הטפול בבעיות איכותיות צריך באופן עקרוני להיות הרבה יותר פשוט מאשר בבעיות כמותיות. תלמידי בקורסים אלמנטריים בפילוסופיה של המדע לומדים, שהטיפול הכמותי בא שני שלבים אחרי הטפול האיכותי, כשהשלב ההשוואתי מופיע ביניהם. מהשלב הכמותי אתה יכול תמיד לעבור לשלב האיכותי וההשוואתי — אבל לא להיפך. נדמה לי שיש כאן איזה ערבוב פילוסופי. הדבורים האלה על איכות מול כמות אני מכיר אותם מתולדות הפילוסופיה מלפני 40—50 שנה. ואינני חושב שהם ניתנים להצדקה כיום. אך אולי מוטב לעבור לעצם העובדה שזה פשוט לא נכון; אין המחשב עוסק בכמויות לחלוטין — וכל ועיקר באופן ראשוני.

אדרבה, המחשב הוא בראש וראשונה מניפולטור בסמלים. ואין כל צורך לתת למניפולציות בסמלים שהוא מבצע פשר של סמלים מספריים. הנכון הוא שכל התחומים האלה שהמחשב מסוגל לטפל בהם — ניתנים לאריתמטיזציה. קיימת אותה שיטה מפורסמת שגידל — גדול הלוגיקנים של ימינו — הצביע עליה: שהאריתמטיקה היא תחום מיוחד במינו, אשר לתוכו אפשר להעתיק כל תחום אחר. ועל-כן, אפילו היה המחשב מסוגל רק לעסוק במספרים — אין זה, במאומה, מקטין מיכלתו. אבל, כאמור, אין זה ככה. עצם הפשר האריתמטי הוא רק אחד הפשרים האפשריים.

כלומר שאתה לא רואה שום הגבלה בטפול בבעיות על-ידי המחשב?

אני רואה הגבלות חמורות מאוד. חמורות — נדמה לי — מאלה שליבוביץ העלה. אבל אינני חושב שהטרמינולוגיה שהוא בחר מוצלחת. הגבלות אלו אינן נוגעות לאיכויות, אלא הגבלות שיש לעומת בני-אדם ואלה מחייבות ניסוחים אחרים. מכל מקום הניסוחים המטפיזיים כמעט בנדון זה מטשטשים את התמונה ואינם מאפשרים לראות נכוחה את יכולתו האמיתית של המחשב לגבי מה שאפשר לצפות ממנו כרגע ובעתיד הנראה לעין, מה שצריך להשאיר לדורות שיבואו ומה שאין להניח שעד תום האנושות יוכל המחשב לשמש לפתרון בעיות אלה בקנה-מידה רציני. מה הן הגבלות אלה שהזכרתי; כאשר בני-אדם מבוגרים, המשתמשים בשכלם, באים להכריע או לפתור בעיה מסוימת, יש להם — בנוסף לנתונים שהם מקבלים על הבעיה — ידיעות רקע שהן רלבנטיות בצורה זו או אחרת לאותה בעיה. ויש להם גם היכולת של שיקול-דעת על מידת הרלבנטיות. קשה לתאר שאפשר יהיה לאחסן אי-פעם בתוך הזכרון של המחשב את כל האינפורמציה הזאת; אם כי מבחינה עקרונית זה אפשר. אבל, וזו הנקודה המכרעת, עד היום לא נמצאה כל תכנית של ממש — או כל ממצא שיוביל לקראת זה — שיראה למחשב כיצד לקבוע מהו רלבנטי מתוך כל האינפורמציה שהוא מצוייד בה כדי לפתור בעיה מסויימת. במה כדאי להשתמש — ולהשתמש פירוש הדבר להוציא מסקנות לוגיות — והיכן לחפש בחומר המאוחסן אצלו תשובה ישירה לשא12לה שנשאלה. הסיכוי בענין זה הוא אפס מוחלט. הקושי נובע מכך, שאין אנו מבינים כיצד פועלת יכולת זו שלנו ועל-כן — אין אנו יכולים לתכנת אותה לתוך מחשב.

הנבואה שנכשלה

האין חוסר אונים זה מובא בספרך להסברת כשלונו של המחשב במשחק השח?

כן, בהחלט. אגב, היתה לי הזדמנות לחשוב על נושא זה קצת יותר בשנים האחרונות וגם עמדתי על דוגמה זאת מחדש בכנס שהתקיים לפני חודשים אחדים באוניברסיטת דרטמאות, בארה״ב, ושבו נטל חלק גם אותו מינסקי — אשר בצדק מצוטט הרבה בחוברת האחרונה של ״מחשבות״. הסיבה שנטלתי דווקה את דוגמת השח, שהשנה — 1967 — ימלאו אותם עשר השנים לניבוי המפורסם של הרברט סיימון — אחד ההוגים החשובים בארה״ב — אשר התנבא ב-1957, כי בעוד עשר שנים יהיה מחשב אלקטרוני אלוף העולם בשחמט. ובכן, מה קרה כאן? למה נכשל כאן המחשב כשלון חרוץ בעוד הגיע להישגים טובים מאוד במשחק הדמקה (אמנם דמקה אמריקאית בה המלכה הרבה פחות מובילית מאשר בדמקה ישראלית, ולכן המשחק פשוט יותר ומספר ההתמודדויות האפשריות קטן יותר)?

ושאלה נוספת: כיוון שהאפשרויות בשחמט הרבה יותר רבות מאשר בדמקה, האין זה מחייב שיטות גישה ומחשבה חדשות לקביעת האיסטרטגיה הטובה? דעתי היא שזה בהחלט כך. כי אותה שיטה שיכולה לפעול היטב לגבי כמה מיליונים או ביליונים של אפשרויות, יכולה להיות מגוכחת ובלתי מעשית כשמספר האפשרויות שצריך להביא אותם בחשבון מגיע לטריליונים ולקואדריליונים. אין גם שאלה של להקדיש עוד כמה שנים לפתרון הבעיה. ההבדלים במספרים הם כל כך גדולים שהגדלת המאמץ פי עשר או פי מאה לא תפתור את השאלה. אחד הדברים ההכרחיים להבטחת ההצלחה של אסטרטגיה כלשהי, שתימצא פונקציה אשר תוכל להעריך כל מצב ומצב ולתת לו הערכה כמותית — או לפחות השוואתית. ברגע זה אין יודעים כיצד להגיע לפונקציה כזו מתקבלת על הדעת. פונקצית ההערכה שסמואל השתמש בדמקה, אף שהוכיחה כוחה למעשה, נעדרת יסוד תיאורטי מובהק ואיש אינו יודע מדוע אותה תכנית של דמקה הצליחה.

הזנחה פושעת

האין זה נובע ממיעוט ההבנה שיש לנו לגבי פעולת המוח והחשיבה?

כמובן. וכאן אחד החטאים הכבדים של העוסקים בתחום זה; הזנחה פושעת, הייתי כמעט אומר, בהערכת היכולת שאנו מביאים לעולם בהיוולדנו. אנחנו באים לאויר העולם עם עשרה ביליונים של ניורונים הקשורים ברשת מסובכת ביותר. הרשת הזאת, עליה יש לנו תמונה כללית ביותר, היא תוצאה של מאות מיליונים של שנות אבולוציה, והעובדה שאנו בני-אדם תלויה במידה מכרעת במבנה של הרשת. זהו מבנה סטרוקטורלי השקול כנגד מחשב עצום המכיל מספר אדיר של תכניות לפתרון כל-מיני בעיות.

האין רוב התכניות האלה נכתבות לאחר זמן בהשפעת הסביבה והחינוך?

בדיוק לא. אנחנו לא משנים ניורונים, להיפך — מספרם הולך ופוחת במרוצת חיינו. קשרים אנחנו מוסיפים ומשנים אבל לא ניורונים. וזאת הנקודה החשובה: שאנו מתחילים את הדרך עם רשת מסויימת אשר מקנה לנו, לנו, ורק לנו, כל מיני יכולות ששום יצור אחר — לא טבעי ולא מלאכותי — איננו מראה עם היוולדו.

לדוגמה, היכולת שלנו ללמוד כל שפה. אין זו שאלה של מספר הניורונים ומספר הקשרים. יש חיות שמספרם של אלה עולה על שלנו ואעפי״כ אין להן התכונה הזאת ואין אנו יודעים למה. ולא נדע ברצינות לעולם, כי מספר הקשרים הוא כה עצום שאין לתאר כי נוכל ביום מן13 הימים להגיע למיפוי מדוייק של עשרת ביליון הניורונים. על-כן, אינני חושב שיש אדם בעולם החושב ברצינות שבעתיד הקרוב נוכל לבנות מחשב ולתכנת אותו עם ״היוולדו״, כך שיוכל להשתוות ולו מבחינה פונקציונלית — שלא לדבר על זהות של נקודה-נקודה — עם מערכת העצבים של בני-האדם.

מאידך, הייתי מסתייג לחלוטין מכל ניסוח הקובע באופן עקרוני, ״מטפיזי״, כי זה בלתי אפשרי. אני מוכן להסכים שזה אפשרי מבחינה עקרונית, אולם בגלל הקשיים הפנטסטיים אין יכולת עקרונית זו משנה מאומה.

מדברים כיום על בניית זכרון של מחשב על-פי מבנה המולקולה של חומצה גרעינית. האם מסתמן כאן, לדעתך, פתרון אפשרי לבעיה הטכנית של בניית זכרון עצום ממדים — דוגמת המוח האנושי?

בהחלט, כמובן. אם נגיע לידי הבנה מלאה של המבנה הספציפי של הכושר התורשתי, של ההבדלים בין אדם לאדם ובין מולקולה אחת לשניה — למה לא? אבל, נדמה לי, שאנו רחוקים עדיין מכל זה. שום הוגה דעות רציני לא יוכל להתנבא כמה כל הבנה נוספת שאנו רוכשים מקרבת אותנו למטרה ספציפית זאת, אם כי, בודאי, יש בכל הבנה נוספת כזאת כדי לקדם אותנו גם לדברים אחרים, בין שזה דמקה או שח.

המשחק החופשי של הרוח

היש בהתעסקות במשחקים אלה הרבה יותר מסתם שעשוע ?

בודאי, בודאי, והנה אני בא לנקודה האחרונה, הנראית לי חשובה ביותר ואשר אותה הבינותי היטב רק בשלוש-ארבע השנים האחרונות. באותו כנס בדארטמאות העליתי אותה בפעם הראשונה לפני ציבור רחב, ואני חושב שכדאי לדבר על זה בפומבי גם בארץ. מדובר במעמדם המיוחד של תיאוריות מדעיות ושל מושגים תיאורטיים. לנושא זה אני מקדיש שני טרימסטרים שלמים במסגרת למודי הפילוסופיה של המדע ולכן אין זה קל לסכם דבר זה על רגל אחת. על-כל-פנים, בניגוד למה שחושב הקהל הרחב, לא רק שהמונחים התיאורטיים-מדעיים אינם מובנים במישרין, אלא שהם גם אינם ניתנים להעמדה על מונחים מובנים במישרין — באמצעות שרשרת הגדרות מהטיפוס הסטנדרטי. כלומר, שלמונחים תיאורטיים אלה יש תחום של חוסר פשר ישיר. בעובדה שרק בני-אדם יודעים לעבוד עם מושגים תיאורטיים, למרות שאין להם פשר ישיר במונחים תצפיתיים ולא אינטרפרטציה ישירה בדברים שהעין רואה והאוזן שומעת — אני לא הייתי מהסס לראות בה את יתרונו הגדול של בן-האדם לעומת החיות. והשפה כאן תופשת מקום מכריע. הלשון מקנה לנו מעל לכל את היכולת לעשות מניפולציות עם סימנים חסרי פשר ישיר ומלא. לכן לא יתואר שהיינו יכולים להגיע להבנת תיאוריות מדעיות ולפיתוחן בלי שליטתנו בלשון.

האם אתה רואה בפילוסופיה את הנציגה המובהקת של המקצועות התיאורטיים?

לא, לא. בראש וראשונה הפיסיקה התיאורטית. כן הייתי מציין את המהפכה המתרחשת בעשור שלנו בביולוגיה, המתחילה להשיג את הפיסיקה במדת התיאורטיזציה שלה והתרחקותה ממונחים שיש להם פשר ישיר. ההוכחה לכך, שסוף סוף הגענו לכך, שהמשכיל הלא-מומחה חדל להבין מה שהביולוגים מדברים. תהליך זה מעורר, כמובן, בעיות קשות: כיצד להעביר את הישגי המדע התיאורטי לפני אותם אנשים בממשלה שצריכים להכריע (נושא שאני מתכוון להקדיש לו חלק גדול של זמני בשלוש-ארבע השנים הקרובות). מכל מקום ברור, שככל שמקצוע עובר תהליך זה של תיאורטיזציה ומונחיו מתרחקים יותר ויותר מן הניתנות לפשר הישיר — הוא מקבל כנפיים. זהו אותו ״המשחק החופשי של הרוח״ אשר אינשטיין כל כך אהב לדבר עליו. ועכשיו, המענין הוא שמונחים תיאורטיים אלה, הרחוקים מן הפשר הישיר, מופיעים גם במשחקים. מה שמאפיין את שחקן השח הטוב לעומת השחקן הבינוני, הוא ביכולתו האינטואיטיבית — שהיא לא מנוסחת ולא מודעת — להעריך את המצבים השונים. לדוגמה: מושג ״האיום״ בשח. כל שחמטאי בר-דעת יודה, שאין כל אפשרות למצות את המשמעות התצפיתית של הבטוי הזה ע״י מספר סופי ומוגבל של הצבעות על מצבים מסויימים. במלים אחרות, המונח ״איום״ הוא תיאורטי ביחס למונחים התצפיתיים, כמו: ״שח״, ״מט״, ״פט״, ״המלכה מותקפת״ וכדומה. מכאן, שכדי לשחק טוב צריכה, כנראה, להיות שליטה מסויימת על מושגים תיאורטיים.

יכולת זו, הנראית לי כמאפיינת את כושר החשיבה והשיקול של בן-אדם, אין אנו יודעים, פשוטו כמשמעו, כיצד להקנות למחשב.

השליטה על מונחים תיאורטיים

האינך רואה בכושר היצירה את הדבר המאפיין בעיקר את האדם ?

מאז ומתמיד הצביעו המבקרים על העדר כושר היצירה במחשב כהוכחה לנחיתותו. נדמה לי שגם ליבוביץ מתעכב במקום אחד על נקודה זאת. הניסוח המקובל הוא שמחשב אינו מסוגל לגלות יוזמה עצמית. ובכן, בניסוח הזה זה בודאי לא נכון.

מאחר והיוזמה של המחשב מתוכנתת מראש… —

זה לא כלום, ומה אצלנו? מה שעובר אלינו, לדוגמה, מאבא ומאמא? הרי לא קיבלנו יכולת זו יש מאין! לפי קו זה של הנמקה אתה מגיע במוקדם או במאוחר לקב״ה. אני באמת חושב שהויכוחים האלה, באופן עקרוני, הם דברי הבל. כל מה שהם מוכיחים, ששום דבר אינו נוצר יש מאין. ההבחנה היסודית, מבחינה מעשית, הוא ביכולת של בן-אדם לעבוד עם מושגים תיאורטיים והיכולת הקשורה ללמוד שפת אנוש. כושר היצירה שלנו הוא, לדעתי,14 דבר הרבה יותר מסובך ממה שמתאר ארתור קסטלר בספרו THE ACT OF CREATION כ״ביסוסיאציה״, כלומר — גילוי הקשר בין שני דברים שמקודם לא נראה שום קשר ביניהם. כושר היצירה זהו המצאת מערכות חדשות, יצירת מושגים חדשים שאינם קומבינציות ואף לא ביסוסיאציות של מצבים ישנים. אנחנו יודעים שהמונחים החדשים המופיעים בתורות החדשות שאנו יוצרים אינם יש מאין, אבל איננו יודעים מאין. ובכן, את היכולת הזו שיש לנו ליצור תיאוריות חדשות, אין אנו יודעים בשום פנים, ברגע זה, כיצד לתכנת אותה ולצייד בה מחשב אלקטרוני. עד לפני שנתיים-שלוש הסתפקתי אף אני בעצם הידיעה שאנו נחונים בכושר יצירה גדול לאין ערוך מאשר של מחשבים. עכשיו, נדמה לי, אני מבין מה אומרת הבחנה זו. נדמה לי שאת הקשר הזה בין כושר יצירה לבין שליטה במונחים תיאורטיים העליתי אני בפעם הראשונה. מכל מקום, לא ראיתי ולא שמעתי בשום מקום את הניסוח הזה.

האפשר לראות בקשר זה שמצאת תוצאה של ביסוסיאציה?

נכון. מה שקרה אצלי זהו תהליך קסטלרי מובהק: לקשור את המונחים ״כושר יצירה״ ו״תיאוריות״. כלומר, שכושר היצירה בקנה המדה הגבוה ביותר מתבטא בזאת שאתה מכניס מונחים תיאורטיים. וכאן מתעוררת שאלה: מכיוון שאנחנו יודעים לפתח תורות חדשות המכילות מונחים שאינם ניתנים לפרוש — גם המחשב צריך לדעת עקרונית לעשות את זה. וזה נכון. אבל אח״כ באה ההנחה השניה: כיוון שהמחשב מסוגל לכך עקרונית — תפתח בתכנית מחקר כדי למצוא את הדרך. אך זו הבעיה החמורה השולטת בכל התחום הזה של אינטליגנציה מלאכותית: מזה שאתה יכול לעשות משהו באופן עקרוני, לא נובע דבר, גם אם אתה משקיע זמן, כסף ומרץ. השאלה היא אם התחום הזה הגיע למדת הבשלות הראויה לו. הנסיונות שנערכו בתרגום מכאני מלא של הלשונות מהווים דוגמה טובה לכך. עובדה היא שהערכתי השלילית בענין זה כבר מלפני עשר שנים נתקבלה במלואה בעולם, ותכניות המחקר המיועדות לתרגום מכאני מלא הופסקו פחות או יותר. מה שעדיין מגזימים בהערכת המחשב זה ביכולת שלו לבדוק ולאמת תורות מדעיות חדשות. גם אני באופן אישי תליתי בזה הרבה תקוות, אבל בעקבות מחשבותי האחרונות אני מפקפק בכך יותר ויותר, אך יתכן ששוב אני מקדים את המחשבה הכללית בכמה שנים.

המסקנה מדבריך היא, שלא אירע דבר בשלוש השנים האחרונות בתחום המחשבים, שיפריך את ההשגות שהיו לך בשעת כתיבת הספר.

נכון. בתקופה זאת חלה, אמנם, העמקה בדעות שהיו לי אז, אך זו לא שינתה את הערכתי העקרונית לגבי מה שצפוי והיכן מצב הענינים בשל למחקרים. נדמה לי שגם בעולם הרחב התפתחה הערכה דומה, שאתה יכול למצוא לה בטוי, למשל, בירידת הפופולריות של מושג האינטליגנציה המלאכותית. אני רואה בזה התפתחות רצויה ביותר, המובילה לשמוש רחב יותר של המחשבים לדברים מתקבלים על הדעת ופחות לחלומות.

היית מוכן לתת תחזית משלך לגבי התפתחות המחשבים בעשרים השנים הקרובות?

אני חושב שכל התחזיות לתקופה כה ארוכה, ויש לי כאן כמה ספרים מלאים בהן, נראות לי כעורבא פרח. • •18

---

לפרופ׳ ליבוביץ תינתן הזדמנות להשיב בגליון הבא.

 ↩