אשליית הסינגולריות: מדוע עמק הסיליקון לא ייצר AGI בדרך שהוא חושב

בינה בפרשה: והפעם איך להשיג AGI?

בפרשתנו הקב"ה מצווה את משה לקחת את בצלאל ואהליאב לעסוק במלאכת המשכן, כדי שיצליחו במלאכתם אומר הפסוק שהקב"ה נותן להם כלים רוחניים ומעשיים, ומהם הכלים להצלחה? "ואמלא אותו רוח אלהים בתבונה ובדעת ובכל מלאכה" חכמה בינה ודעת.אני חושב שיש בפסוק הזה סוד גדול שמלמד אותנו מהם התנאים ההכרחיים להשיג בינה מלאכותית כללית.

אבל ראשית נעשה הקדמה קצרה ופופוליסטית למושגים, בשלוש שנים האחרונות מאז שפרצה הבינה המלאכותית לחיינו מדובר רבות על הגביע הקדוש שאם רק נגיע אליו כל מה שהכרנו ישתנה מהיסוד- Artificial general intelligence או בקיצור AGI היא היכולת של הבינה המלאכותית לבצע ספקטרום רחב מאוד של משימות מבלי שאומנה לכך ספציפית בדומה ליכולת האנושית.
וכאן נחלקות הדעות לשניים - יש הטוענים שהסכנות הטמונות בבינה מלאכותית מהסוג הזה גדולות מאוד ויתכן מאוד שהן ינצלו את כוחן כדי לשלוט עלינו, ויש הטוענים שניתן ליישר את הבינה המלאכותית כך שתתנהג בהתאם להוראותינו וכך נשיג אוטופיה מושלמת שבה צבאות של רובוטים וסוכנים עושים את כל מה שלא כיף לאדם לעשות.
אבל הדרך לשם לא פשוטה - יש הטוענים שאם רק נוסיף עוד כוח מחשוב ונשפר את האלגוריתמים בסוף תופיע יכולת חדשה שתביא לבינה מלאכותית כללית - ויש הטוענים שיש בעיות בסיסיות שארכיטקטורת הטרנספורמרים לא יכולה לפתור - לדוגמה בעיית התפיסה המרחבית של יאן לקון - הוא טוען שהמודלים טובים מאוד בשפה אך אין להם תפיסה מרחבית כמו שיש לאדם ולכן משימות מרחביות שלאדם הממוצע הן טריוויאליות המודלים לא יכולים לפתור.
וכאן אני מגיע לפואנטה - אני טוען שגם אם נפתור את הבעיה המרחבית של יאן לקון יש כאן בעיה הרבה יותר יסודית ואונטולוגית ששום שיפור במימד המדעי מטריאליסטי לא יכול לפתור והוא קשור למכניזם האלוהי לייצר התקדמות בעולם, לייצר מדע חדש, המצאות שטרם נראו, פריצות דרך דרמטיות - את כל אלו כל הGPU שבעולם לא יוכלו להביא.
המכנזים הזה מקופל בפסוק: "וָאֲמַלֵּא אֹתוֹ רוּחַ אֱלֹהִים בְּחׇכְמָה וּבִתְבוּנָה וּבְדַעַת וּבְכׇל מְלָאכָה" (שמות ל"א,ג)
האבן עזרא מסביר מהי כל מלאכה:
וימלא. הנה השם העיד כי הוא מלא חכמה ותבונה ודעת ותוספת עוד שהוא חכם בכל מלאכה:

ולחשוב. בלבו מחשבות שלא נראו כמותן כי יש אומן זהב ולא כסף, וחרשי אבן ולא עץ ובכולם היה שלם.

לפי הראב"ע בצלאל היה שלם בכל המלאכות ידע להתעסק ולהבין מעצמו את כל האומנות הנדרשת כדי לבנות את המשכן - "ובכל מלאכה" מזכיר את ההגדרה של AGI היכולת לבצע כל משימה מבלי שלימוד אותו לכך באופן ספציפי. (חשוב לציין שייתכן שבצלאל קיבל כאן כוחות שמתקרבים לASI אבל על מנת לפשט לא ניכנס לזה)
ומהי הדרך להגיע בסוף התהליך ל"כל מלאכה"? אומר לנו הפסוק חכמה->בינה->ודעת כדי להגיע ליעד המיוחד של בינה מלאכותית כללית חייבים את כל השלבים וכרגע יש לנו רק את שלב הבינה.
המושגים חכמה בינה ודעת (חב"ד) הם מונחים מפורסמים בפנימיות בתורה ונבאר אותם כאן בקצרה:
חכמה - חכמה היא ההברקה הראשונית של רעיון בראשיתי ולא מלוטש - הרגע שבו האסימונים נופלים והנורות נדלקות מעל הראש - הרגע שאתה מרגיש שעלית כאן על משהו חדש ומסקרן אבל יש כאן עבודה של פיתוח שצריך לעשות. "והחכמה מאין תמצא" החכמה הוא שלב היש מאין - חומר חדש שלא היה במערכת נכנס מבחוץ ומפרה אותה. (ואמלא אותו רוח אלוהים)
בינה - היא היכולת לקחת חומר גלם אבסטרקטי וללטש אותו לפתח אותו, ללוש אותו, לשאול שאלות להסיק מסקנות להבין דבר מתוך דבר עד שהרעיון הגולמי נהפך למשהו שאפשר לנגוע בו שאפשר לראות אותו בעיניים שכל החלקים בו ברורים ושאפשר להנות ממנו. אם החכמה היא הענן הבינה יודעת לייצר ממנו גשם - מים שאפשר לשתות אותם ולהשתמש בהם. הבינה היא מלכת היש מיש - היא לא יודעת להביא חומר שלא נמצא בסיסטם היא עובדת רק עם מה שיש לה.
דעת - דעת היא החיבור , "והאדם ידע את חוה אשתו" אחרי שהרעיונות התגבשו אחרי שבנית תזה, אידאליה, וקונספציה השאלה כמה הדברים הללו מחלחלים לעולם הפנימי שלך כמה אתה פועל לאורם כמה אתה מאמין בהם ופועל בשמם ומוכן לשלם עליהם מחירים, היא המצפון והמצפן שלך בעולם. הדעת היא הנשמה והתודעה בסיפור הזה.
כרגע אנחנו פיתחנו מאוד את יכולת הבינה - המודלים מסוגלים ללעוס ערמות של דאטה לבצע חשיבה עמוקה להבין דבר מתוך דבר והיא עושה את זה מצוין אבל חסר לה את בחינת החכמה ההזרקה של הרעיונות החדשניים מחוץ לסיסטם את הפונקציה הזו ממלא האדם שהוא חלק אלוקה ממעל הוא מחובר לשורשו (גם אם הוא אתאיסט) שמזין אותו בחומר חדש כדי לקדם את העולם.
דעת היא הaligment המיוחל היא מוסר שאמור ליישר את הAGI (או ASI) והיא שלב בשרשרת שתחילתו בחכמה.ובקיצור רבותי כל עוד נדבר רק במונחים מטריאליסטים ורק נוסיף חומרה ואלגוריתמיקה לא יופיעו כאן תכונות החכמה והדעת, צריך כאן משהו אחר לחלוטין, מהו? אני לא יודע לומר כרגע (יש לי כיוונים אבל זה למאמר אחר) אני מעריך שנגלה את התשובות בעצמנו במאה שנים הקרובות.

שטויות יפות אבל איך זה עוזר לי בעבודה היומיומית עם ה AI?

מעבר לדיון הפילוסופי תורני המרתק אני חושב שניתן לגזור כמה תובנות פרקטיות מהרעיונות שמלמדת אותנו פנימיות התורה בהקשר של הבינה המלאכותית.

חשוב לזכור המקור של הכל הוא הרעיון האבסטרקטי הראשוני הוא הברק שהבריק והאסימון שנפל והגיע מבחינת החכמה.

כרגע בחינת החכמה והאפשרות לקבל השראה נמצאת רק למי שיש לו רוח אלוהים - דהיינו רק לאדם. לכן חשוב מאוד להבין שהערך המוסף בעבודה שלי מול הבינה הוא הרעיונות שרק אני יכול להביא - היא תעזור לי לפתח אותם אבל אני המקור. ולכן כדי לשמור על מקוריות חשוב שזריעת הרעיון הראשוני תהיה מקורית אחרי חשיבה אחרי תהליך של השראה.

כיום כשהביצוע הוא כבר לא מכשול כל מה שנותר הוא הויז'ן, כמה אני יודע מה אני רוצה וכמה אני מדויק וחד במסרים והרעיונות שאני רוצה להעביר.

הבינה חסרה את הדעת - את החיבור ואת החוויה האישית למה שהיא כותבת, כדי שהטקסט לא יהיה גנרי וחלול מדי תכניסו חוויות אישיות שלכם לתוכו, תנו לקורא להבין שהוא קורא טקסט אנושי שנובע מתוך התנסות חיה ולא פלט סטטיסטי בהתפלגות נורמלית מדי.

זהו חברים עד כאן להיום, אשמח להתווכח איתכם וללמוד מכם בתגובות.