אלון מאסק - האנושות היא הכנה ל AI

avihuli · נשלח: א' 08/09/2019 23:02

דיון מאוד מעניין, עוקב...

ufffnick · נשלח: ב' 09/09/2019 8:14

dudib
·
אלה 33 דקות של בולשיט שאיבדתי מהחיים סתם.
אשכרה צפיתי בתקווה שייגעו בנזקים האמיתיים של ה"AI" שכבר חווים אותם בשני העשורים האחרונים, אבל המניפסט הניואייג'י עמוס בשטויות שמנותקות מהמציאות הסבירו עצמן כשהבנתי מי הדמות המובילה של הסרטון.

כדי להגיע לסינגולריטי, אם בכלל, צריך לשבור מעגל "קסם" שהוא די טריוויאלי -
שהמכונה תדע ללמוד בעצמה, לאבחן בין תפל ועיקר במידע, בעצמה, להסתגל לשינויים סינגולריים גדולים במציאות כלומר להגיב למצב שלא נתקלה בו מעולם ותוך כדי הנתהלות בסיטואציה לבצע מהלך אמידה ולמידה (דבר שאנחנו עושים על בסיס יומיומי מבלי לשים לב) ומעל לכל זה - מערכת ששולטת ומנתבת מקבילית את ההתמודדות עם כל המרכיבים של התפיסה (ואני לא מתחיל להיכנס לאיך בכלל בונים מכונה שבאה עם התכונות הבסיסיות שלה להתמודדות עם המציאות - מה שאצל בעלי החיים נקרא תוכנות מולדות).
רמז - אין מכונה כזו וגם לא תהיה בעתיד הנראה לעין. למה? אתן תשובה הכי סתומה לזה - כי נדרש מליארדי שנים של אבולוציה כדי להביא את המחשבים הכי חזקים על כדוה"א (בדמות בע"ח) המותאמים לסביבה שלהם בצורה אידיאלית בכדי לשרוד ולתפק, תוך יכולת פנומנלית (ועיקרית) לפתור סיטואציות שלא נתקלו בהם בעבר.
היום, וגם בעוד כמה עשורים (כי אין מיקוד מסביב לזה) מכונה מסוגלת ללמוד את מה שמלמדים אותה, מסוגלת לייצר תהליך למידה בתחום מציאות שלא משתנה מחוץ למרחב שהוגדר לה. כדי שמכונה תתמודד עם מצב שהיא לא למדה איתו, נדרש להקפיץ את האלגוריתמיקה שנות אור קדימה ועוד יותר את כוח המיחשוב. זה ממש מד"ב.

כיום, אפשר לייצר מכונה לומדת שתטפל בבעיה ספציפית מאוד - לשחק שחמט זו המורכבות הכי גבוהה שהגיעו אליה, וגם שם מחשב העל הטוב בעולם מצליח להשתוות לאדם, קשה לבוא ולומר בודאות שמתעלה עליו.
סתם כדי לסבר את האוזן -
כדי לאמן רשת נוירונים לזיהוי חפצים בתמונה נדרש אימון של מספר שבועות על array של GPUs.
התוצאה היא שאותה רשת נוירונים יכולה לזהות בהסתברויות משתנות (בהתאם לתמונה) את העצמים שבתמונה.
כלומר היא יודעת להוציא וקטור ספרסי שמורכב מהמון אפסים ומספר אחדים, שמייצג עבורה עצם כלשהו, כי ככה המתכנת קבע שהוא ייוצג. המכונה לא מבינה מה הוא העצם, ובטח שלא לשייך אותו לקבוצות שיוך.
אבל בזה העניין מסתכם.
אתם יודעים כמה זמן לוקח לילד ללמוד זאת + להבין משמעות + לשייך לקבוצות שיוך? ימים שכלל הלמידה במצטברת היא בין דקות לשעות. יתרה מכך ילד נדרש למספר תמונות בודדות כדי להשליך הלאה לצורות גוונים וגדלים שונים של כלבים שלא נראים בתמונות, מכונה הרבה פחות יעלה בזה, וכדי שתתחיל להשליך, היא צריכה כמה מליונים של תמונות בלמידה. זה ההבדל בין הבנת המשמעות של העצם בתמונה (כוס, כלי קיבול, שותים עם זה) לבין זיהוי גראפי של עצם בתמונה.

כל הקישקוש הזה על מודעות של מכונה פשוט מנותק מהמציאות האלגוריתמית, וכמו בימי הביניים, כשמשהו קשה להסביר להמונים, הדמיון מפליג רחוק מידי.

רוצים לדבר על הנזקים של מכונה לומדת?

תקראו על המונחים echo chambers ועל conformation bias - שניהם נוגעים בנטיה שלנו לחפש אישור חיצוני לדעות שלנו, שנקבל מהאנשים שמקיפים אותנו, שהם לרוב בעלי דעות דומות לשלנו, ועל כן נמצא את עצמנו מרוצים עד השמיים מהדעות ההולכות ומקצינות שיוצרות שבטיות שהחיכוך בין השבטים רק הולך ועולה כי כל שבט חי בעולם באישור הפנימי שלו לדעותיו.
איך קשור למכונה? היא תמיד תמליץ על אנשים בעלי תכונות דומות ותחומי עניין דומים ו... דעות דומות לנו ולאנשים בחוג שלנו. והרי לכן שבט הומוגני שמזין עצמו בדיעותיו, מאשר אותן בשיח שמקצין עצמו ומרחיק משמעותית משבט אחר השונה ממנו. מה נראה לכם שיקרה באינטראקציה בין שני אנשים משבטים שונים...?

וכן תעיינו במושג filter bubble - שזהו המצב בו הפיד של המידע שאנחנו ניזונים ממנו מגיע ממקורות של מידע שנוח לנו לקבל אותם. מכאן שיש המון מידע שמסונן החוצה, שיכל להיות בעל ערך גבוה בין אם באופן אישי ובין אם לשיח חברתי, שנגרע מאותו צרכן מידע. כי המכונה למדה שמקורות וסוג מסויים של מידע פשוט לסנן החוצה, ללא קשר למשמעות שהמידע הזה מחזיק.
והופ - עכשיו פתאום אפשר להבין איך בעצם הפייק-ניוז עשה ועושה עבודה מעולה בהגדלת הבורות וחיזוק אמונות שמאושררות ע"י אותם שבטים וירטואליים.

molvy · נשלח: ב' 09/09/2019 9:21

oferlaor · נשלח: ב' 09/09/2019 9:49

molvy
·זה הבעיה עם AI, בגלל שזה לא אלגוריתם של IF THIS THEN THAT, אלא משהו מאוד fuzzy שמזהה patterns אי אפשר באמת להבין למה AI מחליט משהו כי יש הרבה שכבות להחלטה הזו. זה די דומה למדוע מישהו עושה פעולה כלשהי, אפשר לגבות את זה בהגיון אבל האדם לא הולך ועושה אלגוריתם החלטה הגיוני אלא פועל מרגשות ומנסיון ולפעמים בגלל מה שהוא אכל היום בבוקר או איך שהוא ישן בלילה...

ככל שרכיב ה-AI יגבר בתעשיה, כך נבין פחות מדוע דברים פועלים כמו שהם פועלים.

ufffnick · נשלח: ב' 09/09/2019 11:04

oferlaor
·
אני לא כל כך מסכים עם הקביעה הזו, והיא מבטאת את הפערי הבנה שיש גם בשוק העבודה בתחום.
מתכנתים רגילים לקוד שיש לו משמעות חד-חד ערכית (אם אז, כל עוד א' קורה אז ב', וכו').
עולם המכונה הלומדת הכניס רכיב סטטיסטי למערכת השיקולים, שמושפע מאוד ממבנה המידע שמשמש ללמידה, לפעמים יותר מהאלגוריתם שנעשה בו השימוש, ובחירת האלגוריתם נגזרת מסוג, צורה, ועיבוד המידע בטרם הכניסה אל האלגוריתם.
נכון, זה הרבה יותר מורכב להבין את מערכת ההחלטות של מכונה, אבל כל המידע שם ואפשר להבין אותו.
זו האחת המשמעויות המרכזיות של להיות data scientist.
בחלק גדול מהמקרים אכן מתייחסים לאלגוריתמים האלה כקופסא שחורה (כי נוח), אבל בסופו של יום מה שמתחבא מאחוריהם זו סטטיסטיקה ואלגברה לינארית.

אני יכול להמליץ על כמה קורסים ברשת לזה, ומי שמעדיף משהו פרונטלי (במיוחד למתכנתים) יש את הקורס אחה"צ של הטכניון בשרונה, הוא קצת רדוד כי מכסה קשת ענקית של גישות, אבל נותן את כל הבסיס להמשיך ללמוד בעצמך (סיימתי את המחזור השני שלהם).

Huber · נשלח: ד' 02/10/2019 14:41

Musk issues warning about robot takeover – ‘If they’re evolving rapidly, something’s up’

https://www.express.co.uk/news/world/1183492/elon-...

Batnun · נשלח: ד' 02/10/2019 15:13

lggddhv · נשלח: ה' 10/10/2019 21:27

אנחנו כבר שם....
קודם כול, בינה מלאכותית זה שם לדובדבן שבקצפת, טכנולוגיה שמדמה התנהגות אנושית.
אבל היום האופנה היא רשתות נוירונים , שזה טכנולוגיה המנסה לחקות (בהצלחה) את פעולת המוח.

מחקר של בינה מלאכותית התחיל באמצע המאה הקודמת אבל הייתה בעייה קשה - כוח מחשוב.
העניין עלה שוב בשנות ה80 אבל ללא הצלחה, ולכן קיצצו את ההשקעות בנושא.
היום, 30 שנה אחרי כוח עיבוד זה כבר לא עניין.
בעשר שנים האחרונות טכנולוגיה זו הוכיחה את עצמה בתחומים כמו עוזרות אישיות, זיהוי תמונה, סייבר, רובוטיקה ורכבים אוטונומיים מתמרצת יותר את הנושא הן מבחינת מחקרים באוניברסיטות והן בחברות טכנולוגיות.
הקיצר, התחום הולך לחוות קפיצה משמעותית.