אלון מאסק - האנושות היא הכנה ל AI

avihuli · נשלח: ב' 09/09/2019 0:02

דיון מאוד מעניין, עוקב...

ufffnick · נשלח: ב' 09/09/2019 9:14

dudib
·
אלה 33 דקות של בולשיט שאיבדתי מהחיים סתם.
אשכרה צפיתי בתקווה שייגעו בנזקים האמיתיים של ה"AI" שכבר חווים אותם בשני העשורים האחרונים, אבל המניפסט הניואייג'י עמוס בשטויות שמנותקות מהמציאות הסבירו עצמן כשהבנתי מי הדמות המובילה של הסרטון.

כדי להגיע לסינגולריטי, אם בכלל, צריך לשבור מעגל "קסם" שהוא די טריוויאלי -
שהמכונה תדע ללמוד בעצמה, לאבחן בין תפל ועיקר במידע, בעצמה, להסתגל לשינויים סינגולריים גדולים במציאות כלומר להגיב למצב שלא נתקלה בו מעולם ותוך כדי הנתהלות בסיטואציה לבצע מהלך אמידה ולמידה (דבר שאנחנו עושים על בסיס יומיומי מבלי לשים לב) ומעל לכל זה - מערכת ששולטת ומנתבת מקבילית את ההתמודדות עם כל המרכיבים של התפיסה (ואני לא מתחיל להיכנס לאיך בכלל בונים מכונה שבאה עם התכונות הבסיסיות שלה להתמודדות עם המציאות - מה שאצל בעלי החיים נקרא תוכנות מולדות).
רמז - אין מכונה כזו וגם לא תהיה בעתיד הנראה לעין. למה? אתן תשובה הכי סתומה לזה - כי נדרש מליארדי שנים של אבולוציה כדי להביא את המחשבים הכי חזקים על כדוה"א (בדמות בע"ח) המותאמים לסביבה שלהם בצורה אידיאלית בכדי לשרוד ולתפק, תוך יכולת פנומנלית (ועיקרית) לפתור סיטואציות שלא נתקלו בהם בעבר.
היום, וגם בעוד כמה עשורים (כי אין מיקוד מסביב לזה) מכונה מסוגלת ללמוד את מה שמלמדים אותה, מסוגלת לייצר תהליך למידה בתחום מציאות שלא משתנה מחוץ למרחב שהוגדר לה. כדי שמכונה תתמודד עם מצב שהיא לא למדה איתו, נדרש להקפיץ את האלגוריתמיקה שנות אור קדימה ועוד יותר את כוח המיחשוב. זה ממש מד"ב.

כיום, אפשר לייצר מכונה לומדת שתטפל בבעיה ספציפית מאוד - לשחק שחמט זו המורכבות הכי גבוהה שהגיעו אליה, וגם שם מחשב העל הטוב בעולם מצליח להשתוות לאדם, קשה לבוא ולומר בודאות שמתעלה עליו.
סתם כדי לסבר את האוזן -
כדי לאמן רשת נוירונים לזיהוי חפצים בתמונה נדרש אימון של מספר שבועות על array של GPUs.
התוצאה היא שאותה רשת נוירונים יכולה לזהות בהסתברויות משתנות (בהתאם לתמונה) את העצמים שבתמונה.
כלומר היא יודעת להוציא וקטור ספרסי שמורכב מהמון אפסים ומספר אחדים, שמייצג עבורה עצם כלשהו, כי ככה המתכנת קבע שהוא ייוצג. המכונה לא מבינה מה הוא העצם, ובטח שלא לשייך אותו לקבוצות שיוך.
אבל בזה העניין מסתכם.
אתם יודעים כמה זמן לוקח לילד ללמוד זאת + להבין משמעות + לשייך לקבוצות שיוך? ימים שכלל הלמידה במצטברת היא בין דקות לשעות. יתרה מכך ילד נדרש למספר תמונות בודדות כדי להשליך הלאה לצורות גוונים וגדלים שונים של כלבים שלא נראים בתמונות, מכונה הרבה פחות יעלה בזה, וכדי שתתחיל להשליך, היא צריכה כמה מליונים של תמונות בלמידה. זה ההבדל בין הבנת המשמעות של העצם בתמונה (כוס, כלי קיבול, שותים עם זה) לבין זיהוי גראפי של עצם בתמונה.

כל הקישקוש הזה על מודעות של מכונה פשוט מנותק מהמציאות האלגוריתמית, וכמו בימי הביניים, כשמשהו קשה להסביר להמונים, הדמיון מפליג רחוק מידי.

רוצים לדבר על הנזקים של מכונה לומדת?

תקראו על המונחים echo chambers ועל conformation bias - שניהם נוגעים בנטיה שלנו לחפש אישור חיצוני לדעות שלנו, שנקבל מהאנשים שמקיפים אותנו, שהם לרוב בעלי דעות דומות לשלנו, ועל כן נמצא את עצמנו מרוצים עד השמיים מהדעות ההולכות ומקצינות שיוצרות שבטיות שהחיכוך בין השבטים רק הולך ועולה כי כל שבט חי בעולם באישור הפנימי שלו לדעותיו.
איך קשור למכונה? היא תמיד תמליץ על אנשים בעלי תכונות דומות ותחומי עניין דומים ו... דעות דומות לנו ולאנשים בחוג שלנו. והרי לכן שבט הומוגני שמזין עצמו בדיעותיו, מאשר אותן בשיח שמקצין עצמו ומרחיק משמעותית משבט אחר השונה ממנו. מה נראה לכם שיקרה באינטראקציה בין שני אנשים משבטים שונים...?

וכן תעיינו במושג filter bubble - שזהו המצב בו הפיד של המידע שאנחנו ניזונים ממנו מגיע ממקורות של מידע שנוח לנו לקבל אותם. מכאן שיש המון מידע שמסונן החוצה, שיכל להיות בעל ערך גבוה בין אם באופן אישי ובין אם לשיח חברתי, שנגרע מאותו צרכן מידע. כי המכונה למדה שמקורות וסוג מסויים של מידע פשוט לסנן החוצה, ללא קשר למשמעות שהמידע הזה מחזיק.
והופ - עכשיו פתאום אפשר להבין איך בעצם הפייק-ניוז עשה ועושה עבודה מעולה בהגדלת הבורות וחיזוק אמונות שמאושררות ע"י אותם שבטים וירטואליים.

molvy · נשלח: ב' 09/09/2019 10:21

oferlaor · נשלח: ב' 09/09/2019 10:49

molvy
·זה הבעיה עם AI, בגלל שזה לא אלגוריתם של IF THIS THEN THAT, אלא משהו מאוד fuzzy שמזהה patterns אי אפשר באמת להבין למה AI מחליט משהו כי יש הרבה שכבות להחלטה הזו. זה די דומה למדוע מישהו עושה פעולה כלשהי, אפשר לגבות את זה בהגיון אבל האדם לא הולך ועושה אלגוריתם החלטה הגיוני אלא פועל מרגשות ומנסיון ולפעמים בגלל מה שהוא אכל היום בבוקר או איך שהוא ישן בלילה...

ככל שרכיב ה-AI יגבר בתעשיה, כך נבין פחות מדוע דברים פועלים כמו שהם פועלים.

ufffnick · נשלח: ב' 09/09/2019 12:04

oferlaor
·
אני לא כל כך מסכים עם הקביעה הזו, והיא מבטאת את הפערי הבנה שיש גם בשוק העבודה בתחום.
מתכנתים רגילים לקוד שיש לו משמעות חד-חד ערכית (אם אז, כל עוד א' קורה אז ב', וכו').
עולם המכונה הלומדת הכניס רכיב סטטיסטי למערכת השיקולים, שמושפע מאוד ממבנה המידע שמשמש ללמידה, לפעמים יותר מהאלגוריתם שנעשה בו השימוש, ובחירת האלגוריתם נגזרת מסוג, צורה, ועיבוד המידע בטרם הכניסה אל האלגוריתם.
נכון, זה הרבה יותר מורכב להבין את מערכת ההחלטות של מכונה, אבל כל המידע שם ואפשר להבין אותו.
זו האחת המשמעויות המרכזיות של להיות data scientist.
בחלק גדול מהמקרים אכן מתייחסים לאלגוריתמים האלה כקופסא שחורה (כי נוח), אבל בסופו של יום מה שמתחבא מאחוריהם זו סטטיסטיקה ואלגברה לינארית.

אני יכול להמליץ על כמה קורסים ברשת לזה, ומי שמעדיף משהו פרונטלי (במיוחד למתכנתים) יש את הקורס אחה"צ של הטכניון בשרונה, הוא קצת רדוד כי מכסה קשת ענקית של גישות, אבל נותן את כל הבסיס להמשיך ללמוד בעצמך (סיימתי את המחזור השני שלהם).

Huber · נשלח: ד' 02/10/2019 15:41

Musk issues warning about robot takeover – ‘If they’re evolving rapidly, something’s up’

https://www.express.co.uk/news/world/1183492/elon-...

Batnun · נשלח: ד' 02/10/2019 16:13

lggddhv · נשלח: ה' 10/10/2019 22:27

אנחנו כבר שם....
קודם כול, בינה מלאכותית זה שם לדובדבן שבקצפת, טכנולוגיה שמדמה התנהגות אנושית.
אבל היום האופנה היא רשתות נוירונים , שזה טכנולוגיה המנסה לחקות (בהצלחה) את פעולת המוח.

מחקר של בינה מלאכותית התחיל באמצע המאה הקודמת אבל הייתה בעייה קשה - כוח מחשוב.
העניין עלה שוב בשנות ה80 אבל ללא הצלחה, ולכן קיצצו את ההשקעות בנושא.
היום, 30 שנה אחרי כוח עיבוד זה כבר לא עניין.
בעשר שנים האחרונות טכנולוגיה זו הוכיחה את עצמה בתחומים כמו עוזרות אישיות, זיהוי תמונה, סייבר, רובוטיקה ורכבים אוטונומיים מתמרצת יותר את הנושא הן מבחינת מחקרים באוניברסיטות והן בחברות טכנולוגיות.
הקיצר, התחום הולך לחוות קפיצה משמעותית.

tomer953 · נשלח: שבת 14/12/2019 16:15

Huber · נשלח: א' 15/12/2019 14:35

tomer953 - בסופו של דבר? בהחלט יתכן. כרגע ובעתיד הקרוב - לא מאמין (יש הבדל בין ניצחון בגו ליצירתיות).

ufffnick · נשלח: א' 15/12/2019 17:47

tomer953
·
יצירתיות והמצאתיות יישארו, כנראה, תמיד בידי האדם.
מגבלת המכונה הלומדת היא בכך שהיא לא יודעת לעשות דבר מלבד התחום הצר של המודל המתמטי שלמדה.
אין כיום מכונה שעושה "גם וגם", למעשה הכי קרוב ל"גם וגם" זה כל עוד מודל המתמטי הספציפי של המכונה נמצא מתאים לאלפיקציה נוספת (למשל גו וחיפוש אחר פלנטות שבשני המקרים מדובר באיפיון מספרי של שטחים, האחד מחשב את הניקוד המקסימלי, השני מחשב הסתברות מקסימלית למציאת פלנטה בשטח נתון).

כדי להגיע למכונה שעושה גם וגם, אתה צריך הרבה מכונות שמתמחות בהרבה תחומים וגם אז תתקל בשתי מגבלות:
1. והמרכזית - מי בוחר מתי להפעיל איזו מכונה? גם זה דורש כמה וכמה מכונות בפני עצמן, וחוזר חלילה.
2. בהנחה שפתרנו את הקודם, מה קורה אם סך המכונות שיש, נתקלות במידע חדש, שלא נלמד ולא תואם אף מכונה שיש במחסנית? התשובה היא, שנכון לעתיד הנראה לעין, מאוד מורכב ליצור מכונה שתייצר לעצמה מידע שתוכל ללמוד על בסיסו מה נדרש.
יתרה מכך, כיום לא חייב ללמד מכונה כדי שתדע להתמודד עם מידע חדש, צריך לבנות רשת נוירונים מספיק מורכבת והיא תתמודד עם כך, רק ש... שוב, כל רשת נוירונים סופית וקבועה, תדע להתמודד עם מספר ידוע, סופי וקבוע של סוגי משימות. כל משימה מחוץ לתחום הזה, נידונה לכישלון.
כדי להתעלות על כך נדרש מספר אדיר של נוירונים (נשמע מוכר?) בחלוקה גסה לאזורים שנותנים מענה לתחומי על שונים של יכולות (עדיין מוכר?) והכי חשוב - דינאמיות. כלומר לייצר ולהרוס נוירונים בהתאם לדרישה.
עד הדינאמיות, זה בגדר של כמות משאבים ומשך זמן התגובה לסיטואציה.
מבחינת דינאמיות, אני לא מכיר רשתות נוירונים דינאמיות, עדיין.

tomer953 · נשלח: א' 15/12/2019 21:38

Huber · נשלח: ב' 16/12/2019 17:30

tomer953 · נשלח: ב' 16/12/2019 18:53

היצירתיות והמספרים שאתה מתאר מזכיר לי קצת את בעיות ה- P vs NP אף אחד לא יכול לענות על זה בבירור אבל ייתכן שאם הזמן גם בעיות שחשבנו שהם NP בסוף שייכות ל-P.
אולי דברים שאתה חושב שהם "יצירתיות טהורה" היום, עוד X שנים מודל AI יתרגם אותם למספרים וילמד את עצמו להכין מנת שף טעימה \ ליצור לחן קליט...

ברור שיש תחומים שבהם זה נראה בלתי אפשרי ושהעתיד הזה אם קיים רחוק מאוד, אבל לדעתי יש דברים שבהם ה AI יפתיעו, ומציע שנחכה ונראה..