פרופסור ג'פרי הינטון, הנחשב ל"סנדק של הבינה המלאכותית," הצהיר כי יש סיכוי של 10% עד 20% שהבינה המלאכותית תביא להכחדת האנושות בתוך שלושת העשורים הקרובים. לדבריו, קצב השינויים הטכנולוגיים מהיר בהרבה מהצפוי.
בריאיון לתוכנית Today של BBC Radio 4, נשאל הינטון האם הוא משנה את הערכתו הקודמת, שהעמידה את הסיכון על 10%. הוא השיב: "לא ממש. זה 10% עד 20%."
המנחה, שר האוצר לשעבר סאג'יד ג'אוויד, העיר: "אז אתה מעלה את ההערכה". הינטון ענה: "אם כבר, כן. מעולם לא נאלצנו להתמודד עם דברים אינטליגנטיים יותר מאיתנו. כמה דוגמאות אתם מכירים למשהו אינטליגנטי יותר שנשלט על ידי משהו פחות אינטליגנטי? מעטות מאוד. יש את הדוגמה של תינוק ואמו. האבולוציה השקיעה הרבה מאמץ לאפשר לתינוק לשלוט באמו, אבל זו בערך הדוגמה היחידה שאני מכיר."
"נתנהג כמו ילדים בני שלוש"
הינטון המשיך והסביר את ההבדל האינטלקטואלי האפשרי בין בני האדם ל-AI מתקדם: "אני אוהב לחשוב על זה כך: דמיינו את עצמכם ואת ילדכם בן השלוש. אנחנו נהיה הילד בן השלוש".
לדברי הינטון, ההתפתחות המהירה של AI מפתיעה גם אותו: "לא חשבתי שנגיע למקום שבו אנחנו נמצאים כיום. חשבתי שבאיזשהו שלב בעתיד נגיע לכאן. המצב היום הוא שרוב המומחים בתחום סבורים שבתוך 20 השנים הקרובות נפתח מערכות AI שיהיו חכמות יותר מבני אדם. וזה רעיון מפחיד מאוד".
הינטון הדגיש את החשש מהשארת הפיתוח בידי החברות הגדולות: "היד הנעלמה לא תגן עלינו. השארת הפיתוח למניעי רווח של חברות גדולות לא תספיק. הדבר היחיד שיכול לאלץ את החברות הגדולות לבצע יותר מחקר על בטיחות הוא רגולציה ממשלתית".
הינטון זכה בפרס ACM AM טיורינג ונחשב לאחד משלושת "סנדקי ה-AI." עם זאת, שותפו לפרס, יאן לקון, מדען ה-AI הראשי של מטא, חולק עליו וטוען: "AI יכול למעשה להציל את האנושות מהכחדה".
