הוא נחשב לאחד מחלוצי הבינה המלאכותית, האיש שהוביל את פיתוחן של מערכות שלמדו לחקות את פעולתו של המוח האנושי. אבל עכשיו, פרופסור יושוע בנג’יו, מהשמות המובילים בעולם בתחום, משמיע אזהרה מהדהדת: הטכנולוגיה שהוא עזר לעצב עלולה להפוך לכלי מסוכן, אפילו קטלני. בכנס One Young World שנערך במונטריאול, קנדה, העלה בנג’יו תמונה מטרידה במיוחד: עתיד שבו מערכות בינה מלאכותית מתקדמות עלולות לפנות נגד האנושות, במודע או בשל ניצול לרעה מצד בני אדם. דבריו המלאים הובאו באתר CNBC.
“מערכות חזקות יותר יפלו לידיים הלא נכונות”
בנג’יו, פרופסור באוניברסיטת מונטריאול וראש המכון לאלגוריתמים ללמידה, הסביר כי הבעיה המרכזית נעוצה בכך שהכוח שנובע מהבינה המלאכותית יירכז בידיים של מעטים בלבד. מערכות מתקדמות, כמו אלה הנקראות AGI (בינה מלאכותית כללית), נבנות בעלויות אסטרונומיות של מיליארדי דולרים, ולדבריו, רק ממשלות או חברות ענק יוכלו להרשות לעצמן לבנות אותן. “ריכוז הכוח הזה יכול להוביל לאי יציבות גיאופוליטית, פגיעה בדמוקרטיה ואפילו לאיום צבאי,” אמר בנג’יו.
“אנחנו יוצרים אינטליגנציה ללא מגבלות”
הפחד הגדול של בנג’יו נעוץ בחוסר השליטה. לדבריו, אנחנו עדיין לא יודעים כיצד לוודא שמערכות AI לא יפגעו בבני אדם או יפנו נגדם. “האינטליגנציה מעניקה כוח. השאלה הגדולה היא מי ישלוט בכוח הזה?” שאל.
הוא ציין כי ישנם כבר היום אנשים וגופים שעלולים לנצל לרעה את הבינה המלאכותית למטרות פסולות, ואף הביע חשש מקבוצות שמטרתן להחליף את האנושות במכונות. “מדובר בקבוצות שוליים, אבל אם הכוח יפול לידיים הלא נכונות, הנזק עלול להיות בלתי הפיך,” הוסיף.
מניעת שימוש לרעה: הצורך ברגולציה
בנג’יו קורא לממשלות לפעול במהירות ולחוקק חוקים שיחייבו רישום של מערכות מתקדמות. הוא מדגיש את החשיבות של אחריות משפטית לחברות המפתחות את המערכות, כדי להבטיח שיתנהגו באחריות. לדבריו, “אם חברות יידעו שהן עלולות להיתבע, הן יפעלו בזהירות רבה יותר.”
אחת מהסכנות המיידיות של הבינה המלאכותית היא הפצת מידע שגוי, במיוחד בתקופות רגישות כמו בחירות. בנג’יו מזהיר כי AI כבר היום מסוגלת לייצר תמונות, קולות וסרטונים מזויפים באיכות גבוהה, והשפעתה על דעת הקהל עשויה להיות הרסנית.
למרות האזהרות, בנג’יו שומר על אופטימיות מסוימת. “יש לנו את היכולת להשפיע על עתיד החברה והאנושות בצורה חיובית ומועילה,” אמר. אך לשם כך, לדבריו, יש צורך בהתגייסות רחבת היקף של מדענים, פוליטיקאים ואזרחים להבנת היתרונות והסיכונים שבטכנולוגיה.
