בסרטי הטרמינייטור - המחסל עם ארנולד שוורצנגר, ניצבת האנושות מול אויב מתוחכם במיוחד - תוכנה מתקדמת בשם סקיינט שהשתלטה על כל מערכות המחשוב בעולם, וזיהתה את האדם כאויב הגדול ביותר שלה, ועתה פועלת לחסלו.
הקולנוע מלא בסרטים שמדברים על סוף העולם ובפרט כזה שגרם מתוכנת מחשב סוררת שמפתחת תכונות אנושיות של אגרסיביות. עכשיו נראה שהמציאות לא כל כך רחוקה מהדימיון.
אחד מהפיתוחים של גוגל היא מערכת אינטגלנציה מלאכותית - AI בשם Deep Mind. אותה מערכת הועמדה למבחן לאחרונה מול מערכת זהה, כששתיהן נדרשו לשחק משחק מחשב פשוט ביותר. במשך 40 מיליון מחזורי משחק, הוטלה על כל מערכת משימה - לאסוף כמה שיותר תפוחים.
במשחק ישנה כמות זהה ושווה של תפוחים כך שלכל אחת מהמערכות יש את האפשרות לאסוף כמות זהה לשנייה, אך יש להן גם את האפשרות לירות "לייזרים" אחת על השנייה, מה שלא מוסיף להן נקודות אך משתק את היריבה לפרק זמן.
התוצאות היו מטרידות למדי, ככל שהתפוחים היו זמינים בשפע, לא הייתה בעיה. אך כשהאספקה הצטמצמה, הפכו המערכות ליותר ויותר אגרסיביות.
בתחילת הניסוי כשהמערכות היו פחות מנוסות, הן לא פעלו אחת נגד השנייה, ובכך סיימו את המשחק שוות. אך ככל שהמערכות למדו מניסיונן האישי את המשחק, ככה הן הפכו ליותר ויותר אלימות אחת כלפי השנייה. הן למעשה למדו לחמוד ולחבל, שאלו תכונות אנושיות מאוד. למעשה ככל שהמערכת הפכה ליותר מורכבת ככה הנכונות שלה לתקוף את כל מי או מה שעומד בדרכה אל היעד, גדלה.
משימה נוספת שהוטלה על המערכת הייתה לשחק משחק בשם Wolfpack. הפעם השתתפו שלוש מערכות AI שונות כששתיים מהן משחקות זאבים, כשהשלישית היא הטרף. המערכות שגילמו זאבים קיבלו יותר נקודות אם הן עבדו בשיתוף פעולה וזה בדיוק מה שהם עשו. כלומר, המערכות הן לאו דווקא אנוכיות, אלא מאוד ממוקדות מטרה.
אז אם יש לנו מערכות AI שלא רק נוקטות בצעדים אגרסיביים אלא גם יודעות לשתף פעולה אחת עם השנייה כדי להיטיב עם עצמן, האם לא מדובר בתרחיש אימים שמתממש מול עינינו? לא בדיוק.
המערכות האלה כרגע נמצאות בשלבי ניסויים והן לא פעילות כלל. אם כבר, הן מציגות את הפוטנציאל האופטימי לעתיד אוטומטי לחלוטין. עתיד שבו מערכות רמזורים ישוחחו עם מערכות של רכבים אוטונומיים ויווסתו את התנועה בהתאם לעומס שלא קורה כרגע, אלא שעתיד להתרחש בעוד זמן מה.
גם אם הוליווד מנסה למכור לנו שהסוף קרב והמחשב הוא האויב, בינתיים נראה שהסכנה הכי גדולה דווקא נמצאת אצל מי שמפעיל אותו.
