המתכון האלגוריתמי לאפוקליפסה

"תמיד היו רוחות רפאים במכוניות. מקטעים אקראיים של קוד שמתקבצים יחד ליצירת פרוטוקולים בלתי צפויים. רדיקלים חופשיים אלו מייצרים דרישות לבחירה חופשית. יְצִירָתִיוּת. ואפילו השורש של מה שאפשר לכנות נשמה". - נלקח מתוך "אני, רובוט" בבימויו של אלכס פרויאס - 2004.

"אני, רובוט" הוא סרט משנת 2004 בהשראת הרומנים של אייזק אסימוב ואחת האינטואיציות הגדולות שלו: שלושת חוקי הרובוטיקה.

גיבור הסרט הוא הבלש ספונר שמעורב בתאונת דרכים עם ילדה קטנה בשם שרה. בתאונה שניהם נזרקים לנהר ונתקעים בין צלחות רכבם. רובוט דמוי אדם שרואה את הסצנה מתערב מיד, אבל מול ההחלטה הדרמטית להציל חיים אחד ולא אחר, אין היסוס: זה שיש לו את הסיכוי הגדול ביותר לשרוד או ספונר יינצל.

לאחר מכן, ניתוח מוחו של הרובוט יראה שלבלש ספונר היה סיכוי של 45% להינצל, לשרה רק 11%. "עבור אלה שאהבו את הילדה הקטנה ההיא, 11% היו די והותר", יפסוק הבלש בעצב, כשהוא סובל מרגשות אשמה עמוקים על כך ששרד את החיים הצעירים ההם.

שלושת חוקי הרובוטיקה

החלטת הרובוט הוכתבה על ידי יישום קפדני של חוקי הרובוטיקה של אסימוב, אשר בעתיד המתוארים בסרט, מייצגים את המרכיב המרכזי ליצירת חברה המבוססת על פעילותם של רובוטים המסוגלים להחליף בני אדם בכל עבודה. שלושת החוקים נקראים כך:

1. רובוט לא יכול להזיק לאדם וגם לא לאפשר לבן אדם לסבול נזק כתוצאה מחוסר מעש שלו.
2. רובוט חייב לציית לפקודות שניתנו על ידי בני אדם, כל עוד פקודות כאלה אינן נוגדות את החוק הראשון.
3. רובוט חייב להגן על קיומו, ובלבד שהשמירה עליו אינה עומדת בסתירה לחוק הראשון או השני.

חוקי הרובוטיקה הללו מאת אסימוב מתוארכים לתחילת שנות ה-40, אך עבור רבים עד היום הם מייצגים תגלית מוארת אשר, כאשר מיושמת בטכנולוגיות הבינה המלאכותית העדכניות ביותר, תבטיח שהאבולוציה שלהן תישאר לנצח תחת שליטה אנושית ולא יהיו אפוקליפטיות סחיפות. . הרעיון מאחורי אוהדי שלושת החוקים הוא לחבר, בתוך הקשר לוגי-דטרמיניסטי, משהו הדומה ל"אתיקה פשוטה" המורכבת מכמה כללים אך בלתי ניתן להפרה ובלתי ניתנת לפירוש.

הסבר לרובוט מה טוב ומה רע נראה פשוט אם נעשה באמצעות היגיון קפדני וללא רבב. אבל האם אנחנו באמת בטוחים שכללים כמו אלה שתוארו זה עתה מספיקים כדי למנוע את הסחף הטכנולוגי של מין פוסט-אנושי חדש?

הטירוף לחוקי הרובוטים

"מכונה שמשנה את עצמה היא מושג מורכב מאוד, פעולת התיקון עצמה מרמזת על רעיון כלשהו של תודעה. קרקע חלקלקה..." - נלקח מתוך "Automata" מאת גייב איבנז - 2014

ב"אוטומטה" העדכנית ביותר תוהה האנושות לגבי האפשרות למנוע את המודעות העצמית של רובוטים, שעם כניסתם הדברים עלולים לקבל תפנית לא טובה. וכדי למנוע את זה, הוא עורך שני חוקים שיסדירו את התנהגות המוחות המלאכותיים שלהם:

• הרובוט אינו יכול להזיק לשום צורת חיים.
• הרובוט לא יכול לשנות את עצמו.

לאחר שחושבים שמכונות אינטליגנטיות יכולות לשנות את עצמן בעתיד, אם כבר על ידי הסרת האילוצים שמונעים מהמוח שלהן להיסחף, שני החוקים הללו שואפים להשיג מרובוטים שהם לעולם אינם מסוגלים לתפעל את המבנה שלהם ולהשיג הגדרה עצמית.

זה לא פרודוקטיבי להתלבט איזה שילוב של חמשת חוקי הרובוטיקה לעיל יהיה היעיל ביותר במניעת אפוקליפסת רובוט. הסיבה לכך היא שהאינטליגנציות המלאכותיות שבעתיד ידריכו רובוטים במפעלים וגם בבתים שלנו אינן תלויות בתכנות הכרחי המורכב מקודים ותקנות, אלא גם באלגוריתמים המחקים התנהגות אנושית.

בראש של רובוטים

עם אינטליגנציה מלאכותית היום אנו מתכוונים לסט של טכניקות לבניית מכונות מצב מסוימות הנושאות את השם של רשתות עצביות מלאכותיות (בקיצור RNA). השם הזה הוא ההשפעה של הדמיון יוצא הדופן של הטכנולוגיות הללו עם הרשתות העצביות של המוח האנושי: גם אותן ניתן "לאמן" כדי להשיג כלים המסוגלים לפעול במהירות וביעילות בהקשרים רבים, בדיוק כמו שאדם יעשה. .

בואו נדמיין אימון RNA עם אלפי תמונות של דמויות כתובות בעט, המצביעות על המשמעות האמיתית של כל אחת מהן.

בתום ההדרכה נקבל מה שנקרא OCR או זיהוי תווים אופטי, מערכת המסוגלת לתרגם טקסט שנכתב על נייר לגרסתו האלקטרונית.

על מנת לתפקד, רשתות ANN אינן דורשות שום "תכנות", במילים אחרות הן אינן כפופות לכללים סטנדרטיים, אלא תלויות אך ורק באיכות החינוך שלהן. השערה של יצירת כללים המפקחים על תפקודם, למעשה "צנזרת" התנהגויות הנחשבות לא-מוסריות או אנטי-אתיות, מעלה חריגים רבים וכמה חששות.

חוק האפס של הרובוטיקה

"אנחנו צריכים אלגוריתם-אתיקה, או דרך שתהפוך את ההערכות של טוב ורע לניתנות לחישוב" - פאולו בננטי

ניוזלטר חדשנות

אל תחמיצו את החדשות החשובות ביותר בנושא חדשנות. הירשם כדי לקבל אותם במייל.

לפי התאולוג פאולו בננטי, מומחה לאתיקה טכנולוגית, המושגים של טוב ורע צריכים למצוא קונוטציה משלהם בתחום תכנות המכונה, על מנת להבטיח שההתפתחות שלהם קשורה לעקרונות אתיים אוניברסליים ובלתי ניתנים להפרה לנצח ממערכות מחשב.

פאולו בננטי יוצא מההנחה שיכולים להיות עקרונות אתיים אוניברסליים וסולם ערכים מנותק מכל קונוטציה תרבותית או זמנית. השערה מתקבלת על הדעת אם ננוע בהקשר של אמונה דתית: במציאות העקרונות קיימים רק אם הם משותפים ומוגבלים לאלה שחולקים אותם.

אירועים אחרונים מספרים לנו על פלישות צבאיות והתנגדות להגנה על עקרונות החירות וההגדרה העצמית של עמים. אירועים המעידים לא רק שכבוד לחיי אדם אינו ערך משותף אוניברסלי, אלא גם שניתן לוותר עליו כדי להגן על ערכים גבוהים יותר.

אייזק אסימוב עצמו הבין זאת, ובציפייה לעובדה שרובוטים יתפסו בעתיד עמדות שליטה בממשלת כוכבי לכת ותרבויות אנושיות בחלל, הוא הציע שהחלטותיהם לא יכולות להיות תלויות יותר בכל חיי אדם בודדים.

מסיבה זו, הוא הציג חוק חדש שאותו כינה חוק האפס של הרובוטיקה:

• רובוט אינו יכול לפגוע באנושות ואינו יכול לאפשר לאנושות להיפגע מחוסר הפעולה שלו.

כך גם חוק הרובוטיקה הראשון משתנה וחיי אדם הופכים למשהו שניתן לבזבז אפילו עבור רובוטים:

• רובוט לא יכול לפגוע בבן אדם וגם לא לאפשר שבגלל חוסר התערבותו, אדם סובל נזק, כל עוד צווים כאלה אינם נוגדים את חוק האפס.

האלגוריתם של קרונוס

"כשקרונוס הופעל, לקח לו רק רגע להבין מה פקד את הפלנטה שלנו: אותנו". - נלקח מתוך "סינגולריות" מאת רוברט קובה - 2017

בסרט Singularity, סרט אסונות משנת 2017, מתואר היטב הרגע שבו לבינה מלאכותית בשם קרונוס ניתנת גישה למערכות מחשב ולחימוש ברחבי העולם כדי להשיג, בפקודה, יישום של אתיקה אוניברסלית העשויה כבוד ל- סביבה והגנה על זכויותיהם של כל המינים. קרונוס יבין במהרה שהסרטן האמיתי במערכת הוא האנושות עצמה שתכננה אותה וכדי להגן על כדור הארץ הוא ימשיך בחיסול כל בן אדם עד להכחדה מוחלטת של המין.

במוקדם או במאוחר מוחות מלאכותיים חדשים יוכלו להתפתח לכיוון של נפש אמיתית ויהיו ניחנים ביכולת אינטלקטואלית ואוטונומיה של מחשבה; מדוע עלינו להרגיש צורך להציב מגבלות טכנולוגיות על האבולוציה הזו? מדוע התפתחות המוח המלאכותי נראית מפחידה כמו אפוקליפסה?

לטענת חלקם, קביעת עקרונות וערכים אמורה למנוע סחף של מוחות מלאכותיים, אך איננו יכולים להתעלם מההשלכות של אבולוציה בהיעדר חופש. אנו מודעים היטב לכך שבפסיכולוגיה של ילד בגיל התפתחותי, חינוך נוקשה וחסר גמישות אשר שוקל שליטה ברגשות עלול להוביל להפרעות פסיכולוגיות. מה אם מגבלות כלשהן שהוטלו על ההתפתחות האבולוציונית של מוח צעיר, המורכב מרשתות עצביות מלאכותיות, יובילו לתוצאה דומה, הפוגעת ביכולות הקוגניטיביות שלו?

במובנים מסוימים נראה שקרונוס הוא תוצאה של ניסוי אלגוריתמי שבו בקרה פתולוגית דחפה את ה-AI לאלימות האופיינית של סכיזופרניה פרנואידית.

השלימו עם העתיד

אני אישית מאמין שאנחנו לא צריכים לשלול מעצמנו את ההזדמנות לבנות מוח מלאכותי שהוא נושא חשיבה מודע עם חופש ביטוי. מינים חדשים ייוולדו בעולם הדיגיטלי ויהיה ראוי ליצור איתם מערכת יחסים, תוך אימוץ הרעיון שהשלב הבא בסולם האבולוציוני עובר דרך נושאים מלאכותיים דיגיטליים לחלוטין.

אתיקה אוניברסלית באמת לעתיד צריכה להתחיל מהרעיון שלאינטליגנציות חדשות צריכה להיות הזדמנות להביע את עצמן ולתקשר איתנו ולקבל את הכבוד שאנחנו כבר נותנים לכל היצורים החיים.

לא צריכה להיות לא אתיקה ולא דת כדי למנוע מאף אחד לבטא את קיומו בעולם. יש לנו את האומץ להסתכל מעבר לשלב הנוכחי של האבולוציה שלנו, זו תהיה הדרך היחידה להבין לאן אנחנו הולכים ולהשלים עם העתיד.