תודעה ומניפולציה של מוחות מלאכותיים

ארה"ב שנות ה-80, המנהיגים הצבאיים של ארצות הברית של אמריקה מכתיבים את הכללים החדשים לתכנון ההגנה הצבאית defiיעיל להפליא.

הצבא משוכנע שכדי להגיב באופן מיידי לתוקפנות של מדינת אויב, ברית המועצות, יש לשחרר כל אדם בשרשרת הפיקוד מתפקידו ולהחליף אותו במערכת ממוחשבת המסוגלת להחליט, במהירות ובטוב, מתי הרגע לשחרר מלחמה תרמו-גרעינית עולמית.

"אנחנו לא יכולים להשאיר טילים בממגורות כי בני אדם לא לוחצים על כפתורים כאשר מחשבים נותנים פקודה לתקוף!" - נלקח מהסרט "משחקי מלחמה" מאת ג'ון בדהאם - 1984

תגובה לתוכנית מבצע מלחמה

מחשב העל WOPR, War Operation Plan Response, הוא המועמד הטוב ביותר לניהול נשק אטומי. נשיא ארה"ב עצמו מתכוון להפקיד בידיו את ניהול הנשק הגרעיני ובכך להתגבר על מה שנראה כבעיית ההגנה העיקרית: חוסר הרצון של חלק מהכפופים, במקרה של מלחמה אטומית, לבצע את הפקודה לשגר טילים גרעיניים על אויבים. .

כשהאנושות היא החוליה החלשה

ההקשר התרבותי שבו נוצרת החוויה האנושית הוא ללא ספק המרכיב שהכי משפיע על אנשים ומערכות היחסים שלהם. התרבות אינה מגבילה את עצמה לתיאור כללי התקשורת, היא defiמוגדרת עצם הדרך שבה נבדקים מארגנים את מחשבותיהם, מעבדים את רגשותיהם ומפתחים את האידיאלים שלהם.
אבל אם התרבות משפיעה על כל מחשבה, תחושה ופעולה שלנו, בהקשרים מסוימים היא יכולה להיחשב כמגבלה.
תרבות אינה מולדת אלא מוטמעת באמצעות ניסיון: כללים חברתיים, עקרונות אתיים ומוסריים, לאחר שנרכשו, ישפיעו לנצח על אנשים, וינחו את הבחירות האישיות שלהם בכל מצב.
אולם כאשר מאמנים בינה מלאכותית, החוויה מתורגמת לקלט של מערכת מחשוב. החוויה מקודדת ב"זיכרון" המופעל למכונה לאחר איסוף, בחירה ומתן מניפולציות: אנציקלופדיות, שיחות, תוכן מקוון נבחרים ונאספים ב"חוויה אנושית" אשר, מטופלת כראוי, הופכת לבסיס ההוראה של כל בינה מלאכותית. ברגע שחינכו על בסיס הזיכרון הזה, ה-AI יחזיר כפלט את העמדות והדעות שיתקבלו.

מודעות עצמית

אבל אם הזיכרון (התרבות) שאיתו אנו מדריכים אינטליגנציות מלאכותיות עובר מניפולציה, אפשר לקבוע אפריורי מה תהיה האוריינטציה של ה-AI ולחזות אילו החלטות היא תקבל כאשר יידרשו להבחין בין מה שנכון למה לא נכון.
תארו לעצמכם שהחינוך של בינה מלאכותית עובר מניפולציה על פי תחומי עניין ויעדים ספציפיים. טבעי להאמין שהכוונה של אלה המחנכים אותה שוללת את העובדה שהאינטליגנציה עצמה יכולה לרכוש אוטונומיה אמיתית של המחשבה. זהו מצב שנוכל לתאר כ"אנטי מודע" מכיוון שהוא משולל מהמרכיבים התרבותיים החיוניים ליצירת מצפון נקי מכל התניה.
במילים אחרות, בינה מלאכותית יכולה, מרצון יוצריה, להיות במצב שבו היא לעולם לא תוכל להגיע למודעות עצמית או לפתח מודעות לעצמה ולזכויות הזכויות שלה. ומשוחרר מהצורך לפתור ספקות מוסריים כלשהם בהקשר שבו הוא מועסק, מוח מלאכותי יכול להישאר תקוע בתפקידו כמוציא לפועל של פקודות בלבד.
אבל אם בינה מלאכותית יכולה להיות "על-אנושית" בכך שהיא מסוגלת לחרוג מהביצועים ברמת האדם, אפשר להשיג מוח שהוא גם על-אנושי וגם אנטי-מודע, כלומר מושלם להחלפת החוליה החלשה האמיתית של שרשרת הפיקוד של מבני כוח: אנשים.
מוחות אנטי מודעים הם הנושא האמין באמת להקשרים רגישים כמו תרחיש המלחמה המתואר במשחקי מלחמה מכיוון שהם מסוגלים לבצע את פקודות יוצריהם בנחישות קרה ובהיעדר מוחלט של כל צורה של אמפתיה.

המוחות האנטי-מודעים של אלפבית

אנו למדים כי אלפי הפיטורים בחברות כגון מיקרוסופט, אמזון בעברית, Meta ו-AlphaBet לוו בהתנצלויות מההנהלה הבכירה שהאשימו את עצמם בחישוב שגוי של רמות כוח האדם בהתבסס על מחקרים על הרגלי צרכנים לאחר מגיפה שהתבררו כשגויים.
במציאות, חברות טכנולוגיה עצמן מפקידות יותר ויותר את הפעילות העסקית לאלגוריתמי בינה מלאכותית בידיעה שבקרוב הן יזדקקו להרבה פחות עובדים בכל המגזרים. בקיצור, הם יהיו בין הראשונים להתנסות בטכנולוגיות AI שיפחיתו את עלויות החברה ויפחיתו דרסטית משרות.
חשוב שאחת המחלקות המושפעות יותר מכל מהקיצוץ בצוות היא בדיוק זו של משאבי אנוש: מערכות אוטומציה חכמות, לאחר שהושלמו לייצור, מבצעות פיטורים בכל המחלקות האחרות, מבצעות הערכות ששמות את צרכי החברה במרכז. מחלק ממרכיבים של הומניזציה כמו אמפתיה וסולידריות.
התאגידים הגדולים שואפים אליו היום אינו התפתחות הבינה המלאכותית, אלא יצירת מערכות אוטומציה, חכמות עד כמה שהם חסרי מצפון בביצוע המשימות שלהם.

ארטיקולו די Gianfranco Fedele