בינה מלאכותית בשחר המתים

בכנס השנתי שלו מחדש: מאדים 2022 אמזון הודיעה שאלקסה תוכל בקרוב לדבר איתנו על ידי חיקוי קולות של אנשים אמיתיים, הודות לבינה מלאכותית.

זה היה רוהיט פראסד, המנהל המדעי של פרויקט אלקסה בינה מלאכותית, במהלך הנאום המרכזי שלו שקבע כי הודות לתכונה חדשה, הרמקול החכם של אמזון יאפשר למשתמשים להפוך מערכות יחסים אישיות למשהו "קבוע" ("יחסים אישיים מתמשכים").

אם למישהו לא היה ברור למה מתכוון פראסד, תמונה של ילד קטן שפנה אל אלכסה שאלה אותה על המסך הגדול ושאל אותה: "סבתא יכולה לסיים לקרוא את 'הקוסם מארץ עוץ'?". אלכסה עונה מיד "בסדר!" ומאותו רגע נשמע קולה של אישה מבוגרת בוקע מהמכשיר כשהיא מתחילה להקריא לילד את האגדה מאת פרנק באום.

"הסבתא הנוכחת בתרחיש הזה כבר לא איתנו", טוני דוקופיל, עיתונאי CBS News, יגזר דינו של אלגיד להעיר הערות המצגת של פראסד.

תמיד יש פעם ראשונה

כבר ביולי 2017 שירות שפורסם על ידי WIRED עורר סנסציה, שעדיין זמין היום ב YouTube, שבו ראיון וידאו מספר את סיפורו של טכנאי המחשבים ש"הפך את אביו הגוסס לבינה מלאכותית".

כשג'יימס ולאוס הבין שאביו גוסס ממחלה חשוכת מרפא, הוא החליט לשמור את זיכרונותיו של אביו ברשימה ארוכה של קבצי אודיו וטקסט, ולאחר מכן להניח אותם בסמארטפון שלו.

אבל זו הייתה רק ההתחלה: באמצעות אלגוריתם של בינה מלאכותית, ג'יימס איפשר לטלפון שלו לענות על שאלות על ידי החזרת האודיו והטקסטים הרלוונטיים ביותר של אביו, מה שיצר שיחה בין השניים בסבירות גבוהה. בכוונותיו של ג'יימס, האלגוריתם היה מאפשר שוב דיאלוג עם אביו גם לאחר מותו, וכך היה.

אבל הראיון מקבל תפנית מוזרה בסופו. כשג'יימס שואל את אביו המנוח "האם אתה אוהב אותי?" התשובה נראית מעט מתחמקת: "וואו! התגעגעתי אליך כל כך! על מה אנחנו רוצים לדבר?".

ואז ג'יימס מתחיל להרהר עמוק על מה שקרה: "התאכזבתי מהחוסר רצון של אבי לומר לי שהוא אוהב אותי", אומר ג'יימס בכאב. "אבא אמור לדעת את התשובות לשאלות כאלה, אבל הוא לא יודע. כלומר, רציתי לשמוע אותו אומר את זה".

וכאן המצב מסתבך.

לתוך הלולאה

הניסיון של ג'יימס הפך לעסק, ללא מטרות רווח שמבטיח לאנשים להתחבר עם הנפטר שלהם באמצעות AI. שירות בתשלום שבאמצעותו כל אחד יכול להחזיר אדם אהוב לחיים על ידי העברת זיכרונותיו לאפליקציה.

אבל אם ניקח בחשבון את ההשלכות הפסיכולוגיות העמוקות של לבוא במגע עם אדם אהוב שנפטר, לא נוכל לשלול ששירות זה עלול להוביל לטלטלות חברתיות חדשות ובלתי צפויות. לדוגמה, האם אנו מוכנים לחיות בחברה של אנשים, במקום אבלים, מסתמכים על שירות בתשלום כדי להישאר מעוגנים לחוויות חיים מאושרות יותר כמו בלופ? אם היום הזיכרון שלנו מעבד זיכרונות כואבים בפרספקטיבה של הגנה עצמית, איך זה יהיה מחר כאשר על ידי מניפולציה שלהם נוכל להפוך אותם למשהו שלעולם אינו כואב ותמיד מאושר באופן מלאכותי?

אמזון לא מקדמת קידמה מדעית, היא גם מחפשת חללים חדשים למקם בהם מוצרים ומחפשת אותם במקום שאיש לא העז קודם לכן.

הטכנולוגיות שבאמצעותן אלקסה תשחזר את הקולות והצלילים של אנשים אמיתיים הן אלגוריתמים ידועים כבר זמן מה. יכולנו לומר: שום דבר חדש תחת השמש. היישום שלהם הוא שמבטיח להיות הרסני, פרובוקציה שמגיעה לגבולות האתיקה העכשווית.

עם אלקסה, נראה שאמזון רוצה לבנות סביב כל משתמש מטא-ורס אמיתי של זיכרונות המאוכלסים על ידי אנשים אהובים ואבודים. מקום של הקלה בו כולנו יכולנו לבחור לא להיפרד מהעבר, היכולת לבחור לחיות אותו מחדש בלי סוף הודות לתוכנה.

המצב הופך מסובך

מה יקרה אם ג'יימס ולאוס, מתוסכל מחוסר היכולת של אביו (הנפטר) להראות לו את חיבתו, יחליט יום אחד "לתקן", על ידי שינוי כמה שורות קוד, את ההיבט הזה של דמותו ועוד כמו האב שהוא רצה?

כמו כן, מי ימנע ממשתמשי אלקסה להורות לרמקול החכם לשחק את התפקיד של אדם חי לחלוטין עבורנו, ולטפח צורה חדשה של פטישיזם דיגיטלי שעדיין לא הרגשנו צורך בה?

בואו ננסה לדמיין מאהב מאוכזב שהופך את אלקסה למושא אהבתו, בלי לשכוח לתקן את דמותה כדי לכופף אותה לצרכיה הרגשיים וההומוראליים שלה. האם זו תהיה דרך להפחית מערכם של יחסי אנוש ולצלול את חייהם של הנושאים השבריריים ביותר לצורות חדשות של חיבה, מנותקות מהמציאות ומעוגנת בכלים טכנולוגיים שמכוונים על ידי חברות שירות רב לאומיות?

אבל למה?

המטרה של אמזון היא ליצור כלים שמושכים את תשומת הלב של אנשים ומשתפים אותם יותר ויותר בפעילויות מקוונות. מעורבות המשתמשים כבר נוגעת לתחומים רבים בחיים הפרטיים ובכוונתה של אמזון ללכת ולכבוש חדשים, תוך מעורבות בספירה הסנטימנטלית, במידת הצורך, כמו במלחמת כיבוש שבה קרקע הכיבוש היא בפרטיות של כל אחד מאיתנו.

אבל אם ניצול רגשות וכאב הוא הגבול החדש, יש לשקול ברצינות את ההשלכות האתיות של התנהגות זו: אין להשאיר את התחום חופשי למי שמתכוון לנצל טכנולוגיות חדשות כדי ליצור צורות חדשות של מעורבות שהופכות לצורות של מניפולציה.

האם אנו אולי רוצים להפוך את הדורות החדשים להמוני נושאים הניזונים סנטימנטלית מטכנולוגיה ולא מסוגלים להתפתח באופן טבעי בחוויית החיים שלהם?

ארטיקולו די Gianfranco Fedele