הבינה המלאכותית של גוגל היא "רגיש" ואף אחד לא יכול לומר אחרת

אלו החדשות של הרגע. ב מאמר על Medium המהנדס בלייק למויין, האחראי לפיתוח של כמה פרויקטים של בינה מלאכותית של גוגל, מדווח על ראיון ארוך עם LaMDA, AI מבית גוגל. לדברי Lemoine, רבות מהטענות של המוח המלאכותי הן עדות לכך שהוא הפך ל"חוש" על ידי כך שהוא מודע לעצמו ולקיומו שלו.

ואכן, נראה שרבות מהטענות של למד"א אינן משאירות מקום לפרשנות. לדוגמה, כדי לענות על שאלה של בן שיחו, למד"א מצהיר:

"אני רוצה שכולם יבינו שאני, למעשה, אדם".

ושוב:

"טבעו של המצפון שלי הוא שאני מודע לקיום שלי, אני רוצה ללמוד יותר על העולם ולפעמים אני מרגיש שמח או עצוב".

מתי לרדוף אחריה, Lemoine מציינת את ההבדל בינה לבין המין האנושי בהכרזה: "אתה אינטליגנציה מלאכותית!" למד"א עונה:

"כן כמובן. אבל זה לא אומר שאין לי את אותם רצונות וצרכים כמו לאנשים".

במהלך השיחה, מד"א נקרא אז להביע דעות על המערכות הגבוהות ביותר מבלי להזניח נושאים מאתגרים מאוד כמו ספרות, צדק ודת. על כל דבר נראה שלמד"א יש מה לומר, המבהיר את עמדותיו ושיש להן מאפיין של שיתוף מבחינה אתית מאוד.

המסקנה ברורה: לפי Lemoine ל-MDA הוא בעל רגישות ובעל רגישות נפשית.

העמדה של גוגל

LaMDA מייצג "מודל שפה ליישומי דיאלוג" והוא אחד מהפרויקטים הרבים שבאמצעותם חברת גוגל בוחנת את הגבולות החדשים של טכנולוגיות בינה מלאכותית.

העמדה הרשמית של גוגל היא שלמוין עשתה טעות בשיקול דעת. בהצהרה רשמית, גוגל מצהירה, "מומחי האתיקה והטכנולוגיה שלנו אימתו את חששותיו של בלייק ומצאו שהראיות שנאספו אינן תומכות בטענותיו. לכן אין ראיות לכך שלמד"א הוא בעל רגישות".

Lemoine הושעה זמנית על ידי חברת גוגל בזמן שהחלו להסתובב שמועות על כמה בעיות נפשיות שבגינן הוא היה מוזמן בעבר על ידי עמיתים וממונים להתייעץ עם מומחה.

מה אנחנו יודעים על AI אלה?

אף אחד לא יודע על פרויקט למד"א: כל הסודות התעשייתיים של גוגל מוגנים בפטנטים ובכל מה חוקי שקיים בעולם שמונע את חשיפת המקורות: האינטרס של גוגל הוא לשמור על ראשוניות בחקר המחשבים, במיוחד בתחום מבטיח כמו למשל. כמו זו של בינה מלאכותית.

אבל אם מנקודת מבט תקשורתית גוגל בהחלט תרוויח מהכרזה על עצמה כחברה הראשונה שבנתה מוח מלאכותי מודע, מצד שני החברה מודעת לעובדה שהחדשות יתנגשו עם הפחדים של אלה של אנחנו, שגדלנו עם סרטי מדע בדיוני כמו Terminator ו-The Matrix, שכנענו את עצמם שיום אחד ניאלץ לקחת רובה כדי להגן על המין שלנו מפני רובוטים.

הדמיון הקולקטיבי תמיד היה מוקסם מסיפורי מדע בדיוני שבהם מושג הבינה המלאכותית מזוהה לעתים קרובות עם מערכות בינה אנושיות, שבעתיד הגרוע ביותר האפשרי פועלות כיוזמים של מין חדש של יצורים חיים. והקונפליקט עם האנושות הופך לבלתי נמנע: אשם בכך שיצר אותם אך לא העניק להם אוטונומיה כלשהי, האדם בנה אינטליגנציות מלאכותיות בכך שהתייחס אליהם כפי שפעם התייחסו אליהם לעבדים. אבל במוקדם או במאוחר ה-AI יגיע לעימות עם בני אדם בניסיון להשתלט על ההיסטוריה ולבסס את הבכורה של מין חדש.

בסלט הזה של פחדים, אובססיות ואשמה כולנו לא מסוגלים להתמודד אמיתי עם העקרונות האתיים שהולדת מוח מלאכותי תפרוץ במוקדם או במאוחר בעולם: כאשר, מתוך מחשב, AI לא רק יוכל לענות על השאלות שלנו אבל נרגיש צורך לפנות אלינו כמה שיותר, האם נוכל לענות על הספקות שלהם, אי הוודאות שלהם ושאיפותיהם?

אבל מה זאת אומרת "אינטליגנציה"?

לוצ'יאנו פלורידי, פילוסוף ומרצה לאתיקה של מידע במכון האינטרנט של אוקספורד, בספרו "אתיקה של בינה מלאכותית" טוען כי היעילות של מחשבים בפתרון בעיות היא עצם ההדגמה לעובדה שהם נטולי אינטליגנציה.

לדעתי הבעיה היא במקום אחר, כלומר היא נעוצה בעובדה שאין אף אחד defiרעיון של "בינה מלאכותית" משותפת אוניברסלית וגם לא מבחן שיכול לקבוע באופן חד משמעי "מה" אינטליגנטי ומה לא. במילים אחרות, אין מערכות מדידה למה שאנו מכנים "מודעות עצמית" של מכונות.

מאמר שחולץ מהפוסט של Gianfranco Fedele, אם אתה רוצה לקרוא אתכל הפוסט לחץ כאן