ปัญญาประดิษฐ์ในรุ่งอรุณแห่งความตาย

ในการประชุมประจำปีของเขา เรื่อง: ดาวอังคาร 2022 Amazon ประกาศว่า Alexa จะสามารถพูดคุยกับเราได้เร็วๆ นี้ด้วยการเลียนเสียงของคนจริงๆ ด้วยปัญญาประดิษฐ์

Rohit Prasad ผู้อำนวยการด้านวิทยาศาสตร์ของโครงการ Alexa ปัญญาประดิษฐ์ในระหว่างคำปราศรัยของเขาระบุว่า ด้วยคุณสมบัติใหม่ ลำโพงอัจฉริยะของ Amazon จะช่วยให้ผู้ใช้เปลี่ยนความสัมพันธ์ส่วนตัวให้กลายเป็นสิ่งที่ "ถาวร" ("ความสัมพันธ์ส่วนตัวที่ยั่งยืน")

หากใครไม่เข้าใจว่าปราสาดหมายถึงอะไร รูปภาพของเด็กชายตัวเล็ก ๆ ที่หันไปหาอเล็กซ่าก็ถามเธอบนหน้าจอขนาดใหญ่และถามเธอว่า: "คุณย่าสามารถอ่าน 'พ่อมดแห่งออซ' ให้จบได้หรือไม่" Alexa ตอบกลับทันที "ตกลง!" และตั้งแต่นั้นมา เสียงของหญิงชราก็ดังขึ้นจากอุปกรณ์ขณะที่เธอเริ่มอ่านนิทานของแฟรงค์ บอมให้เด็กฟัง

"ยายที่อยู่ในสถานการณ์นี้ไม่อยู่กับเราแล้ว" Tony Dokoupil นักข่าวของ CBS News จะตัดสินลงโทษ แสดงความคิดเห็น การนำเสนอของคุณประสา.

มีครั้งแรกเสมอ

แล้วในเดือนกรกฎาคม 2017 บริการที่เผยแพร่โดย WIRED ทำให้เกิดความรู้สึกซึ่งยังคงมีให้บริการในวันนี้บน YouTubeที่วิดีโอสัมภาษณ์บอกเล่าเรื่องราวของช่างคอมพิวเตอร์ที่ "เปลี่ยนพ่อที่กำลังจะตายให้กลายเป็น AI"

เมื่อ James Vlahos ตระหนักว่าพ่อของเขากำลังจะเสียชีวิตด้วยโรคที่รักษาไม่หาย เขาจึงตัดสินใจบันทึกความทรงจำของพ่อไว้ในรายการไฟล์เสียงและข้อความขนาดยาว แล้วนำไปใส่ในสมาร์ทโฟนของเขา

แต่นี่เป็นเพียงจุดเริ่มต้น: ด้วยอัลกอริธึมปัญญาประดิษฐ์ James ได้เปิดใช้งานโทรศัพท์ของเขาเพื่อตอบคำถามโดยส่งคืนเสียงและข้อความที่เกี่ยวข้องที่สุดของพ่อของเขา ทำให้เกิดการสนทนาระหว่างทั้งสองเป็นไปได้มาก ในความตั้งใจของเจมส์ อัลกอริธึมจะทำให้การสนทนากับพ่อของเขาเป็นไปได้อีกครั้งแม้หลังจากที่เขาเสียชีวิต และเป็นเช่นนั้น

แต่การสัมภาษณ์พลิกผันในตอนท้าย เมื่อเจมส์ถามพ่อผู้ล่วงลับว่า "รักฉันไหม" คำตอบดูเหมือนจะเลี่ยงไม่ได้: "ว้าว! ฉันคิดถึงเธอมาก! เราอยากคุยเรื่องอะไร".

และในตอนนั้นเองที่เจมส์เริ่มเข้าสู่การไตร่ตรองอย่างลึกซึ้งเกี่ยวกับสิ่งที่เกิดขึ้น: "ฉันรู้สึกผิดหวังที่พ่อของฉันไม่เต็มใจที่จะบอกฉันว่าเขารักฉัน" เจมส์พูดด้วยความเจ็บปวด “พ่อควรจะรู้คำตอบสำหรับคำถามเช่นนี้ แต่เขาไม่รู้ ฉันหมายความว่าฉันอยากฟังเขาพูด”

และนี่คือจุดที่สถานการณ์ซับซ้อนขึ้น

เข้าสู่วงจร

ประสบการณ์ของเจมส์กลายเป็นธุรกิจ องค์กรไม่แสวงผลกำไรที่สัญญาว่าจะติดต่อกับผู้ตายผ่าน AI บริการชำระเงินที่ทุกคนสามารถนำคนที่คุณรักกลับมามีชีวิตอีกครั้งด้วยการโอนความทรงจำของพวกเขาไปยังแอพ

แต่ถ้าเราพิจารณาผลกระทบทางจิตวิทยาที่ลึกซึ้งของการติดต่อกับคนที่คุณรักที่เสียชีวิต เราไม่สามารถยกเว้นได้ว่าบริการนี้อาจนำไปสู่ความวุ่นวายทางสังคมรูปแบบใหม่ที่คาดไม่ถึง ตัวอย่างเช่น เราพร้อมหรือยังที่จะอยู่ในสังคมของคนที่แทนที่จะไว้ทุกข์ พึ่งพาบริการแบบเสียเงินเพื่อยึดติดอยู่กับประสบการณ์ชีวิตที่มีความสุขมากขึ้นเหมือนวนซ้ำไปมา? หากวันนี้ความทรงจำของเราประมวลผลความทรงจำที่เจ็บปวดในแง่ของการป้องกันตัวเอง พรุ่งนี้จะเป็นอย่างไรเมื่อจัดการกับมัน เราจะสามารถเปลี่ยนแปลงมันเป็นสิ่งที่ไม่เคยเจ็บปวดและมีความสุขเสมอ

Amazon ไม่ส่งเสริมความก้าวหน้าทางวิทยาศาสตร์ แต่ยังมองหาพื้นที่ใหม่ๆ ในการวางสินค้าและมองหาในที่ที่ไม่มีใครกล้าทำมาก่อน

เทคโนโลยีที่ Alexa จะสร้างเสียงและน้ำเสียงของคนจริงๆ นั้นเป็นอัลกอริทึมที่รู้จักกันมาระยะหนึ่งแล้ว เราสามารถพูดได้ว่า: ไม่มีอะไรใหม่ภายใต้ดวงอาทิตย์ มันเป็นแอปพลิเคชั่นของพวกเขาที่สัญญาว่าจะทำลายล้าง เป็นการยั่วยุที่ถึงขีดจำกัดของจริยธรรมร่วมสมัย

ด้วย Alexa Amazon ดูเหมือนจะต้องการสร้าง metaverse ของความทรงจำที่แท้จริงให้กับผู้ใช้แต่ละคนซึ่งบรรจุโดยคนที่รักและหลงทาง สถานที่แห่งความโล่งใจที่เราทุกคนสามารถเลือกที่จะไม่กล่าวคำอำลากับอดีต โดยสามารถเลือกที่จะย้อนอดีตได้ไม่รู้จบด้วยซอฟต์แวร์

สถานการณ์เริ่มซับซ้อน

จะเกิดอะไรขึ้นหากเจมส์ วลาโฮสผิดหวังกับการที่พ่อของเขา (ที่เสียชีวิต) ไม่สามารถแสดงความรักต่อเขาได้ ตัดสินใจวันหนึ่งจะ "แก้ไข" โดยการปรับเปลี่ยนโค้ดสองสามบรรทัด แง่มุมของอุปนิสัยของเขา และเป็นเหมือนพ่อที่เขาต้องการมากขึ้น

นอกจากนี้ ใครจะหยุดผู้ใช้ Alexa ไม่ให้สั่งให้ลำโพงอัจฉริยะแสดงบทบาทของบุคคลที่มีชีวิตที่สมบูรณ์แบบสำหรับเรา หล่อเลี้ยงลัทธิความเชื่อทางไสยศาสตร์ในรูปแบบใหม่ที่เรายังไม่รู้สึกว่าจำเป็น

ลองจินตนาการถึงคู่รักที่ผิดหวังซึ่งเปลี่ยน Alexa ให้เป็นเป้าหมายของความรักของเขา โดยไม่ลืมที่จะแก้ไขตัวละครของเธอให้โค้งงอตามความต้องการทางอารมณ์และอารมณ์ขันของเธอเอง นี่จะเป็นวิธีที่ลดคุณค่าความสัมพันธ์ของมนุษย์และทำให้ชีวิตของผู้เปราะบางที่สุดกลายเป็นความรักในรูปแบบใหม่ แยกตัวออกจากความเป็นจริงและยึดติดกับเครื่องมือทางเทคโนโลยีที่กำกับโดยบริษัทบริการข้ามชาติหรือไม่?

แต่ทำไม?

เป้าหมายของ Amazon คือการสร้างเครื่องมือที่ดึงดูดความสนใจของผู้คนและทำให้พวกเขามีส่วนร่วมมากขึ้นในกิจกรรมออนไลน์ การมีส่วนร่วมของผู้ใช้นั้นเกี่ยวข้องกับชีวิตส่วนตัวหลายด้านอยู่แล้ว และมันเป็นความตั้งใจของ Amazon ที่จะไปและครอบครองพื้นที่ใหม่ ซึ่งเกี่ยวข้องกับทรงกลมทางอารมณ์ หากจำเป็น เช่นเดียวกับในสงครามยึดครองที่พื้นที่พิชิตอยู่ในความเป็นส่วนตัวของเราแต่ละคน

แต่ถ้าการใช้ประโยชน์จากความรู้สึกและความเจ็บปวดเป็นพรมแดนใหม่ ควรพิจารณานัยทางจริยธรรมของพฤติกรรมนี้อย่างจริงจัง: ไม่ควรปล่อยให้พื้นที่ว่างว่างสำหรับผู้ที่ตั้งใจจะใช้ประโยชน์จากเทคโนโลยีใหม่เพื่อสร้างการมีส่วนร่วมรูปแบบใหม่ที่กลายเป็นรูปแบบหนึ่งของการจัดการ

เราอาจต้องการเปลี่ยนคนรุ่นใหม่ให้กลายเป็นกลุ่มคนที่ถูกหล่อเลี้ยงด้วยเทคโนโลยีและไม่สามารถพัฒนาตามธรรมชาติในประสบการณ์ชีวิตของพวกเขาเองได้หรือไม่?

บทความของ Gianfranco Fedele