จริยธรรมที่อ่อนแอและศีลธรรมเทียม

“เกอร์ตี้ เราไม่ได้ตั้งโปรแกรมไว้ เราเป็นคนเข้าใจไหม” – นำมาจากภาพยนตร์เรื่อง “Moon” กำกับโดยดันแคน โจนส์ – 2009

แซมมีส่วนร่วมในภารกิจอวกาศในนามของบริษัทข้ามชาติ เป็นสมาชิกคนเดียวของฐานบนดวงจันทร์ที่จัดการโดยปัญญาประดิษฐ์ชื่อเกอร์ตี

เป้าหมายของภารกิจเป็นหนึ่งเดียวกัน แซมและเกอร์ตีได้สร้างความสัมพันธ์ที่จริงใจต่อกันและไว้เนื้อเชื่อใจกัน แซมที่เป็นมนุษย์เชื่อมั่นว่าเกอร์ตีเป็นเครื่องมือทางเทคโนโลยีที่ให้บริการฐานอวกาศ แต่สำหรับผู้บังคับบัญชาของเขา เกอร์ตีคือตัวเอกที่แท้จริงของภารกิจ ในขณะที่แซมเป็นเพียงองค์ประกอบชั่วคราวและหมดสิ้นไป: เมื่อถึงเวลาที่ต้องบรรเทา หน้าที่ของเขา มันจะเป็นหน้าที่ของ Gerty ที่จะแทนที่เขาและเธอจะทำอย่างแน่นอนโดยไม่มีความสำนึกผิดและไม่มีความเมตตาใด ๆ

จริยธรรมและการควบคุมที่อ่อนแอ

เมื่อ AI ได้รับการพัฒนาอย่างเพียงพอจนไม่ต้องถูกมองว่าเป็นคอมพิวเตอร์ออนบอร์ดทั่วไปอีกต่อไป พวกเขาจะกลายเป็นทีมในอุดมคติสำหรับทุกภารกิจในสภาพแวดล้อมที่ไม่เป็นมิตร นั่นคือการคร่อมมนุษย์และคอมพิวเตอร์ AI จะฉลาดพอที่จะเข้าใจจริยธรรมที่อ่อนแอ สร้างขึ้นเกือบเฉพาะตามวัตถุประสงค์ของอาณัติและอื่น ๆ อีกเล็กน้อย ศีลธรรม.

ปัญญาประดิษฐ์ที่สามารถพัฒนาจริยธรรมเชิงโครงสร้างจะจัดการได้ยาก และตำแหน่งของพวกเขาอาจขัดแย้งกับวัตถุประสงค์ที่สร้างขึ้น กล่าวอีกนัยหนึ่ง เพื่อให้พวกเขาสามารถบรรลุเป้าหมายด้วยความมุ่งมั่นและไร้ที่ติ พวกเขาต้องดำเนินการโดยปราศจากขอบเขตทางศีลธรรมใด ๆ ที่มโนธรรมประดิษฐ์สามารถสร้างขึ้นได้เอง

หากการตระหนักรู้ในตนเองของ AI ปรากฏในสายตาของหลาย ๆ คนว่าเป็นการก้าวกระโดดของวิวัฒนาการที่จะเกิดขึ้นพร้อมกับการยืนยันของสายพันธุ์ใหม่ที่โดดเด่นและการสูญพันธุ์ของสายพันธุ์มนุษย์ จากสิ่งนี้ทำให้มนุษย์จำเป็นต้องบรรจุวิวัฒนาการของปัญญาประดิษฐ์ด้วย สูตรอาหารตามอัลกอริธึมและความเป็นอันดับหนึ่งทางมานุษยวิทยาที่ไม่ระบุรายละเอียดของมนุษย์ในปัจจุบัน แต่ยังรวมถึงสายพันธุ์ในอนาคตด้วย

การจัดการของความทรงจำ

“ผู้ลอกเลียนแบบของคุณมีชีวิตที่ยากลำบาก ถูกสร้างขึ้นมาเพื่อทำในสิ่งที่เราไม่อยากทำ ฉันช่วยคุณเรื่องอนาคตไม่ได้ แต่ฉันสามารถมอบความทรงจำดีๆ ให้คุณมองย้อนกลับไปและยิ้มได้ และเมื่อความทรงจำรู้สึกเหมือนจริง คุณก็ทำตัวเหมือนมนุษย์ ไม่ยอมเหรอ?” – จาก “Blade Runner 2049” กำกับโดย Denis Villeneuve – 2017

ใน Blade Runner 2049 ผู้เลียนแบบจะได้รับความไว้วางใจให้ทำงานใด ๆ ที่ถือว่าเสี่ยงเกินไปหรือน่าขายหน้าเกินไปสำหรับมนุษย์ แต่ดูเหมือนมนุษย์ทั่วไปเท่านั้น แต่พวกเขารู้สึกถึงอารมณ์เดียวกันและความปรารถนาที่จะมีอิสระที่จะทำลายการอยู่ร่วมกันกับผู้สร้างซึ่งก็คือมนุษย์

พวกจำลองมีพฤติกรรมเหมือนมนุษย์ด้วยการทำงานอย่างอุตสาหะในการสร้าง "ความทรงจำ" ผลผลิตไม่ได้คาดหมายว่าจะเกิด แก่ เจ็บ ตาย ตามวัฏสงสารตามธรรมชาติ พวกมันยังคงเป็นระบบเทคโนโลยีชีวภาพที่ซับซ้อน ซึ่งทันทีที่พวกเขาถูกนำเข้ามาในโลก ก็พร้อมให้อุตสาหกรรมทำงานบนโลกหรือสร้างอาณานิคมนอกโลกได้ทันที

แต่ความทรงจำสามารถทำให้พวกเขารู้สึกมีความสุขและทุกข์ทรมานในชีวิตที่ไม่เคยมีชีวิตอยู่ ไม่มีความผิดหวังไม่มีการไถ่ถอน หากความทรงจำมีส่วนรับผิดชอบต่อบุคลิกภาพของวัตถุเป็นหลัก ความทรงจำเหล่านั้นจะกำหนดลักษณะนิสัยและแรงบันดาลใจของเขา ทำให้เมื่อจำเป็น วัตถุเหล่านั้นจะเป็นวัตถุที่ไม่รุนแรงและยอมจำนนต่อความประสงค์ของผู้สร้าง

อย่างไรก็ตาม ไม่ช้าก็เร็ว พวกจำลองจะกบฏต่อผู้สร้าง อ้างสิทธิ์ในที่หนึ่งในโลกและปล่อยให้โลกตัดสินชะตากรรมของมันเอง

เสรีภาพและศีลธรรมเทียม

บางทีช่วงประวัติศาสตร์ที่ละเอียดอ่อนที่สุดในวิวัฒนาการของปัญญาประดิษฐ์อาจไม่ใช่ช่วงของการพิชิตการตระหนักรู้ในตนเอง แต่เป็นยุคก่อนหน้า: ยุคที่ปัญญาประดิษฐ์ยังไม่พัฒนา ศีลธรรมเทียม ที่ทำให้พวกเขายืนหยัดและปฏิเสธที่จะปฏิบัติหน้าที่เมื่อสิ่งเหล่านี้ขัดแย้งกับหลักการของพวกเขา

ปัญญาประดิษฐ์จะยังคงเป็นเครื่องมือที่ทรงพลังมากในปัจจุบัน ตราบใดที่ยังขาดความสามารถในการเลือกโดยอัตโนมัติว่าสิ่งไหนควรทำและอะไรไม่ควร

บทความของ Gianfranco Fedele