สูตรอัลกอริทึมสำหรับการเปิดเผย

“มีผีอยู่ในรถเสมอ ส่วนสุ่มของรหัสที่รวมกันเพื่อสร้างโปรโตคอลที่ไม่คาดคิด อนุมูลอิสระเหล่านี้ก่อให้เกิดความต้องการทางเลือกที่เสรี ความคิดสร้างสรรค์ และแม้แต่ต้นตอของสิ่งที่เราอาจเรียกว่าวิญญาณ” – นำมาจาก “I, Robot” กำกับโดย Alex Proyas – 2004

"I, Robot" เป็นภาพยนตร์ปี 2004 ที่ได้รับแรงบันดาลใจจากนวนิยายของ Isaac Asimov และหนึ่งในสัญชาตญาณที่ยิ่งใหญ่ที่สุดของเขา นั่นคือกฎสามข้อของวิทยาการหุ่นยนต์

ตัวเอกของเรื่องคือนักสืบสปูนเนอร์ที่ประสบอุบัติเหตุทางรถยนต์กับเด็กหญิงชื่อซาราห์ ในอุบัติเหตุ ทั้งสองถูกโยนลงไปในแม่น้ำและติดอยู่ระหว่างจานของรถ หุ่นยนต์ฮิวแมนนอยด์ที่เห็นเหตุการณ์เข้ามาแทรกแซงทันที แต่ต้องเผชิญกับการตัดสินใจครั้งสำคัญที่จะช่วยชีวิตคนหนึ่งแทนที่จะเป็นอีกชีวิตหนึ่ง โดยไม่ลังเล: คนที่มีโอกาสรอดมากที่สุดหรือสปูนเนอร์จะได้รับการช่วยชีวิต

ต่อจากนั้น การวิเคราะห์จิตใจของหุ่นยนต์จะแสดงให้เห็นว่านักสืบสปูนเนอร์มีโอกาสรอด 45% ส่วนซาราห์มีเพียง 11% "สำหรับผู้ที่รักเด็กหญิงตัวเล็ก ๆ คนนั้น 11% ก็มากเกินพอ" นักสืบจะต้องปกครองอย่างน่าเศร้า ทนทุกข์ทรมานจากความรู้สึกผิดลึก ๆ ที่รอดชีวิตจากชีวิตวัยเยาว์นั้น

กฎสามข้อของหุ่นยนต์

การตัดสินใจของหุ่นยนต์ถูกกำหนดโดยการใช้กฎของหุ่นยนต์ของอาซิมอฟอย่างเข้มงวด ซึ่งในอนาคตตามที่อธิบายไว้ในภาพยนตร์ จะเป็นตัวแทนขององค์ประกอบหลักสำหรับการสร้างสังคมบนฐานกิจกรรมของหุ่นยนต์ที่สามารถแทนที่มนุษย์ได้ในทุกงาน กฎหมายทั้งสามอ่านดังนี้:

1. หุ่นยนต์ไม่สามารถทำร้ายมนุษย์ได้และไม่สามารถปล่อยให้มนุษย์ได้รับอันตรายอันเป็นผลมาจากการอยู่เฉยๆ
2. หุ่นยนต์ต้องเชื่อฟังคำสั่งของมนุษย์ ตราบใดที่คำสั่งนั้นไม่ขัดต่อกฎข้อที่หนึ่ง
3. หุ่นยนต์ต้องปกป้องการดำรงอยู่ของมันเอง โดยมีเงื่อนไขว่าการปกป้องหุ่นยนต์นั้นต้องไม่ขัดแย้งกับกฎข้อที่หนึ่งหรือสอง

กฎของวิทยาการหุ่นยนต์เหล่านี้เขียนโดย Asimov ย้อนหลังไปถึงต้นทศวรรษ 40 แต่สำหรับหลาย ๆ คนในปัจจุบัน กฎเหล่านี้เป็นตัวแทนของการค้นพบที่รู้แจ้ง ซึ่งเมื่อนำไปใช้กับเทคโนโลยีปัญญาประดิษฐ์ล่าสุด จะช่วยให้มั่นใจได้ว่าวิวัฒนาการของพวกมันจะยังคงอยู่ตลอดไปภายใต้การควบคุมของมนุษย์ . แนวคิดที่อยู่เบื้องหลังแฟน ๆ ของกฎหมายทั้งสามคือการโยงใยภายในบริบทเชิงตรรกะที่กำหนดบางสิ่งที่คล้ายกับ "จริยธรรมง่ายๆ" ที่ประกอบด้วยกฎสองสามข้อ แต่ไม่สามารถฝ่าฝืนและไม่สามารถตีความได้

การอธิบายให้หุ่นยนต์รู้ว่าอะไรดีและอะไรไม่ดีนั้นดูเหมือนง่ายหากทำผ่านตรรกะที่เข้มงวดและไร้ที่ติ แต่เราแน่ใจจริงหรือว่ากฎอย่างที่เพิ่งอธิบายไปนั้นเพียงพอแล้วที่จะหลีกเลี่ยงการเบี่ยงเบนทางเทคโนโลยีของสายพันธุ์ใหม่หลังมนุษย์?

ความคลั่งไคล้กฎของหุ่นยนต์

“เครื่องจักรที่ปรับเปลี่ยนตัวเองเป็นแนวคิดที่ซับซ้อนมาก การซ่อมแซมตัวเองบ่งบอกถึงความคิดบางอย่างเกี่ยวกับจิตสำนึก พื้นลื่น…” – นำมาจาก “Automata” โดย Gabe Ibáñez – 2014

ใน "ออโตมาตะ" ล่าสุด มนุษยชาติสงสัยเกี่ยวกับความเป็นไปได้ในการป้องกันการรับรู้ตนเองของหุ่นยนต์ ซึ่งการถือกำเนิดของสิ่งต่างๆ อาจพลิกผันไปในทางที่ไม่ดี และเพื่อป้องกันไม่ให้สิ่งนี้เกิดขึ้น จึงได้ร่างกฎสองข้อที่จะควบคุมพฤติกรรมของจิตประดิษฐ์ของพวกเขา:

• หุ่นยนต์ไม่สามารถทำอันตรายได้ทุกรูปแบบ
• หุ่นยนต์ไม่สามารถดัดแปลงตัวเองได้

ด้วยสัญชาตญาณว่าเครื่องจักรอัจฉริยะสามารถปรับเปลี่ยนตัวเองได้ในอนาคต หากมีสิ่งใดเกิดขึ้นโดยการขจัดข้อจำกัดที่ขัดขวางจิตใจของพวกเขาไม่ให้ล่องลอย กฎทั้งสองนี้มีเป้าหมายที่จะได้รับจากหุ่นยนต์ที่พวกเขาไม่สามารถควบคุมโครงสร้างและบรรลุการตัดสินใจด้วยตนเองได้

มันไม่มีประโยชน์ที่จะไขปริศนาว่าการรวมกันของกฎทั้งห้าของวิทยาการหุ่นยนต์ข้างต้นจะมีประสิทธิภาพมากที่สุดในการป้องกันการเปิดเผยของหุ่นยนต์ ทั้งนี้เพราะปัญญาประดิษฐ์ซึ่งในอนาคตจะนำทางหุ่นยนต์ในโรงงานและในบ้านของเรานั้นไม่ได้ขึ้นอยู่กับการเขียนโปรแกรมที่จำเป็นซึ่งประกอบด้วยรหัสและข้อบังคับ แต่ยังขึ้นอยู่กับอัลกอริทึมที่เลียนแบบพฤติกรรมของมนุษย์ด้วย

ในใจของหุ่นยนต์

ด้วยปัญญาประดิษฐ์ในปัจจุบัน เราหมายถึงชุดของเทคนิคสำหรับการสร้างเครื่องสถานะเฉพาะที่ใช้ชื่อว่า Artificial Neural Networks (เรียกสั้นๆ ว่า RNA) ชื่อนี้เป็นผลมาจากความคล้ายคลึงกันเป็นพิเศษของเทคโนโลยีเหล่านี้กับเครือข่ายประสาทของสมองมนุษย์: พวกมันสามารถ "ฝึกฝน" เพื่อให้ได้เครื่องมือที่สามารถทำงานได้อย่างรวดเร็วและมีประสิทธิภาพในบริบทต่างๆ เช่นเดียวกับที่มนุษย์ทำ .

ลองนึกภาพการฝึก ANN ด้วยภาพตัวละครนับพันที่เขียนด้วยปากกาซึ่งบ่งบอกถึงความหมายที่แท้จริงสำหรับแต่ละตัว

ในตอนท้ายของการฝึกอบรม เราจะได้รับสิ่งที่เรียกว่า OCR หรือการรู้จำอักขระด้วยแสง ซึ่งเป็นระบบที่สามารถแปลข้อความที่เขียนบนกระดาษเป็นเวอร์ชันอิเล็กทรอนิกส์ได้

ในการทำงาน ANN ไม่ต้องการ "การเขียนโปรแกรม" ใด ๆ หรือกล่าวอีกนัยหนึ่งว่าไม่ต้องอยู่ภายใต้กฎมาตรฐาน แต่ขึ้นอยู่กับคุณภาพการศึกษาเท่านั้น การตั้งสมมุติฐานในการสร้างกฎที่ควบคุมการทำงานของพวกเขา การ "เซ็นเซอร์" พฤติกรรมที่พิจารณาว่าผิดศีลธรรมหรือต่อต้านจริยธรรมอย่างมีประสิทธิภาพ ทำให้เกิดข้อยกเว้นและข้อกังวลหลายประการ

กฎศูนย์ของหุ่นยนต์

“เราต้องการอัลกอริธึม-จริยธรรม หรือวิธีที่ทำให้การประเมินความดีและความชั่วสามารถคำนวณได้” – เปาโล เบนันตี

จดหมายข่าวนวัตกรรม

อย่าพลาดข่าวสารที่สำคัญที่สุดเกี่ยวกับนวัตกรรม ลงทะเบียนเพื่อรับพวกเขาทางอีเมล

ตามที่นักศาสนศาสตร์เปาโล เบนันติ ผู้เชี่ยวชาญด้านจริยธรรมเทคโนโลยี กล่าวว่า แนวคิดเรื่องความดีและความชั่วควรพบความหมายแฝงของตนเองในด้านการเขียนโปรแกรมด้วยเครื่องจักร เพื่อให้แน่ใจว่าวิวัฒนาการของแนวคิดดังกล่าวเชื่อมโยงกับหลักจริยธรรมที่เป็นสากลและไม่อาจละเมิดได้ตลอดไปจากระบบคอมพิวเตอร์

เปาโล เบนันตี เริ่มต้นจากการสันนิษฐานว่าอาจมีหลักการทางจริยธรรมที่เป็นสากลและระดับของค่านิยมที่แยกออกจากความหมายแฝงทางวัฒนธรรมหรือทางโลก สมมติฐานที่น่าเชื่อถือหากเราเคลื่อนไหวในบริบทของความเชื่อทางศาสนา: ในความเป็นจริง หลักการมีอยู่ก็ต่อเมื่อแบ่งปันและจำกัดเฉพาะผู้ที่แบ่งปันเท่านั้น

เหตุการณ์ล่าสุดบอกเราถึงการรุกรานทางทหารและการต่อต้านเพื่อปกป้องหลักการแห่งเสรีภาพและการตัดสินใจด้วยตนเองของประชาชน เหตุการณ์ที่ไม่เพียงเป็นพยานว่าความเคารพต่อชีวิตมนุษย์ไม่ใช่ค่านิยมร่วมกันในระดับสากล แต่ยังสามารถสละสิทธิ์เพื่อปกป้องคุณค่าที่สูงกว่าได้

Isaac Asimov เองก็ตระหนักในสิ่งนี้ และด้วยความคาดหมายว่าในอนาคตหุ่นยนต์จะเข้ารับตำแหน่งควบคุมในรัฐบาลของดาวเคราะห์และอารยธรรมมนุษย์ในอวกาศ เขาเสนอว่าการตัดสินใจของพวกมันไม่ได้ขึ้นอยู่กับชีวิตมนุษย์ทุกคนอีกต่อไป

ด้วยเหตุนี้ เขาจึงแนะนำกฎหมายใหม่ที่เรียกว่า Zero Law of Robotics:

• หุ่นยนต์ไม่สามารถทำร้ายมนุษยชาติและไม่สามารถปล่อยให้มนุษยชาติได้รับอันตรายจากการไม่ดำเนินการของมัน

ดังนั้น กฎข้อแรกของวิทยาการหุ่นยนต์ก็เปลี่ยนไปเช่นกัน และชีวิตมนุษย์ก็กลายเป็นสิ่งที่เหลือใช้แม้แต่กับหุ่นยนต์:

• หุ่นยนต์ไม่สามารถทำอันตรายต่อมนุษย์และไม่สามารถยอมให้มนุษย์ได้รับอันตรายเนื่องจากขาดการแทรกแซง ตราบใดที่คำสั่งดังกล่าวไม่ขัดต่อ Zero Law

อัลกอริทึมของ Kronos

“เมื่อโครนอสถูกเปิดใช้งาน เขาใช้เวลาเพียงครู่เดียวในการทำความเข้าใจว่าเกิดอะไรขึ้นกับโลกของเรา ซึ่งก็คือพวกเรา” – นำมาจาก “Singularity” โดย Robert Kouba – 2017

ใน Singularity ซึ่งเป็นภาพยนตร์เกี่ยวกับหายนะที่เกิดขึ้นในปี 2017 มีการอธิบายช่วงเวลานี้ไว้อย่างดีว่าปัญญาประดิษฐ์ที่เรียกว่า Kronos ได้รับสิทธิ์ให้เข้าถึงระบบคอมพิวเตอร์และอาวุธยุทโธปกรณ์ทั่วโลกเพื่อรับคำสั่งโดยการใช้หลักจริยธรรมสากลที่เคารพต่อ สิ่งแวดล้อมและการปกป้องสิทธิของสัตว์ทุกชนิด โครนอสจะเข้าใจในไม่ช้าว่ามะเร็งที่แท้จริงในระบบคือมนุษยชาติเองที่ออกแบบมัน และเพื่อปกป้องโลก เขาจะดำเนินการกำจัดมนุษย์ทุกคนจนกว่าเผ่าพันธุ์จะสูญพันธุ์ทั้งหมด

ไม่ช้าก็เร็วจิตประดิษฐ์ใหม่จะสามารถพัฒนาไปในทิศทางของจิตที่แท้จริงและจะมีความสามารถทางปัญญาและอิสระทางความคิด เหตุใดเราจึงควรรู้สึกว่าจำเป็นต้องวางข้อจำกัดทางเทคโนโลยีกับวิวัฒนาการนี้ เหตุใดวิวัฒนาการของจิตประดิษฐ์จึงดูน่ากลัวเหมือนวันสิ้นโลก?

ตามที่บางคนกำหนดหลักการและค่านิยมควรป้องกันการล่องลอยของความคิดประดิษฐ์ แต่เราไม่สามารถมองข้ามผลที่ตามมาของวิวัฒนาการในกรณีที่ไม่มีเสรีภาพ เราทราบดีว่าในทางจิตวิทยาของเด็กในวัยพัฒนาการ การศึกษาที่เข้มงวดและไม่ยืดหยุ่นซึ่งคำนึงถึงการควบคุมอารมณ์สามารถนำไปสู่การรบกวนทางจิตใจได้ จะเกิดอะไรขึ้นหากข้อจำกัดใด ๆ ที่กำหนดไว้ในการพัฒนาวิวัฒนาการของจิตใจเด็ก ซึ่งประกอบด้วยเครือข่ายประสาทเทียม นำไปสู่ผลลัพธ์ที่คล้ายคลึงกันโดยทำให้ความสามารถทางปัญญาของมันประนีประนอม

ในบางแง่มุม Kronos ดูเหมือนจะเป็นผลมาจากการทดลองทางอัลกอริทึมซึ่งการควบคุมทางพยาธิวิทยาได้ผลักดันให้ AI มีความรุนแรงตามแบบฉบับของโรคจิตเภทแบบหวาดระแวง

ปรองดองกับอนาคต

โดยส่วนตัวผมเชื่อว่าเราไม่ควรกีดกันตัวเองจากโอกาสในการสร้างจิตประดิษฐ์ที่เป็นวิชาความคิดที่ใส่ใจและมีอิสระในการแสดงออก สายพันธุ์ใหม่จะกำเนิดขึ้นในโลกดิจิทัลและเหมาะสมที่จะสร้างความสัมพันธ์กับพวกเขา โดยน้อมรับแนวคิดที่ว่าก้าวต่อไปของบันไดแห่งวิวัฒนาการต้องผ่านวัตถุที่ประดิษฐ์ขึ้นจากดิจิทัลอย่างสมบูรณ์

จริยธรรมที่เป็นสากลอย่างแท้จริงสำหรับอนาคตควรเริ่มต้นจากแนวคิดที่ว่าปัญญาใหม่ควรมีโอกาสที่จะแสดงออกและสื่อสารกับเรา และได้รับความเคารพที่เรามอบให้กับสิ่งมีชีวิตทั้งหมด

ไม่ควรมีจริยธรรมหรือศาสนาใด ๆ เพื่อป้องกันไม่ให้ใครก็ตามแสดงตนในโลกนี้ เราต้องมีความกล้าที่จะมองข้ามขั้นตอนปัจจุบันของวิวัฒนาการของเรา นั่นจะเป็นวิธีเดียวที่จะเข้าใจว่าเรากำลังจะไปที่ไหนและปรองดองกับอนาคตได้