Nghịch lý của Hawking

“Gray không còn ở đây nữa. Nó ở một nơi tốt hơn. Đóng kín trong tâm trí anh, nơi anh muốn ở. Bây giờ tôi đang kiểm soát. Một thế giới tưởng tượng ít đau đớn hơn nhiều so với thế giới thực. Tất cả những gì anh ấy cần là tâm trí của anh ấy để phá vỡ, và anh ấy đã phá vỡ nó. " - từ Upgrade, một bộ phim do Leigh Whannell viết kịch bản và đạo diễn.

Vào năm 2021, nó đã được xuất bản trên Nature Medicine một nghiên cứu được thực hiện bởi một nhóm các nhà nghiên cứu từ Đại học California. Là một phần của cuộc nghiên cứu, một số bác sĩ đã phẫu thuật cấy ghép một vi mạch vào não của một phụ nữ mắc chứng trầm cảm nghiêm trọng không thể điều trị bằng thuốc được nữa.

Để làm được điều này, các nhà nghiên cứu đã xác định hai vùng não của người phụ nữ có liên quan đặc biệt đến việc hình thành "những suy nghĩ trầm cảm" và kết nối vi mạch với những vùng này.

Đăng suy nghĩ

Loại thứ hai, có thể đánh chặn các xung điện cụ thể kết nối với những suy nghĩ ám ảnh, đã bắt đầu tạo ra các kích thích điện có khả năng hình thành "suy nghĩ tích cực" chống lại chúng.

Tập này đặt ra một số câu hỏi đạo đức về cách thức, khi nào và tại sao chúng ta nên thay đổi tâm trí của một người bằng cách cấy một con chip vào não của người đó để thay đổi cách thức hoạt động.

Nếu chúng ta tự giới hạn việc sử dụng vi mạch để điều trị bệnh lý ở những đối tượng kháng thuốc, thì việc thiết lập ranh giới đạo đức sẽ là một hoạt động đơn giản.

Nhưng nỗ lực "tăng" sức mạnh của bộ não con người bằng cách mở rộng khả năng của nó thông qua một CPU bổ sung phụ trách xử lý nội tuyến với suy nghĩ của chúng tôi, nó đã có trong các chương trình của nhiều công ty và công ty khởi nghiệp như Neuralink nổi tiếng của Elon Musk. Bạn muốn đạt được những gì?

Hãy tưởng tượng bạn có thể theo dõi nội dung của một mục Wikipedia bất kỳ lúc nào mà không cần phải kết nối Internet. Hoặc để có thể điều khiển các công cụ công nghệ chỉ bằng sức mạnh của suy nghĩ. Bây giờ chúng ta hãy thử tưởng tượng vô số bối cảnh trong đó những siêu năng lực này sẽ biến đổi cuộc sống của con người, ví dụ như cho phép những người mắc bệnh hiểm nghèo phục hồi một số quyền tự chủ của họ. Tất cả đều tuyệt vời.

Tuy nhiên, nếu chúng ta chuyển sự chú ý sang vi mạch có thể làm nên điều kỳ diệu này, chúng ta sẽ dễ dàng hình dung tầm quan trọng của việc thiết lập các nguyên tắc đạo đức liên quan đến các khả năng được đưa ra và những rủi ro có thể phát sinh từ sự kết hợp của các hệ thống máy tính thông minh và con người. não.

Nghe có vẻ giống như khoa học viễn tưởng nhưng điều tương tự đã xảy ra trước đây.

Stephen Hawking phải làm gì với nó?

Năm 2014, tình trạng sức khỏe của Stephen Hawking, mắc chứng bệnh thoái hóa thần kinh, không còn cho phép ông giao tiếp với thế giới thông qua các hệ thống kỹ thuật số truyền thống. Những chuyển động mà anh ấy có thể tạo ra chỉ bằng má của mình đã trở nên không thể nhận thấy và không một thiết bị điện tử nào có thể đọc và giải thích chúng.

Vì vậy, Intel, cùng với SwiftKey có trụ sở tại London, đã tạo ra một trí thông minh nhân tạo cho anh ta, được hướng dẫn dựa trên các sách và tài liệu mà anh ta đã viết trong nhiều năm, cho phép Hawking giao tiếp. Nói cách khác, công nghệ đã đánh giá thông minh khả năng giao tiếp không lời của Hawking bằng cách thiết lập tùy từng thời điểm, điều mà ông có nhiều khả năng muốn nói đến nhất trong mỗi cuộc trò chuyện.

Hawking rất phấn khích với công nghệ và những cơ hội mở ra cho mình, nhưng việc công cụ này là điểm liên lạc duy nhất giữa ông và thế giới khiến khả năng giao tiếp của ông hoàn toàn phụ thuộc vào nó. Các thuật toán trí tuệ nhân tạo làm nên điều kỳ diệu đã trở thành cầu nối duy nhất giữa Hawking và phần còn lại của thế giới. Bất kỳ sự bất thường nào trong việc giải thích các tín hiệu cơ thể của Hawking đều có thể dẫn đến phản ứng không chính xác từ AI, Hawking không muốn nhưng đồng thời hoàn toàn phù hợp với bối cảnh của cuộc trò chuyện.

Kịch bản là một nhà khoa học vĩ đại không thể giao tiếp với thế giới và một trí tuệ nhân tạo kiểm soát cuộc sống của anh ta và giao tiếp ở vị trí của nó.

Theo một số người, chính tình trạng phụ thuộc vào AI của Hawking đã kích thích trong ông một ý tưởng bi quan, theo đó, ông sử dụng những từ ngữ của mình: "[...] trí tuệ nhân tạo sẽ hoạt động và phát triển độc lập với con người và cuối cùng sẽ gây nguy hiểm cho rất tồn tại của nhân loại ”.

Sự mất kiểm soát

Bộ phim Upgrade mô tả rất tốt về sự kiện này: người thợ máy thể thao Grey là nạn nhân của một cuộc tấn công, trong đó vợ anh ta mất mạng và cuối cùng anh ta buộc phải sống mãi mãi trên xe lăn. Chỉ có con chip thử nghiệm được trang bị trí thông minh nhân tạo được gọi là STEM, sau khi được cấy vào xương sống của nó, mới có thể đặt nó trở lại đôi chân của nó và mang lại cho nó một hy vọng mới về cuộc sống.

Nhưng trong khi Grey tin rằng anh ta có thể trở lại bình thường, STEM sẽ chiếm lấy cơ thể anh ta bằng cách điều khiển tâm thần của anh ta cho đến khi nó chuyển sang trạng thái ngủ lâu năm: Gray sẽ trở lại như thể bởi một phép màu với người vợ đã khuất của anh ta và sẽ sống mãi mãi trong bên trong một metaverse được xây dựng đặc biệt cho anh ta trong khi STEM sẽ trở thành nguyên mẫu của một giống cơ thể người mới được quản lý bởi trí óc nhân tạo.

kết luận

Làm thế nào một kịch bản như vậy có thể được ngăn chặn? Theo tôi, không nhất thiết phải chờ đợi sự phát triển của các hệ thống tiên tiến như STEM để các công nghệ kiểm soát cuộc sống của chúng ta. Cũng không có khả năng phản đối một sự phát triển công nghệ như STEM do những lợi ích kinh tế to lớn tài trợ cho việc tạo ra nó.

Rõ ràng là người lớn đang tìm kiếm một siêu thị nơi anh ta có thể xoa dịu nỗi đau của mình và tìm lại hạnh phúc một cách giả tạo đang trao quyền kiểm soát tâm trí của mình cho người khác.

Cách duy nhất để ngăn chặn một ngày nào đó công nghệ chiếm lấy cuộc sống của chúng ta là đào tạo các thế hệ mới theo những nguyên tắc giúp chúng ta bám chặt vào thực tế.

Điều quan trọng là phải hiểu rằng metaverse chỉ là một ảo ảnh, một ảo ảnh có khiếm khuyết là nằm dưới sự kiểm soát của ai đó và ai đó không phải là chúng ta.

Bài viết trích từ Bài đăng của Gianfranco Fedele, nếu bạn muốn đọctoàn bộ bài bấm vào đây