Trí tuệ nhân tạo trong buổi bình minh của cái chết

Tại hội nghị thường niên của anh ấy re: Mars 2022 Amazon đã thông báo rằng Alexa sẽ sớm có thể nói chuyện với chúng ta bằng cách bắt chước giọng nói của người thật, nhờ trí tuệ nhân tạo.

Đó là Rohit Prasad, giám đốc khoa học của dự án Alexa Trí tuệ nhân tạo, trong bài phát biểu quan trọng của anh ấy nói rằng nhờ một tính năng mới, loa thông minh Amazon sẽ cho phép người dùng chuyển đổi các mối quan hệ cá nhân thành một thứ gì đó "vĩnh viễn" ("Last personal relationship").

Nếu ai đó không rõ Prasad đang ám chỉ điều gì, hình ảnh một cậu bé quay sang Alexa hỏi cô trên màn hình lớn và hỏi cô: "Bà nội có thể đọc xong 'The Wizard of Oz' không?". Alexa nhanh chóng trả lời "Ok!" và từ lúc đó giọng nói của một người phụ nữ lớn tuổi phát ra từ thiết bị khi bà bắt đầu đọc câu chuyện cổ tích của Frank Baum cho đứa trẻ nghe.

"Người bà có mặt trong kịch bản này không còn ở với chúng tôi nữa", Tony Dokoupil, nhà báo của CBS News, sẽ tuyên bố bình luận Bài thuyết trình của Prasad.

Luôn luôn có một lần đầu tiên

Vào tháng 2017 năm XNUMX, một dịch vụ do WIRED xuất bản đã gây ra một sự chú ý, vẫn có sẵn cho đến ngày hôm nay YouTube, nơi một cuộc phỏng vấn video kể về câu chuyện của kỹ thuật viên máy tính đã "biến người cha sắp chết của mình thành một AI".

Khi James Vlahos nhận ra rằng cha mình sắp chết vì một căn bệnh nan y, anh đã quyết định lưu lại những ký ức của cha mình trong một danh sách dài các tệp âm thanh và văn bản, sau đó đặt chúng vào điện thoại thông minh của mình.

Nhưng đây mới chỉ là bước khởi đầu: thông qua một thuật toán trí tuệ nhân tạo, James đã cho phép điện thoại của mình trả lời các câu hỏi bằng cách trả lại âm thanh và văn bản phù hợp nhất của cha mình, rất có thể sẽ tạo ra một cuộc trò chuyện giữa hai người. Theo ý định của James, thuật toán có thể làm cho cuộc đối thoại với cha anh có thể trở lại ngay cả sau khi ông qua đời, và đúng như vậy.

Nhưng cuộc phỏng vấn có một bước ngoặt kỳ lạ ở cuối. Khi James hỏi người cha quá cố của mình "Bố có yêu con không?" câu trả lời có vẻ hơi lảng tránh: “Chà! Anh nhớ em rất nhiều! Chúng ta muốn nói về điều gì?".

Và đó là lúc James bắt đầu suy ngẫm sâu sắc về những gì đã xảy ra: "Tôi thất vọng vì cha tôi miễn cưỡng nói với tôi rằng ông ấy yêu tôi.", James đau đớn nói. “Một người cha lẽ ra phải biết câu trả lời cho những câu hỏi như thế này, nhưng ông ấy thì không. Ý tôi là, tôi muốn nghe anh ấy nói."

Và đây là lúc tình hình trở nên phức tạp.

Vào vòng lặp

Kinh nghiệm của James đã trở thành một công việc kinh doanh, một tổ chức phi lợi nhuận hứa hẹn mọi người kết nối với những người đã khuất của họ thông qua AI. Một dịch vụ trả phí mà bất kỳ ai cũng có thể khiến người thân sống lại bằng cách chuyển ký ức của họ vào một ứng dụng.

Nhưng nếu chúng ta xem xét những tác động tâm lý sâu sắc của việc tiếp xúc với một người thân yêu đã qua đời, chúng ta không thể loại trừ rằng dịch vụ này có thể dẫn đến những biến động xã hội mới và không thể đoán trước. Ví dụ, chúng ta có sẵn sàng sống trong một xã hội của những người, thay vì than khóc, dựa vào một dịch vụ trả tiền để tiếp tục được neo vào những trải nghiệm cuộc sống hạnh phúc hơn như trong một vòng lặp không? Nếu hôm nay trí nhớ của chúng ta xử lý những ký ức đau buồn dưới góc độ tự bảo vệ, thì ngày mai sẽ như thế nào khi bằng cách thao túng chúng, chúng ta có thể biến chúng thành một thứ không bao giờ đau đớn và luôn hạnh phúc giả tạo?

Amazon không thúc đẩy tiến bộ khoa học, nó cũng tìm kiếm những không gian mới để đặt sản phẩm và tìm kiếm chúng ở nơi mà trước đây chưa ai dám làm.

Các công nghệ mà Alexa sẽ tái tạo giọng nói và âm sắc của người thật là các thuật toán đã được biết đến từ lâu. Chúng ta có thể nói: không có gì mới dưới ánh mặt trời. Chính việc áp dụng chúng hứa hẹn sẽ là một sự phá hoại, một sự khiêu khích chạm đến giới hạn của đạo đức học đương thời.

Với Alexa, Amazon dường như muốn xây dựng xung quanh mỗi người dùng một siêu ký ức thực sự của những người thân yêu và những người đã mất. Một nơi nhẹ nhõm mà tất cả chúng ta có thể chọn không nói lời tạm biệt với quá khứ, có thể chọn sống lại nó vô tận nhờ một phần mềm.

Tình hình trở nên phức tạp

Điều gì sẽ xảy ra nếu James Vlahos, thất vọng vì người cha (đã qua đời) của mình không thể thể hiện tình cảm của mình, một ngày nào đó quyết định "sửa sai", bằng cách sửa đổi một vài dòng mã, khía cạnh này của nhân vật và giống với người cha mà anh ta muốn hơn?

Ngoài ra, ai sẽ ngăn người dùng Alexa hướng dẫn loa thông minh đóng vai một người hoàn toàn sống đối với chúng tôi, nuôi dưỡng một hình thức tôn sùng kỹ thuật số mới mà chúng tôi chưa cảm thấy cần thiết?

Hãy thử tưởng tượng một người yêu thất vọng biến Alexa thành đối tượng tình yêu của mình, không quên sửa chữa tính cách của cô ấy để uốn nắn nó theo nhu cầu tình cảm và hài hước của chính cô ấy. Đây có phải là một cách để hạ thấp giá trị các mối quan hệ của con người và đẩy cuộc sống của những đối tượng mong manh nhất vào những hình thức tình cảm mới, tách rời khỏi thực tế và neo vào các công cụ công nghệ do các công ty dịch vụ đa quốc gia chỉ đạo?

Nhưng tại sao?

Mục tiêu của Amazon là tạo ra các công cụ thu hút sự chú ý của mọi người và thu hút họ ngày càng nhiều hơn vào các hoạt động trực tuyến. Sự tham gia của người dùng đã liên quan đến nhiều lĩnh vực của cuộc sống riêng tư và ý định của Amazon là đi và chiếm lĩnh những lĩnh vực mới, liên quan đến lĩnh vực tình cảm, nếu cần, như trong một cuộc chiến tranh chiếm đóng nơi mà cuộc chinh phục nằm trong quyền riêng tư của mỗi chúng ta.

Nhưng nếu khai thác cảm xúc và nỗi đau là một lĩnh vực mới, thì những tác động đạo đức của hành vi này cần được xem xét nghiêm túc: không nên để lĩnh vực này tự do cho những người có ý định khai thác công nghệ mới để tạo ra các hình thức tham gia mới trở thành các hình thức thao túng.

Có lẽ chúng ta muốn biến các thế hệ mới thành đám đông đối tượng được nuôi dưỡng bằng tình cảm bởi công nghệ và không thể phát triển một cách tự nhiên trong trải nghiệm sống của chính họ?

Bài báo của Gianfranco Fedele