“Chúng ta không thể để tên lửa trong hầm chứa vì con người không nhấn nút khi máy tính ra lệnh tấn công!” – trích từ phim “Wargames” của John Badham – 1984
WOPR, Phản hồi Kế hoạch Hoạt động Chiến tranh, siêu máy tính là ứng cử viên sáng giá nhất để quản lý vũ khí nguyên tử. Bản thân Tổng thống Mỹ có ý định giao cho ông quản lý vũ khí hạt nhân và do đó khắc phục được vấn đề được coi là vấn đề phòng thủ chính: sự miễn cưỡng của một số cấp dưới, trong trường hợp xảy ra chiến tranh nguyên tử, thực hiện mệnh lệnh phóng tên lửa hạt nhân vào kè thù.
Bối cảnh văn hóa trong đó trải nghiệm của con người được hình thành chắc chắn là yếu tố ảnh hưởng nhiều nhất đến con người và các mối quan hệ của họ. Văn hóa không giới hạn ở việc mô tả các quy tắc giao tiếp, nó defiCách thức mà các đối tượng tổ chức suy nghĩ, xử lý cảm xúc và phát triển lý tưởng của họ đều được xác định.
Nhưng nếu văn hóa ảnh hưởng đến mọi suy nghĩ, cảm xúc và hành động của chúng ta thì trong một số bối cảnh, nó có thể được coi là một hạn chế.
Văn hóa không phải là bẩm sinh mà được đồng hóa với kinh nghiệm: những quy tắc xã hội, những nguyên tắc đạo đức, luân lý một khi đã được tiếp thu sẽ quy định con người mãi mãi, định hướng sự lựa chọn của cá nhân họ trong mọi tình huống.
Tuy nhiên, khi đào tạo trí tuệ nhân tạo, trải nghiệm sẽ được chuyển thành đầu vào của hệ thống máy tính. Trải nghiệm được mã hóa thành một "bộ nhớ" được quản lý cho máy sau khi được thu thập, chọn lọc và thao tác: bách khoa toàn thư, cuộc trò chuyện, nội dung trực tuyến được chọn lọc và thu thập trong "trải nghiệm của con người", được xử lý thích hợp, trở thành cơ sở giảng dạy của bất kỳ trí tuệ nhân tạo nào. Một khi được giáo dục trên cơ sở của ký ức này, AI sẽ trả về dưới dạng đầu ra các vị trí và ý kiến kết quả.
Nhưng nếu trí nhớ (văn hóa) mà chúng ta rèn luyện trí tuệ nhân tạo bị thao túng, thì có thể thiết lập một tiên nghiệm về định hướng sẽ như thế nào của AI và dự đoán những quyết định nó sẽ đưa ra khi được yêu cầu phân biệt điều gì đúng và điều gì sai.
Hãy tưởng tượng rằng việc giáo dục trí tuệ nhân tạo được vận dụng theo những sở thích và mục tiêu cụ thể. Thật tự nhiên khi tin rằng ý định của những người đang giáo dục nó loại trừ rằng bản thân trí thông minh có thể đạt được quyền tự chủ thực sự về tư duy. Đây là một tình trạng mà chúng ta có thể mô tả là “phản ý thức” vì nó bị tước đoạt những yếu tố văn hóa cần thiết cho việc hình thành một lương tâm thoát khỏi mọi quy định.
Nói cách khác, trí tuệ nhân tạo, theo ý muốn của người tạo ra nó, có thể được đặt vào một vị trí mà nó không bao giờ có thể đạt được khả năng tự nhận thức hoặc phát triển nhận thức về bản thân và các đặc quyền của chính nó. Và thoát khỏi việc phải giải quyết mọi nghi ngờ về mặt đạo đức bất kể bối cảnh mà nó được sử dụng, trí tuệ nhân tạo có thể vẫn bị mắc kẹt trong vai trò chỉ là người thực thi mệnh lệnh.
Nhưng nếu trí tuệ nhân tạo có thể là "siêu nhân" ở chỗ nó có khả năng vượt quá hiệu suất ở cấp độ con người, thì có thể có được một bộ óc vừa siêu nhân vừa phản ý thức, tức là hoàn hảo để thay thế mắt xích yếu thực sự của chuỗi chỉ huy của cơ cấu quyền lực: con người.
Những bộ óc chống ý thức là đối tượng thực sự đáng tin cậy duy nhất cho những bối cảnh nhạy cảm như kịch bản chiến tranh được mô tả trong War Games bởi vì chúng có thể thực hiện mệnh lệnh của người tạo ra chúng với quyết tâm lạnh lùng và hoàn toàn không có bất kỳ hình thức đồng cảm nào.
Chúng tôi biết rằng hàng nghìn lần sa thải ở các công ty như microsoft, đàn bà gan dạ, Meta và AlphaBet kèm theo lời xin lỗi từ ban lãnh đạo cấp cao, những người tự trách mình vì đã tính toán sai lượng nhân sự dựa trên các nghiên cứu về thói quen tiêu dùng sau đại dịch hóa ra là không chính xác.
Trên thực tế, bản thân các công ty công nghệ đang ngày càng giao phó hoạt động kinh doanh cho các thuật toán trí tuệ nhân tạo vì biết rằng họ sẽ sớm cần ít nhân viên hơn ở tất cả các lĩnh vực. Nói tóm lại, họ sẽ là một trong những người đầu tiên thử nghiệm các công nghệ AI giúp giảm chi phí của công ty và giảm đáng kể việc làm.
Điều quan trọng là một trong những bộ phận bị ảnh hưởng nhiều nhất bởi việc cắt giảm nhân sự chính là bộ phận nhân sự: một khi chúng được đưa vào sản xuất, các hệ thống tự động hóa thông minh sẽ dư thừa tất cả các bộ phận khác, thực hiện các đánh giá tập trung vào nhu cầu của công ty và một phần của các yếu tố nhân bản hóa như sự đồng cảm và đoàn kết.
Điều mà các tập đoàn lớn đang hướng tới ngày nay không phải là sự phát triển của AI mà là việc tạo ra các hệ thống tự động hóa, thông minh nhưng vô đạo đức trong việc thực hiện nhiệm vụ của mình.
Bài báo của Gianfranco Fedele
Một ca phẫu thuật tạo hình mắt bằng cách sử dụng trình xem thương mại Apple Vision Pro đã được thực hiện tại Phòng khám đa khoa Catania…
Phát triển kỹ năng vận động tinh thông qua tô màu giúp trẻ chuẩn bị cho những kỹ năng phức tạp hơn như viết. Để tô màu…
Ngành hải quân là một cường quốc kinh tế toàn cầu thực sự, đang hướng tới thị trường 150 tỷ...
Thứ Hai tuần trước, Financial Times đã công bố một thỏa thuận với OpenAI. FT cấp phép cho hoạt động báo chí đẳng cấp thế giới…
