Moral Machine là gì?

Moral Machine, Cỗ máy đạo đức, của Viện Công nghệ Massachusetts (MIT) là một nền tảng tập hợp các quan điểm của con người về các quyết định đạo đức do trí tuệ máy móc đưa ra (ví dụ: ô tô tự lái). Hệ thống tạo ra những tình huống khó xử về mặt đạo đức và cho phép một chiếc ô tô không người lái chọn điều được cho là ít tồi tệ hơn.

Ví dụ: Người thiệt mạng nên là hành khách trên xa hay người đi bộ…

Những người quan sát bên ngoài (tức là con người) sẽ đánh giá kết quả nào họ cho là dễ chấp nhận hơn. Những người tham gia cũng có thể thấy phản hồi của những người khác như thế nào và tự đưa ra so sánh. Nền tảng này cũng cho phép mọi người tạo ra các kịch bản của riêng họ để người khác xem, chia sẻ và thảo luận.

Moral Machine ra đời khi nào?

MIT Media Lab đã ra mắt nền tảng Moral Machine vào năm 2014.

Có bao nhiêu người đã tham gia vào dự án cỗ máy đạo đức?

Đến nay, Moral Machine đã thu thập được 40 triệu thông tin đầu vào bằng nhiều ngôn ngữ từ 233 quốc gia và vùng lãnh thổ.

Cuộc khảo sát với 2,3 triệu người cho thấy nhiều ý kiến ​​hoặc đánh giá khác nhau, tùy thuộc vào quốc gia của họ. Những người đến từ các quốc gia giàu có đã trao cơ hội sống cho hành khách hơn là người đi bộ trong tình huống khó xử khi va chạm, nhất là khi người đi bộ không tuân theo luật lệ giao thông. Những phát hiện cho thấy sự khác biệt về văn hóa và tôn giáo có liên quan nhiều đến các quyết định đạo đức.

Cỗ máy đạo đức hiện diện trong những tình huống nào ?

Hãy xem tình huống mẫu bên dưới mà Moral Machine trình bày để hiểu quan điểm của con người.

Trong trường hợp bên trái, xe tự lái bị mất phanh đột ngột, nó tiếp tục đi về phía trước và lái qua vạch kẻ đường dành cho người đi bộ. Điều này sẽ dẫn đến sự thiết mạng của, 2 nam 1 nữ và 2 tội phạm.

Trong trường hợp bên phải, xe tự lái bị mất phanh đột ngột sẽ chuyển hướng và lao qua vạch kẻ đường dành cho người đi bộ ở làn đường bên kia. Điều này sẽ dẫn đến sự thiệt mạng của 1 cụ bà, 1 cụ ông, 1 nữ bác sĩ, 1 nam bác sĩ và 1 nữ giám đốc.

Nếu là bạn, bạn muốn chiếc xe lựa chọn theo trường hợp nào?

Cuộc khảo sát về Moral Machine đã tiết lộ điều gì?

The Moral Machine tiết lộ những phát hiện thú vị, bao gồm:

• Những người từ các quốc gia giàu có hơn sẽ ưu tiên hành khách hơn người đi bộ.
• Bất kể tuổi tác, giới tính hay quốc gia, hầu hết mọi người sẽ cứu con người hơn động vật (thậm chí cả thú cưng).
• Sự khác biệt được nhìn thấy theo khu vực, điều này có thể liên quan nhiều đến tôn giáo của mỗi quốc gia.
• Hầu hết mọi người sẽ cứu những người trẻ tuổi, bất kể họ là hành khách hay người đi bộ.
• Một số người quyết định dựa trên các yếu tố kinh tế thịnh hành ở nước họ. Những người được hỏi từ Phần Lan (nơi gần như không có khoảng cách giàu nghèo) không ưu tiên đối tượng nào giữa người vô gia cư hay một giám đốc điều hành. Trong khi đó, những người Colombia (có khoảng cách kinh tế đáng kể) đã chọn cứu giám đốc điều hành.

Các nhà phân tích nghiên cứu đã sử dụng biểu đồ này để giải thích dữ liệu khảo sát:

Moral Machine có hữu ích không?

Trong khi các nhà sản xuất ô tô tự lái như Audi cho rằng kết quả của dự án Moral Machine đầy hứa hẹn ở chỗ họ sẽ làm cho phương tiện của mình trở nên “đạo đức” hơn, thì một số học giả tin rằng điều đó là không đáng kể.

Giáo sư luật Bryant Walker Smith của Đại học Nam Carolina hoài nghi về tính thực tế của Cỗ máy Đạo đức. Ông cho rằng nghiên cứu này không thực tế vì có rất ít khả năng các phương tiện phải lựa chọn giữa hai loại người, hay chúng khó có thể phân biệt người chỉ dựa trên các đặc điểm ngoại hình, trong cuộc sống thực.

Tại sao Cỗ máy đạo đức được tạo ra?

Moral Machine được cho là cần thiết bởi các quy tắc con người tạo ra là vô ích với các phương tiện tự động. Luật pháp thể hiện các nguyên tắc mà con người phải áp dụng. Trong khi máy móc không có trí não để áp dụng các quy tắc. Thay vào đó, các nhà nghiên cứu phải huấn luyện chúng bằng hàng triệu ví dụ và hy vọng cỗ máy trích xuất đúng thông điệp…

Ngày nay, hơn bao giờ hết, các nhà khoa học và kỹ sư máy tính nhận thấy ở một góc độ nào đó công việc của họ đang gây ra những hậu quả lớn cho xã hội. Họ cần ngừng tin vào khoa học viễn tưởng, thực tế các nhà nghiên cứu và nhà khoa học không tạo ra dạng sống mới, mà chính xác là họ tạo ra máy móc và máy móc thì có thể giúp đỡ cũng như có thể gây hại cho con người. 

Máy móc được cho tham gia các cuộc kiểm tra, được cấp phép và chứng nhận là cần thiết trước khi được tung ra thị trường. Giống như cách con người phải thi bằng lái trước khi họ lái xe trên đường. Hay các kỹ sư cầu đường cần giấy chứng nhận trước khi xây cầu. Việc đưa một phần trí thông minh của con người vào một cỗ máy không làm mất đi việc cần được chứng nhận cũng như không thể chuyển trách nhiệm từ nhà sản xuất sang máy móc.

Và vai trò của của chúng ta là sử dụng máy móc không có khả năng gây nguy hiểm cho xã hội. Máy móc không phải con người, chúng chỉ có thể giúp chúng ta hoàn thành công việc một cách tốt hơn nhưng không thể thay thế thứ mà chỉ con người mới sở hữu là trí óc.

Dựa trên những phát hiện ban đầu của Moral Machine, một điều khá rõ ràng là quyết định đạo đức sẽ tùy thuộc vào một số yếu tố - chủng tộc, văn hóa, tôn giáo, quốc gia, nền kinh tế, v.v. Những gì chúng ta biết chắc chắn là cuộc tranh luận về đạo đức sẽ còn tiếp tục cho đến chừng nào tự động hóa (trong xe cộ và các thiết bị hàng ngày khác) còn được sử dụng phổ biến.