Facebook xin lỗi khi AI gắn nhãn sai video về những người đàn ông da đen là “động vật linh trưởng”

Công ty đã vô hiệu hóa tính năng đề xuất theo chủ đề để điều tra

Facebook xin lỗi về sự cố trong đó AI của họ đã gắn nhãn sai cho video của những người đàn ông da đen với nhãn “động vật linh trưởng”, gọi đó là “lỗi không thể chấp nhận được” mà họ đang kiểm tra để ngăn nó xảy ra lần nữa. Theo báo cáo của New York Times, những người dùng xem video ngày 27 tháng 6 được đăng bởi tờ Daily Mail của Anh đã nhận được lời nhắc tự động hỏi liệu họ có muốn “tiếp tục xem các video về linh trưởng”.

Facebook đã vô hiệu hóa toàn bộ tính năng đề xuất chủ đề ngay khi nhận ra điều này, một phát ngôn viên cho biết trong email gửi The Verge hôm thứ bảy.

Người phát ngôn nói: “Đây rõ ràng là một lỗi không thể chấp nhận được”. Người phát ngôn cho biết thêm, công ty đang điều tra nguyên nhân để ngăn chặn hành vi này tái diễn. “Như chúng tôi đã nói, mặc dù chúng tôi đã cải tiến AI của mình, nhưng chúng tôi biết rằng nó chưa hoàn hảo và chúng tôi còn phải cải tiến nhiều hơn nữa. Chúng tôi xin lỗi bất kỳ ai đã nhìn thấy những khuyến nghị xúc phạm này”.

Vụ việc chỉ là ví dụ mới nhất về các công cụ trí tuệ nhân tạo thể hiện thành kiến ​​về giới tính hoặc chủng tộc, với các công cụ nhận dạng khuôn mặt được cho là có vấn đề xác định sai người da màu. Vào năm 2015, Google đã xin lỗi sau khi ứng dụng Photos của họ gắn thẻ ảnh của người da đen là “khỉ đột”. Năm ngoái, Facebook cho biết họ đang nghiên cứu xem liệu các thuật toán của họ được đào tạo bằng cách sử dụng AI – bao gồm cả những thuật toán của Instagram mà Facebook sở hữu – có thành kiến ​​về chủng tộc hay không.

Vào tháng 4, Ủy ban Thương mại Liên bang Mỹ đã cảnh báo rằng các công cụ AI thể hiện thành kiến ​​về chủng tộc và giới tính “đáng lo ngại” có thể vi phạm luật bảo vệ người tiêu dùng nếu chúng được sử dụng để ra quyết định về tín dụng, nhà ở hoặc việc làm. “Hãy tự chịu trách nhiệm – hoặc sẵn sàng để FTC làm việc đó cho bạn”, luật sư Elisa Jillson đã viết trong một bài đăng trên trang web của cơ quan.

Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments