Chúng ta thừa nhận tiềm năng của công nghệ AI được sử dụng tốt và thúc đẩy quyền con người, nhưng cũng xảy ra khả năng cố ý hoặc vô tình phân biệt đối xử với cá nhân hoặc nhóm người.

Điều này có nghĩa là, một cách vô tình, các sản phẩm thường hoạt động tốt hơn cho các nhóm đối tượng cụ thể nào đó. Hiện nay, điều đó có thể có nghĩa là một trình duyệt tương đối thông dụng như Siri sẽ nhận ra giọng nam giới Mỹ với độ chính xác cao hơn .

Từ việc kiểm soát các hệ thống phúc lợi, ngôn ngữ trực tuyến tới chăm sóc sức khỏe, hệ thống sử dụng công nghệ học máy có thể thay đổi hoặc củng cố nhanh chóng các cấu trúc quyền lực hoặc sự bất bình đẳng trên quy mô chưa từng có và gây thiệt hại đáng kể cho nhân quyền.

Các mô hình học máy cho AI thường được huấn luyện về dữ liệu công cộng và do đó chúng ta phải cẩn thận về những nguồn nào được sử dụng. Nỗ lực của Microsoft để tạo ra một chatbot có thể học hỏi từ công chúng, được gọi là Tay, lại đem về một kết quả đáng buồn, đó là trở thành một nhân vật đưa ra các nhận xét phân biệt chủng tộc và giới tính.

Các lĩnh vực đẩy mạnh ứng dụng AI

Việc làm: Trước đây, một vài doanh nghiệp đã sử dụng AI để sàng lọc ứng viên. Nhưng hiện nay, AI thậm chí còn được sử dụng để quyết định ai sẽ bị sa thải khi các doanh nghiệp cắt giảm nhân sự. Amazon gần đây nhận được nhiều chỉ trích khi sử dụng thuật toán AI để quyết định cắt giảm những nhân viên kho có năng suất làm việc thấp.

Chính sách: Khi nhiều cuộc biểu tình phản đối việc cảnh sát lạm quyền nổ ra, chính phủ bắt đầu triển khai các thuật toán AI nhằm đưa ra các chính sách có tính dự đoán trước. Điều này vấp phải nhiều phản đối từ người dân, họ lo ngại rằng AI sẽ khiến nạn phân biệt chủng tộc và các vấn đề nhạy cảm khác trở nên tồi tệ hơn.

Nhà ở: Các thuật toán AI đóng vai trò quan trọng trong các quyết định lựa chọn nhà ở của người dân và chấp thuận cho vay của các ngân hàng. Khi thuật toán và dữ liệu đào tạo được xây dựng cẩn thận, điều này có thể giúp hỗ trợ cộng đồng người da màu và những cộng đồng khác đang chịu phân biệt đối xử.

Dịch COVID-19: AI đóng vai trò quan trọng trong ứng phó với đại dịch, từ thử nghiệm vắc-xin đến quyết định ai có thể được điều trị tại nhà thông qua các dịch vụ chăm sóc sức khoẻ qua điện thoại. AI có thể giúp quá trình chăm sóc bệnh nhân nhanh chóng hơn. Tuy nhiên, bên cung cấp dịch vụ cần chú ý đến các nhóm còn thiếu trong dữ liệu đào tạo thuật toán, cũng như các mô hình bất bình đẳng khác được nhúng trong các hệ thống chăm sóc hiện có.

Lưu ý: Nếu bạn định sử dụng AI để đưa ra các quyết định quan trọng, các chuyên gia khuyến cáo rằng bạn nên có một nhóm chuyên gia có thể xem xét mọi thứ từ thiết kế thuật toán, dữ liệu đào tạo cho đến cách hệ thống sẽ được triển khai và đánh giá.

Các chuyên gia cũng khuyến cáo bạn không nên sử dụng dữ liệu trước thời điểm COVID-19 bùng phát khi đưa ra quyết định quan trọng, bởi thế giới này đã thay đổi rất nhiều.

Giáo sư Matissa Hollister từ Đại học McGill cho biết: “Một số dữ liệu hiện vẫn còn hữu ích, một số khác thì không.”

Đúng, nhưng: Hollister lưu ý rằng việc đưa con người vào hệ thống vận hành AI không phải là giải pháp, bởi con người cũng có nhiều phân biệt, thành kiến khác nhau.

Trong khi đó: Nhiều doanh nghiệp, như Amazon, Microsoft và IBM, đã ngừng cung cấp phần mềm nhận diện khuôn mặt cho cảnh sát, tuyên bố rút khỏi thị trường này.

Các nhóm ủng hộ tự do dân chủ từ lâu đã lo lắng về cách các chính phủ sử dụng công nghệ này, đặc biệt là các hệ thống có độ chính xác thấp hơn khi nhận diện người châu Á và người Mỹ gốc Phi.

Tiếp theo: Làn sóng kiện tụng từ người tiêu dùng cho rằng họ bị phân biệt đối xử bởi các hệ thống AI, đặc biệt là trong các lĩnh vực như tuyển dụng.

Vogel cho biết: “Luật quy định rất rõ ràng rằng không thể phân biệt đối xử trong tuyển dụng”. Mặc dù điều luật này chưa được áp dụng rộng rãi cho các thuật toán AI do công nghệ này còn quá mới, nhưng chúng ta vẫn mong đợi một chuyển biến tích cực hơn trong tương lai.

Theo Axios

Tin liên quan: