Đội ngũ kiểm duyệt nhằm đảm bảo sự công bằng mới được thành lập, sẽ nghiên cứu các thuật toán AI của Facebook.

Minh họa: James Bareham / The Verge.

Facebook đang thành lập các đội ngũ nội bộ với mục tiêu nghiên cứu mạng xã hội Facebook cũng như Instagram, để phát hiện xem có tồn tại định kiến chủng tộc, gây ảnh hưởng tiêu cực lên các nhóm thiểu số như người da đen, người Mỹ La-tinh… trong các thuật toán AI của hãng hay không. Cụ thể, theo một phát ngôn viên của Facebook, đội ngũ này sẽ “chịu trách nhiệm đảm bảo tính công bằng trong mọi quy trình phát triển sản phẩm” của hãng. Đại diện Facebook cũng chia sẻ: “Chúng tôi sẽ tiếp tục làm việc với đội ngũ phát triển AI của Facebook, nhằm đảm bảo loại bỏ được các mầm mống định kiến xuyên suốt mọi nền tảng của công ty.”

Các đội ngũ đảm bảo công bằng sẽ tạo nên bước tiến mới trong hành trình của Facebook. Tin tức về những đội ngũ này đã lần đầu được công bố trên trang The Wall Street.

Phong trào này là một dấu mốc vô cùng quan trọng tại công ty chúng tôi. Bởi lẽ, mọi định kiến xuất hiện trong các hệ thống và chính sách của Facebook đều đi ngược lại với mục tiêu của công ty, đó là mang lại một nền tảng để thể hiện bản thân cho tất cả mọi người,” Vishal Shah – Phó Giám đốc sản phẩm tại Instagram đã phát biểu. Hãng cũng chia sẻ rằng, tuy rằng Instagram luôn cố gắng để đem lại trải nghiệm công bằng cho mọi người, hãng vẫn sẽ tiếp tục cải thiện hơn nữa từ việc thành lập Đội ngũ đảm bảo công bằng ở Instagram cho tới Hội đồng sản phẩm tại Facebook.

Một dấu mốc quan trọng

Quyết định của Facebook là kết quả của những cuộc biểu tình chống phân biệt chủng tộc và bạo lực đang diễn ra hàng ngày trên khắp nước Mỹ, sau cái chết của George Floyd vào hồi tháng 5. Facebook hiện cũng chịu ảnh hưởng của phong trào tẩy chay quảng cáo dưới chiến dịch #StopHateForProfit kéo dài một tháng vừa qua, được tổ chức bởi các nhóm dân quyền như Anti-Defamation League, Color of Change và NAACP. Trong đó, phong trào đã được hưởng ứng bởi hàng loạt các công ty lớn, thường mạnh tay chi cho quảng cáo như Coca-Cola, Disney, McDonald’s, Starbucks và Walmart.

Vào tháng trước, CEO của Instagram, ông Adam Mosseri, đã hứa sẽ thay đổi cách tiếp cận của công ty trong việc giải quyết các vấn đề của người da đen và các nhóm chủng tộc thiểu số khác trên nền tảng này. Cụ thể, Mosseri viết: “Chúng tôi sẽ bắt đầu với việc chịu trách nhiệm về những trải nghiệm và khó khăn mà các nhóm thiểu số, ví dụ như cộng đồng người da đen, phải đối mặt trong quá trình sử dụng Instagram. Chúng tôi cũng cố gắng nghiên cứu về ảnh hưởng của nền tảng này đối với các nhóm người khác nhau và chính điều này đã giúp chúng tôi có được thành tựu như hiện nay. Tuy nhiên, cá nhân tôi vẫn cho rằng, cần phải khắc phục rất nhiều điểm để thực sự đáp ứng mục tiêu mà công ty đã đề ra.”  Trong bài viết của mình, Mosseri đã trực tiếp nhắc tới các vấn đề như quấy rối, chứng thực tài khoản và định kiến trong thuật toán, là các vấn đề mà Instagram cần khắc phục để mang lại trải nghiệm tốt hơn cho người dùng da đen.

Lịch sử của Facebook với định kiến chủng tộc đã xuất hiện từ lâu. Trước đó, công ty này đã từng bị tố cáo về hành vi cho phép khách hàng loại bỏ các nhóm thiểu số ra khỏi đối tượng quảng cáo cho những sản phẩm như bất động sản và công việc. Ngoài ra, có chưa tới 4% nhân viên của Facebook là người da đen. Vào năm ngoái, ban quản lý của công ty này đã cấm nhân viên nghiên cứu ảnh hưởng của vấn đề chủng tộc trên nền tảng Facebook nếu không có sự đồng thuận của cấp cao nhất.

Facebook cũng nhiều lần bao biện cho các hành vi định kiến, ví dụ như phân loại người dùng không phải theo chủng tộc mà là theo “dân tộc” hay “đa sắc tộc”, hoặc tự thống kê ra các nhóm người mà chủ yếu là người da đen, người Mỹ La-tinh, và các nhóm thiểu số khác trên nền tảng của mình. Chỉ sau khi các hành vi này bị chỉ trích rộng rãi trên truyền thông, Facebook mới quyết định loại bỏ tính năng quảng cáo này.

Facebook đã hứa sẽ ủng hộ 200 triệu USD cho các doanh nghiệp của người da đen để hưởng ứng phong trào Black Lives Matter rộng khắp nước Mỹ. Ngoài ra, vào tháng trước, công ty này cũng công bố kế hoạch tăng tỷ lệ người da màu trong ban lãnh đạo của công ty lên 30% trong vòng 5 năm tới, cũng như tăng gấp đôi số nhân viên da đen và Mỹ La-tinh trước năm 2023.

Hãng luật Relman Colfax đã đưa ra một báo cáo tổng hợp, kiểm tra quyền công dân dài 89 trang trong suốt 2 năm, họ công bố báo cáo này vào ngày 8 tháng 7 vừa qua. Trong đó,  Relman Colfax yêu cầu Facebook phải nghiên cứu và loại bỏ các định kiến chủng tộc trong phần mềm và hệ thống AI của hãng. Tuy nhiên, hãng luật Relman Colfax không được phép tìm hiểu về các mô hình nghiên cứu AI và nội bộ của Facebook.

Theo The Verge

Tin liên quan: