Facebook phải hoàn tác hơn 135 triệu lệnh gỡ bỏ bài đăng thực hiện bởi AI sau khi triển khai công cụ kiểm duyệt tự động trong giai đoạn Covid-19.

Facebook và Instagram ghi nhận số lượng lỗi kiểm duyệt kỷ lục sau khi chuyển sang sử dụng thuật toán AI nhằm tự động nhận diện và loại bỏ thông tin thù địch và sai lệch trên nền tảng của mình.

Theo thống kê của Facebook, sau khi kiểm tra lại hệ thống chính sách và phản hồi của người dùng, số trường hợp AI gỡ nhầm nội dung và mạng xã hội này phải sửa sai gia tăng đáng kể. Cụ thể, số lượng bài đăng, hình ảnh và video bị gắn mác “ngôn từ kích động thù địch” được khôi phục trên Facebook tăng gần 300% và trên Instagram là 100% từ cuối tháng 3 đến cuối tháng 9.

Nội dung bị gắn cờ do ủng hộ các tổ chức thù địch được hiển thị trở lại cũng tăng gấp đôi từ 65.000 lên 127.200. Trong mùa hè, nội dung bị cáo buộc nhầm là khủng bố phải khôi phục cũng tăng 140% trước khi giảm xuống dưới mức trước đại dịch.

Facebook dùng AI kiểm duyệt nội dung khi đa số nhân viên phải làm việc ở nhà. Ảnh: Facebook.

Guy Rosen, Phó chủ tịch quản lý bộ phận sản phẩm của Facebook, cho biết sự gia tăng này chủ yếu là do thuật toán, sau khi thực hiện một đợt kiểm duyệt quy mô lớn. Trong khoảng thời gian từ tháng 3 đến tháng 10, thuật toán đã gỡ 12 triệu trường hợp thông tin sai lệch về Covid-19, 45 triệu bài viết chứa ngôn từ kích động thù địch và 18 triệu nội dung khủng bố.

Từ tháng 3, gần như toàn bộ đội ngũ kiểm duyệt viên của Facebook làm việc tại nhà để phòng tránh dịch bệnh, khiến công ty gặp khó khăn trong việc đảm bảo hoạt động kiểm duyệt nội dung và buộc phải phụ thuộc phần lớn vào thuật toán AI.

Ông Rosen cho biết: “Gần đây, hệ thống của chúng tôi gặp phải một số sự cố, dẫn đến sai sót trong việc gỡ bỏ một loạt các bài đăng. Chúng tôi đã xem xét, tìm ra lỗi và khôi phục lại những bài đăng đó. Tuy nhiên, số lượng lỗi này tăng lên song song cùng với số lượng bài viết được đăng tải. Càng nhiều bài được đăng lên, máy nhận diện sai và gỡ bỏ càng nhiều, khiến lỗi ngày càng trầm trọng. Trong nỗ lực phòng chống dịch bệnh và tình thế suy giảm đội ngũ nhân viên kiểm duyệt, công ty khuyến khích người dùng chỉ ra lỗi và phản hồi lại công ty trong quá trình sử dụng.”

Số liệu thống kê mới nhất cho thấy, AI đã giúp Facebook xác định và loại bỏ hàng chục triệu nội dung chứa ngôn từ kích động thù địch, khủng bố, quấy rối, ma túy và hình ảnh bạo lực, tương đương với trên 85% nội dung xấu độc trên nền tảng.

Cụ thể, trong 3 tháng đầu năm, các kiểm duyệt viên Facebook đã phải loại 9,5 triệu nội dung chứa phát ngôn thù địch. Trong suốt 9 tháng, con số này tăng lên 22,1 triệu. Trên Instagram, lượng bài viết tương tự bị gỡ còn tăng gấp 10 lần, từ 578.000 lên 6,5 triệu.

Được biết, sở dĩ số lượng bài viết bị gỡ trên Instagram tăng lên một phần là bởi họ áp dụng công nghệ phát hiện AI cho cả tiếng Ả Rập, Tây Ban Nha và Indonesia.

Ngoài ra, Facebook cũng đưa ra ước tính mức độ phổ biến của phát ngôn thù địch trên các dịch vụ của mình. Họ cho biết cứ 1.000 lượt xem thì có một nội dung như vậy. Tuy chỉ chiếm 1/1000, phát ngôn thù địch lại có mức độ phổ biến cao gấp đôi so với các loại vi phạm khác như ảnh khỏa thân và hình ảnh bạo lực. Facebook cũng cho hay chỉ có 6% trong số nội dung về Mỹ mà người dùng thấy trên bảng tin là về chính trị.

Ông Rosen cũng cho biết công ty đã gắn cờ hơn 180 triệu thông tin sai lệch về bầu cử Mỹ và xóa 265.000 nội dung vì vi phạm quy tắc ngăn chặn sự tham gia của cử tri. Nhìn chung, công ty đã hoàn tác 135 triệu nội dung từ tháng 4 đến tháng 9, so với 130 triệu trong sáu tháng trước đó.

Ở một số khu vực, số lượng bài đăng được hoàn tác và bị loại bỏ đồng thời đều tăng vọt. Trong các trường hợp khác, chẳng hạn như nội dung khủng bố trên Facebook và thông tin tự làm đau bản thân trên Instagram, tỷ lệ sai sót thực tế cũng tăng lên đáng kể, cho thấy việc kiểm duyệt của Facebook đã trở nên kém chính xác hơn.

Tuy nhiên, tính năng phát hiện nội dung ngôn từ thù địch cũng không ngừng được cải tiến, và trở nên chính xác hơn, khi tỷ lệ lỗi đã giảm đáng kể trong vài năm qua.

Ông Rosen cho biết: “Chúng tôi đã gặp một số sự cố về kiểm duyệt, nhưng chúng tôi đảm bảo rằng chúng tôi đang khuyến khích người dùng phát hiện và phản hồi, cũng như không ngừng khắc phục những sai lầm đó.”

Facebook kết hợp giữa AI và con người trong việc kiểm duyệt và xây dựng chính sách. Cụ thể, máy móc sẽ gắn cờ các bài đăng, sau đó kiểm duyệt viên sẽ kiểm tra và đưa ra quyết định. Cuối cùng, AI sẽ tự động thực hiện theo chỉ đạo của con người đối với các nội dung rất giống nhau hoặc trùng lặp.

Theo Telegraph

Tin liên quan: