Năm nay, Google của Alphabet đã thắt chặt kiểm soát các bài nghiên cứu của các nhà khoa học bằng cách đưa ra đánh giá “chủ đề nhạy cảm”. Có ít nhất ba trường hợp tác giả được yêu cầu không được làm công nghệ của Google xuất hiện một cách tiêu cực trong các bài nghiên cứu, theo thông tin truyền thông nội bộ và cuộc phỏng vấn với các nhà nghiên cứu có liên quan cho biết. 

Các trang web nội bộ giải thích rằng quy trình đánh giá mới của Google yêu cầu các nhà nghiên cứu tham khảo ý kiến của các nhóm pháp lý, chính sách và quan hệ công chúng trước khi theo đuổi các chủ đề như phân tích khuôn mặt và quan điểm, phân loại chủng tộc, giới tính hoặc các đảng phái chính trị.

“Những tiến bộ trong công nghệ và sự phức tạp ngày càng tăng của môi trường bên ngoài đang khiến những dự án tưởng như vô hại lại dẫn đến các vấn đề đạo đức, uy tín, quy định hoặc pháp lý”, một trong những trang dành cho nhân viên nghiên cứu cho biết. Reuters không thể xác định ngày đăng, mặc dù ba nhân viên đang làm việc tại Google cho biết chính sách này bắt đầu vào tháng Sáu.

Google từ chối bình luận về tin tức này.

Tám nhân viên đang làm việc và cựu nhân viên tại Google cho biết các bài nghiên cứu trải qua thêm một vòng kiểm tra “chủ đề nhạy cảm” theo tiêu chuẩn của Google về các cạm bẫy như tiết lộ bí mật thương mại.

Đối với một số dự án, các quan chức của Google đã can thiệp vào các giai đoạn cuối. Một nhà quản lý cấp cao của Google khi xem xét một nghiên cứu về công nghệ đề xuất nội dung đã nói với tác giả ngay trước khi xuất bản vào mùa hè này rằng “hãy hết sức cẩn thận để tạo ra một giọng điệu tích cực,” theo thư nội bộ đọc cho Reuters.

Người quản lý nói thêm: “Điều này không có nghĩa là chúng ta nên trốn tránh những thách thức thực sự” do phần mềm đặt ra.

Thư trả lời sau đó từ một nhà nghiên cứu tới những người đánh giá cho thấy các tác giả “đã cập nhật để xóa tất cả sự liên quan tới các sản phẩm của Google”. Một bản thảo mà Reuters nhìn thấy đã đề cập đến YouTube thuộc sở hữu của Google.

Bốn nhân viên nghiên cứu, bao gồm cả nhà khoa học cấp cao Margaret Mitchell, cho biết họ tin rằng Google đang bắt đầu can thiệp vào các nghiên cứu quan trọng về tác hại tiềm ẩn của công nghệ.

“Nếu chúng tôi nghiên cứu điều phù hợp với chuyên môn của mình và không được phép xuất bản điều đó bởi những đánh giá không phải là bình duyệt có chất lượng, thì chúng ta đang gặp phải vấn đề nghiêm trọng về kiểm duyệt,” Mitchell nói.

Google tuyên bố trên trang web công khai của mình rằng các nhà khoa học của họ có quyền tự do “đáng kể”.

Căng thẳng giữa Google và một số nhân viên bùng phát trong tháng này sau sự rời đi đột ngột của nhà khoa học Timnit Gebru, người cùng với Mitchell dẫn đầu nhóm 12 người tập trung vào đạo đức trong phần mềm trí tuệ nhân tạo (AI).

Gebru cho biết Google đã sa thải cô sau khi cô đặt câu hỏi về lệnh không công bố bài nghiên cứu khẳng định AI bắt chước giọng nói có thể gây bất lợi cho những người yếu thế. Google cho biết họ đã chấp nhận và xúc tiến đơn từ chức của cô. Không thể xác định được liệu bài nghiên cứu của Gebru có trải qua quá trình đánh giá “chủ đề nhạy cảm” hay không.

Phó chủ tịch cấp cao của Google, Jeff Dean, cho biết trong một tuyên bố vào tháng này rằng bài báo của Gebru đề cập đến những tác hại tiềm ẩn mà không thảo luận về những nỗ lực đang được tiến hành để giải quyết chúng.

Dean nói thêm rằng Google hỗ trợ học bổng đạo đức AI và “đang tích cực làm việc để cải thiện quy trình kiểm duyệt bài nghiên cứu của chúng tôi vì chúng tôi biết rằng kiểm tra quá nhiều có thể khiến quy trình trở nên cồng kềnh”.

‘Chủ đề nhạy cảm’

Sự bùng nổ trong nghiên cứu và phát triển AI trong toàn ngành công nghệ đã khiến các nhà chức trách ở Hoa Kỳ và các nơi khác đề xuất các quy tắc sử dụng AI. Một vài người đã trích dẫn các nghiên cứu khoa học cho thấy phần mềm phân tích khuôn mặt và AI khác có thể mang thành kiến ​​hoặc xâm phạm quyền riêng tư.

Trong những năm gần đây, Google đã kết hợp AI trong các dịch vụ của mình, sử dụng công nghệ này để giải thích các truy vấn tìm kiếm phức tạp, quyết định các đề xuất trên YouTube và tự động hoàn thành các câu trong Gmail. Các nhà nghiên cứu của Google đã xuất bản hơn 200 bài báo trong năm ngoái về việc phát triển AI một cách có trách nhiệm trong tổng số hơn 1.000 dự án, Dean cho biết.

Theo một trang web nội bộ, nghiên cứu về sự thiên vị của các dịch vụ của Google ​​là một trong những “chủ đề nhạy cảm” theo chính sách mới của công ty. Trong số hàng chục “chủ đề nhạy cảm” khác được liệt kê là ngành dầu mỏ, Trung Quốc, Iran, Israel, COVID-19, an ninh gia đình, bảo hiểm, dữ liệu vị trí, tôn giáo, xe tự lái, viễn thông và các hệ thống đề xuất hoặc cá nhân hóa nội dung web.

Bài báo được Google cho là có thái độ tích cực đã bàn luận về AI đề xuất, được sử dụng trong các dịch vụ như YouTube để cá nhân hóa nội dung của người dùng. Một bản thảo được Reuters xem xét bao gồm “những lo ngại” rằng công nghệ này có thể thúc đẩy “thông tin sai lệch, phân biệt đối xử hoặc kết quả không công bằng” và “không đủ đa dạng về nội dung”, cũng như dẫn đến “phân cực chính trị.”

Thay vào đó, ấn phẩm cuối cùng lại cho biết hệ thống có thể thúc đẩy “thông tin chính xác, công bằng và đa dạng về nội dung”. Phiên bản đã xuất bản có tựa đề “Bạn đang tối ưu hóa cho điều gì? Điều chỉnh Hệ thống Đề xuất với Giá trị Con người” đã không đứng tên cho các nhà nghiên cứu của Google. Reuters không thể xác định lý do là gì.

Sau yêu cầu từ công ty, một bài nghiên cứu AI trong tháng này về việc hiểu một ngoại ngữ đã bỏ qua việc Google Dịch đã mắc lỗi như thế nào, một nguồn tin cho biết. Phiên bản đã xuất bản cho biết các tác giả đã sử dụng Google Dịch, một câu khác cho biết một phần của phương pháp nghiên cứu là “xem xét và sửa chữa các bản dịch không chính xác”.

Với một bài báo được xuất bản vào tuần trước, một nhân viên của Google đã mô tả quá trình này là một “chặng đường dài”, liên quan đến hơn 100 cuộc trao đổi email giữa các nhà nghiên cứu và người đánh giá.

Các nhà nghiên cứu phát hiện ra rằng AI có thể thu thập dữ liệu cá nhân và tài liệu có bản quyền, bao gồm một trang từ tiểu thuyết Harry Potter, lấy chúng từ internet để phát triển hệ thống.

Một dự thảo đã mô tả việc này có thể vi phạm bản quyền hoặc vi phạm luật riêng tư của châu Âu. Sau đánh giá của công ty, các tác giả đã loại bỏ các rủi ro pháp lý đó và Google đã xuất bản bài nghiên cứu.

Theo VentureBeat

Tin liên quan: