Hệ thống theo dõi này sẽ giúp cảnh sát có thể kiểm soát công chúng một cách sát sao hơn bao giờ hết.

Facial recognition used on pedestrians on a New York Street.

Ngay sau khi công bố quyết định sử dụng hệ thống theo dõi đầy tranh cãi của ClearView AI, Sở Cảnh sát Thành phố London đã gặp phải làn sóng phản đối mạnh mẽ trên toàn cầu. Những công nghệ nhân diện gương mặt vốn đã gây quan ngại và lo lắng trong suốt hàng thập kỷ. Đặc biệt là khi xuất hiện các hệ thống như Clearview, với khả năng nhận diện trên thời gian thực. Tuy nhiên, chỉ tới khi Sở cảnh sát London đưa ra quyết định ứng dụng nó, thì công chúng mới thực sự bùng nổ. Nhưng điều gì đã khiến một startup chẳng mấy ai biết có thể đưa ra một công nghệ ảnh hưởng tới tương lai, rồi giới thiệu nó tới các cơ quan kiểm soát, và nhận được sử chú ý từ cả chính phủ lẫn những gã khổng lồ công nghệ?

Clearview AI được thành lập vào năm 2017, bởi Richard Schwartz và Hoan Ton-That – CEO hiện tại của công ty. Đồng thời, công ty cũng có nhiều nhà đầu tư, trong đó bao gồm Peter Thiel và nhà sáng lập của AngelList – ông Naval Ravikant. Trên thực tế, công nghệ của Clearview lại khá đơn giản: thuật toán nhận diện của hãng sẽ so sánh ảnh của một người từ camera an ninh với ảnh trong một bộ dữ liệu có sẵn, rồi từ đó tìm danh tính người này. Hiện tại, ứng dụng của Clearview đang chủ yếu được giới thiệu cho các đơn vị hành pháp, trong đó người dùng sẽ có thể chụp và tải ảnh của một người khác, và từ đó xem hết tất cả các ảnh công khai cùng đường link dẫn tới các ảnh đó của người này. Điều này có nghĩa là, miễn là bạn bị camera ghi lại một cách công khai, thì đơn vị hành pháp sẽ có thể tìm kiếm mọi thông tin trên mạng của bạn – một hành vi xâm phạm quyền riêng tư rất nghiêm trọng.

Tuy nhiên, vấn đề thực chất không nằm ở công nghệ, mà nằm ở phương thức được Clearview sử dụng khi thu thập bộ dữ liệu gồm 3 tỷ hình ảnh của mình – mạng xã hội. Cụ thể, trước khi bị phát hiện, công ty này đã liên tục lấy ảnh từ Twitter, Facebook, Venmo, và hàng triệu trang web khác trong suốt nhiều năm. Thậm chí, gần đây Twitter còn gửi thư cảnh báo tới Clearview về hành vi này, trong đó nêu rõ, các hoạt động của Clearview đang vi phạm điều khoản của Twitter, và công ty này cần ngay lập tức ngừng thu thập hình ảnh trên mạng xã hội này.

Thư cảnh báo từ Google và Youtube cũng có những lời lẽ tương tự. Trong một phát biểu với truyền thông vào hồi tháng 2, phát ngôn viên của Youtube, Alex Joseph đã nói: “Điều khoản Dịch vụ của YouTube công khai ngăn cấm các hành vi thu thập dữ liệu mà có thể được sử dụng trong quy trình nhận diện. Clearview thì lại công khai thừa nhận đã thực hiện hành vi này, và vì vậy, chúng tôi đã cảnh cáo họ.”

Facebook và Venmo cũng không ngoại lệ trong việc cảnh cáo Clearview. Tuy nhiên, báo chí cũng chỉ ra rằng, Peter Thiel, người đã đầu tư 200.000 USD vào startup theo dõi này, lại thuộc ban điều hành của Facebook.

Tuy nhiên, CEO của Clearview, ông Hoan Ton-That, lại chẳng mảy may trước những cảnh cáo pháp lý này. Cụ thể, trong một buổi phỏng vấn với CBS, ông đã bày tỏ rằng, Tu chánh án số 1 cho phép việc lấy dữ liệu trên mạng của mọi người. “Hệ thống của chúng tôi được xây dựng để chỉ lấy và lưu trữ các hình ảnh trên công khai trên mạng,” ông nói. “Bạn cần nhớ rằng, Clearview AI chỉ được sử dụng cho tác vụ điều tra, chứ không phải là một hệ thống theo dõi 24/7.”

Và cho dù vấp phải nhiều phản đối từ các công ty công nghệ, Clearview AI vẫn được sử dụng bình thường bởi các đơn vị hành pháp. Trong đó, theo Clearview, có tới hơn 600 đơn vị cảnh sát trên khắp nước Mỹ – bao gồm cả FBI và DHS – là đang sử dụng thường xuyên dịch vụ của công ty này.

Theo đài CBS, Sở Cảnh sát Chicago (CPD) đã bỏ ra 50.000 USD để sử dụng hệ thống này trong 2 năm. Tuy nhiên, một phát ngôn viên của sở lại khẳng định rằng, chỉ có 30 cán bộ là được sử dụng hệ thống này, và nó cũng không được sử dụng để theo dõi trực tiếp như tại London.

Cụ thể, CPD đã ra thông cáo như sau: “CPD sử dụng một công cụ ghép mặt để xem xét bộ dữ liệu ảnh chụp tội phạm, cũng như các thông tin công khai trong quá trình điều tra các sự kiện hoặc hành vi phạm tội.”

Tuy nhiên, dù CPD luôn khẳng định sẽ không lạm dụng hệ thống này, thì chính bộ phận marketing của Clearview lại ủng hộ các sở cảnh sát làm như vậy: Email của hãng gửi tới Sở Cảnh sát Green Bay vào hồi tháng 11 đã khuyến khích các cán bộ cảnh sát thử tìm bản thân, người thân, hay thậm chí là người nổi tiếng trên bộ dữ liệu này.

“Bạn đã thử chụp selfie với Clearview chưa?” trong email viết. “Đó là cách tốt nhất để nhanh chóng biết về năng lực trên thời gian thực của Clearview. Hãy thử với bạn bè hoặc gia đình. Hoặc với người nổi tiếng như Joe Montana và Geogre Clooney chẳng hạn?”

Email còn viết: “Tài khoản Clearview của bạn có thể thoải mái tìm kiếm. Vì vậy, hãy sử dụng tính năng này một cách tự do.”

Tất nhiên, hệ thống này cũng không hoàn toàn là xấu. Với nó, các đơn vị hành pháp đã có thể tìm thấy những nghi phạm ăn cắp, giả mạo, cũng như lừa đảo tín dụng. Ngoài ra, theo Clearview, ứng dụng của hãng cũng đã giúp Sở Cảnh sát New York thành công định vị một nghi phạm khủng bố vào hồi tháng 8, tuy rằng thông tin này sau đó đã bị bác bỏ bởi Sở. Đồng thời, Clearview cũng liên tục thành công tìm kiếm các nạn nhân mại dâm trẻ em. Song, những lợi ích này đều có thể bị lợi dụng ngược lại.

Việc sử dụng Clearview để xác định vị trí trẻ vị thành niên, cho dù có mục đích tốt tới đâu, cũng đang vi phạm nặng nề về quyền bảo mật và an toàn dữ liệu. Do cảnh sát sẽ phải tải các hình ảnh điều tra lên máy chủ của Clearview, nên công ty này hoàn toàn có thể thu thập hàng loạt dữ liệu nhạy cảm về các nạn nhân của nạn mại dâm/lạm dụng tình dục trẻ em. Và trong bối cảnh mức độ bảo mật của công ty này còn chưa được kiểm chứng, kiểm soát, hay chứng thực, thì công chúng hoàn toàn không thể biết được liệu các dữ liệu này có an toàn trong trường hợp hệ thống của Clearview bị tấn công hay không.

Ngoài ra, hệ thống này cũng có cùng những điểm yếu của các công nghệ nhận diện khác: tính chính xác của nó giảm đáng kể khi áp dụng với người có da tối màu. Điều này đã đi ngược lại với khẳng định của công ty rằng, nó luôn chính xác với mọi đối tượng. Để chứng minh điều này, công ty đã trích dẫn một báo cáo của hội đồng 3 người cho dự án với Sở Cảnh sát Bắc Miami vào tháng 10 năm 2019, cụ thể là như sau: “Hội đồng Kiểm chứng Độc lập đã xác định rằng, hệ thống của Clearview có độ chính xác 100%, cho kết quả nhận diện tức thì và chính xác cho mọi hình ảnh trong bài kiểm chứng. Độ chính xác cũng đồng đều trong nhiều nhóm chủng tộc và nhân khẩu học khác nhau.” Được biết, nghiên cứu này sử dụng cùng phương thức với bài kiểm tra hệ thống Rekognition của Amazon, được thực hiện vào năm 2018 bởi ACLU. Tuy nhiên, ALCU đã phản đối công bố này, đồng thời chia sẻ rằng, cả 3 người thuộc hội đồng đều chưa từng có bất cứ kinh nghiệm gì trong việc đánh giá các hệ thống nhận diện gương mặt.

Công nghệ của Clearview khiến chính phủ có thể theo dõi chúng ta từ bất cứ đâu, phát hiện người tham gia biểu tình, họp mặt công giáo, và rất nhiều hành vi khác nữa,” công tố viên Jacob Snow, thuộc ACLU Nam California chia sẻ với báo chí. “Cho dù việc nhận diện có đúng hay không, thì công nghệ này, khi nằm trong tay các đơn vị hành pháp, sẽ đặt dấu chấm hết cho thứ mà chúng ta gọi là, quyền bảo mật cá nhân.”

Và việc cảnh sát lạm dụng quyền theo dõi cho mục đích cá nhân cũng không hề mới. Vào năm 2016, một cuộc điều tra đã phát hiện rằng, cảnh sát trên khắp nước Mỹ thường xuyên sử dụng các hệ thống dữ liệu an ninh để tìm kiếm thông tin về các đối tượng hoàn toàn không liên quan tới việc điều tra, hay thậm chí là để theo dõi bạn gái cũ. Vào năm 2013, một cảnh sát bang Florida đã dùng hệ thống để lấy thông tin cá nhân của một nhân viên ngân hàng mà anh thích. Còn vào năm 2009, thì một bộ đôi đặc nhiệm FBI đã theo dõi phòng thử đồ của phụ nữ, và quan sát 2 thiếu niên thử váy. Và những vụ lạm dụng trên cũng không xảy ra đơn lẻ. Trong năm Clearview được thành lập, cảnh sát thủ đô Washington đã cố gắng ép Facebook công khai hồ sơ cá nhân của hơn 230 người biểu tình tại lễ nhậm chức tổng thống. Và với Clearview, thì họ sẽ thậm chí không cần tới Facebook, bởi lẽ, Clearview đã thay họ lấy ảnh từ mạng xã hội này.

Khả năng bị lạm dụng để vũ khí hóa công nghệ này là quá to lớn,” đồng Viện trưởng Viện Luật Công nghệ cao tại Đại học Santa Clare, ông Eric Goldman, đã khẳng định với báo chí. “Thử tưởng tượng mà xem, một cán bộ hành pháp có thể dùng nó để theo dõi người anh ta thích, hoặc một chính phủ nước ngoài dùng nó để moi móc bí mật của các cá nhân, từ đó đe dọa và bỏ tù họ.”

Các nhà đầu tư cho Clearview lại không mấy quan tâm tới các khả năng lạm dụng này. Cụ thể, David Scalzo – nhà sáng lập Kirenga Partners, một trong những nhà đầu tư đầu tiên của Clearview đã nói: “Cá nhân tôi thấy là, thông tin luôn luôn nhiều lên, và vì vậy, chúng ta sẽ không bao giờ hoàn toàn được bảo mật. Luật pháp phải quyết định cái gì là sai trái, và bạn không thể ngăn cấm công nghệ. Nó có thể dẫn đến một tương lai u ám, nhưng mà bạn thật sự không thể cấm nó.”

May mắn thay, những vấn đề này lại đang dần nhận được sự quan tâm từ các đại biểu được bầu cử. Một số thành phố tại California, bao gồm San Francisco, Oakland và Alameda, đều đã thông qua việc tạm ngừng sử dụng công nghệ này trong các đơn vị hành pháp. Đồng thời, tại các bang California, New Hampshire và Oregon đã xuất hiện các luật hạn chế những hành vi tương tự trong tương lai gần.

Nghị sĩ Edward J. Markey (D-MA) mới đây cũng đã chú ý đên Clearview. Vào hồi tháng 1, ông đã gửi thư cho CEO Ton-That, trong đó khẳng định rằng, “Sản phẩm của Clearview có vẻ mang lại rất nhiều rủi ro về quyền bảo mật, và tôi vô cùng quan ngại rằng, nó có thể phá vỡ kỳ vọng của người dân Mỹ rằng, họ có thể di chuyển, tụ tập, và ra đường công khai mà không bị định danh.” Thư của ông cũng bao gồm 14 câu hỏi để Ton-That trả lời trước ngày 12 tháng 2.

Tuy rằng chưa thể biết liệu Clearview có hành động gì trước các áp lực về mặt pháp lý cũng như thi pháp tại Mỹ hay không, song, ta vẫn không nên kỳ vọng quá nhiều. Công ty này hiện còn đang cố gắng để cung cấp dịch vụ trên 22 quốc gia khác trên thế giới, trong đó bao gồm nhiều quốc gia từng bị cáo buộc về các hành vi vi phạm quyền con người, như các Tiểu Vương quốc Ả rập Thống nhất, Qatar và Singapore, cũng như các quốc gia đã nhiều năm bị ảnh hưởng nặng nề về chính trị và xã hội, như Brazil và Columbia. Ngoài ra, Clearview cũng đang nhắm tới một số quốc gia Châu Âu như Ý, Hi Lạp, và Hà Lan.

Chúng ta sẽ sớm bị theo dõi, ghi lại, và định danh mỗi khi ra đường. Và một khi chính phủ có thể biết được vị trí của mọi người vào mọi lúc, thì quyền tự do của của con người cũng sẽ hoàn toàn không thể khôi phục.

FPT TechInsight
Theo engadget

Tin liên quan: