Chuỗi cửa hàng Rite Aid bí mật triển khai phần mềm nhận diện khuôn mặt ở hàng trăm địa điểm tại Mỹ suốt 8 năm mà không bị phát hiện.
Điều tra được Reuters công bố hôm 28/7 cho thấy, phần mềm nhận diện khuôn mặt được chuỗi cửa hàng dược phẩm Rite Aid triển khai trên mạng lưới camera an ninh từ nhiều năm qua. Hãng này chỉ ngừng sử dụng cách đây không lâu sau “một cuộc thảo luận quy mô lớn trong ngành công nghiệp”, trong đó bàn về những lo ngại xoay quanh vấn đề bảo đảm riêng tư và phân biệt chủng tộc đi kèm với công nghệ nhận diện khuôn mặt.
Rite Aid ban đầu bảo vệ biện pháp dùng phần mềm nhận diện khuôn mặt, cho rằng nó không liên quan tới vấn đề chủng tộc. Tuy nhiên, điều tra cho thấy điều này không hoàn toàn chính xác. “Trong những khu vực có người da màu chiếm đa số, đặc biệt là cư dân gốc Phi hoặc Latinh, các cửa hàng được trang bị phần mềm nhận diện khuôn mặt nhiều gấp ba lần những nơi khác”, báo cáo điều tra viết.
Camera an ninh tại một cửa hàng của Rite Aid. Ảnh: Reuters.
Rite Aid sau đó khẳng định đã vô hiệu hóa các máy quay an ninh. “Quyết định được đưa ra sau cuộc thảo luận trong ngành. Nhiều công ty công nghệ lớn dường như đã cắt giảm hoặc xem xét lại ứng dụng này, nhất là khi những yếu tố không chắc chắn ngày càng gia tăng”, tập đoàn dược phẩm Mỹ cho hay.
Lo ngại về thiếu kiểm soát phần mềm nhận diện khuôn mặt đang ngày càng lớn trong những năm nay, đặc biệt là sau nhưng nghiên cứu cho thấy ứng dụng này có hàng loạt lỗ hổng và nhiều khả năng nhận diện sai danh tính và giới tính người da màu.
Không ít công ty đã công khai từ bỏ nhận diện khuôn mặt theo cách này hay cách khác. IBM cho biết không còn đầu tư hay phát triển công nghệ, trong khi Amazon và Microsoft thông báo đã ngừng hợp đồng phát triển phần mềm nhận diện khuôn mặt cho lực lượng hành pháp cho tới khi quốc hội Mỹ điều phối việc mua bán và sử dụng chúng. Nhiều bang và thành phố cũng bắt đầu cấm cảnh sát dùng công nghệ này.
Nhiều chuyên gia và nhà lập pháp lo ngại công nghệ này được sử dụng bí mật mà không được giám sát. Những công ty như Clearview AI đã cung cấp cơ sở dữ liệu và công cụ tìm kiếm rất mạnh cho nhiều cơ quan hành pháp và doanh nghiệp tư nhân, sau đó trở thành gương mặt đại diện cho những mối đe dọa mà nhận diện khuôn mặt đặt ra với xã hội. Giờ đây, ngay cả những chuỗi cửa hàng quen thuộc với người Mỹ như Rite Aid cũng bí mật dùng công nghệ này.
Một trong những điều đáng báo động trong vụ Rite Aid là họ dùng sản phẩm của DeepCam, doanh nghiệp có liên hệ với một công ty Trung Quốc. Chuỗi cửa hàng này trước đó dùng dịch vụ của FaceFirst, nhà phát triển không sử dụng trí tuệ nhân tạo cho tới năm 2017 và thường xuyên nhận diện sai đối tượng, chủ yếu là người da màu, dựa trên những hình ảnh mờ mịt do máy quay thu được.
Mục tiêu của Rite Aid là cảnh báo nhân viên an ninh khi có người mang tiền án tiền sự vào cửa hàng, cho phép họ yêu cầu người này rời đi nhằm ngăn tình trạng trộm cắp hoặc tội phạm. Tuy nhiên, nhiều cựu nhân viên và quản lý thừa nhận hệ thống này cũng được dùng để lập hồ sơ khách hàng dựa trên chủng tộc.
Rite Aid không cho biết cửa hàng nào được trang bị phần mềm nhận diện khuôn mặt, nhưng các ký giả Reuters phát hiện chúng ở 33 trong 85 cửa hàng ở New York và Los Angeles. Tập đoàn dược phẩm khẳng định đã thông báo với khách hàng rằng họ sẽ bị quét khuôn mặt khi vào cửa hàng, nhưng kết quả điều tra cho thấy biển báo hiệu không xuất hiện ở ít nhất một phần ba số cửa hàng có hệ thống nhận diện.
Điệp Anh (theo Reuters)
