Một người đàn ông tại bang Florida đã đệ đơn kiện cơ quan cảnh sát sau khi bị hệ thống nhận dạng khuôn mặt sử dụng trí tuệ nhân tạo (AI) xác định nhầm là nghi phạm trong một vụ dụ dỗ trẻ em. Việc nhận dạng nhầm dẫn đến việc ông bị bắt giữ và giam qua đêm dù có bằng chứng ngoại phạm.
Vụ việc xảy ra từ tháng 11/2023 tại một cửa hàng McDonald's ở thành phố Jacksonville Beach, bang Florida. Theo cảnh sát, một người đàn ông đã tiếp cận một bé gái 12 tuổi và cố gắng dụ dỗ em rời khỏi bố mẹ. Trong quá trình điều tra, hình ảnh nghi phạm được trích xuất từ camera giám sát đã được đưa vào hệ thống nhận dạng khuôn mặt FACESNXT để phân tích.
Kết quả cho thấy Richard Dillon, 52 tuổi, có mức độ trùng khớp khuôn mặt lên tới 93% với người xuất hiện trong đoạn video. Dựa trên kết quả này, cảnh sát đã tập trung điều tra Richard dù ông khẳng định chưa từng đến Jacksonville Beach và ở cách hiện trường hơn 480 km vào thời điểm xảy ra vụ việc.
AI xác định trùng khớp khuôn mặt 93%
Theo đơn kiện được nộp ngày 10/6, Richard cho biết ông từng nhận được cuộc gọi từ cảnh sát vào cuối năm 2023 để thẩm vấn về vụ việc. Trong cuộc trao đổi, ông nhiều lần khẳng định mình vô tội và chỉ ra những vết sẹo rõ ràng trên khuôn mặt do từng phẫu thuật ung thư da, trong khi người xuất hiện trong video không có các đặc điểm tương tự.
Tuy nhiên, đến tháng 8/2024, Richard vẫn bị bắt tại nhà riêng. Ông bị giam giữ qua đêm, phải vay tiền và thế chấp giấy tờ xe để nộp tiền bảo lãnh. Hai tháng sau, toàn bộ cáo buộc được hủy bỏ khi cơ quan chức năng xác định ông không liên quan đến vụ việc. Richard cho biết trải nghiệm này đã để lại những ảnh hưởng tâm lý nặng nề. Ông luôn lo sợ bị người khác nhìn nhận như một tội phạm và hạn chế tiếp xúc với trẻ em vì sợ bị hiểu lầm.
Ảnh minh họa
Kết quả nhận dạng gây tranh cãi
Đơn kiện cáo buộc cảnh sát đã quá phụ thuộc vào kết quả từ hệ thống AI thay vì tiến hành xác minh độc lập các bằng chứng. Theo hồ sơ vụ việc, hình ảnh được dùng để nhận dạng nghi phạm thực chất là ảnh chụp lại màn hình video giám sát bằng điện thoại di động. Những hình ảnh này có góc chụp lệch, chất lượng thấp và một phần khuôn mặt bị che khuất bởi bóng tối.
Các chuyên gia về quyền riêng tư và công nghệ nhận định vụ việc cho thấy những rủi ro khi cơ quan thực thi pháp luật sử dụng AI như một công cụ xác định danh tính. Nathan Freed Wessler, Phó giám đốc Dự án Tự do Ngôn luận, Quyền riêng tư và Công nghệ thuộc ACLU, cho rằng kết quả từ phần mềm nhận dạng khuôn mặt chỉ nên được xem là một đầu mối điều tra chứ không phải bằng chứng khẳng định tuyệt đối.
Theo Trung tâm Quyền riêng tư và Công nghệ thuộc Trường Luật Georgetown, cơ sở dữ liệu nhận dạng khuôn mặt tại Mỹ hiện lưu trữ hình ảnh của khoảng 117 triệu công dân. Trong bối cảnh công nghệ này ngày càng được sử dụng rộng rãi, vụ kiện của Richard Dillon được xem là một trong những nỗ lực mới nhất nhằm yêu cầu thiết lập các giới hạn và cơ chế giám sát chặt chẽ hơn đối với việc ứng dụng AI trong hoạt động điều tra hình sự.
Richard cho biết ông hy vọng vụ kiện không chỉ giúp mình đòi lại công lý mà còn góp phần cảnh báo về những hậu quả nghiêm trọng có thể xảy ra khi con người đặt niềm tin quá lớn vào các hệ thống nhận dạng khuôn mặt bằng AI.
Bình luận