Trí tuệ nhân tạo ứng dụng trong phòng, chống tội phạm như thế nào?

Chia sẻ Facebook

Khi bản thân dữ liệu cũ chính là vấn đề

Dữ liệu trong quá khứ về tội phạm có thể được sử dụng làm tài liệu cho các thuật toán máy học đưa ra các dự báo về tội phạm trong tương lai, từ đó cảnh sát có thể phân bổ nguồn lực phù hợp theo các dự đoán này. Tuy nhiên bản thân dữ liệu này cũng chính là vấn đề, khi chứa nhiều sự thiên lệch và do đó, làm sâu sắc thêm sự bất bình đẳng.

Từ những năm 1990, các sở cảnh sát tại Mỹ đã áp dụng phương pháp phân tích dữ liệu để phân bổ nguồn lực xuống địa bàn “có nguy cơ cao”. Tuy nhiên, thực tế lại cho thấy, nếu thêm nhiều cảnh sát được điều động tới một khu vực nhất định, thì nhiều khả năng nhiều tội phạm sẽ xuất hiện ở đó. Về cơ bản, đây như một vòng lặp phản hồi tạo ra cái nhìn sai lệch về nơi thực sự nhiều tội phạm đang diễn ra.

Không chỉ vậy, việc sử dụng dữ liệu quá khứ, dù các dữ liệu này có thể cho biết một số chỉ báo về hành vi tương lai, nhưng lại không tính đến khái niệm và khả năng phục hồi sau đó.

Năm 2019, chính phủ Hà Lan thí điểm hệ thống SyRI (hệ thống cảnh báo rủi ro), sử dụng các dữ liệu sẵn có như thuế, bảo hiểm, cư trú, giáo dục… để dự báo các đối tượng có khả năng gian lận về phúc lợi xã hội. Tuy nhiên, dự án này đã bị đình chỉ sau 1 năm, do nhận nhiều chỉ trích vì sử dụng các thông số và dữ liệu đặc biệt nhắm vào người thu nhập thấp và dân tộc thiểu số.

Tương tự, Roermond, thành phố Đông Nam Hà Lan thử nghiệm dự án “Cảm biến”, sử dụng camera và cảm biến thu thập dữ liệu phương tiện di chuyển quanh khu vực, sau đó dùng thuật toán xác định các đối tượng có xác suất cao là móc túi và ăn cắp để thông báo tới cảnh sát và cảnh báo mọi người. Thế nhưng, dự án không chứng minh được hiệu quả khi thường bỏ qua các cá nhân người bản xứ, thay vào đó chủ yếu nhằm vào người Đông Âu, đối tượng mà cảnh sát Hà Lan cho rằng chiếm phần lớn trong các vụ trộm cắp và móc túi tại quốc gia này.

“Các dự báo này không chỉ phản ánh sự bất bình đẳng đang xảy ra, mà còn làm trầm trọng thêm nó”, Marc Schuilenburg, giáo sư về tội phạm học tại Đại học Vrije Amsterdam lập luận.

Hoài nghi về độ chính xác của các hệ thống AI

Năm 2018, sở cảnh sát London sử dụng công nghệ nhận diện khuôn mặt để xác định 104 người được cho là có hành vi phạm tội. Thế nhưng, chỉ 2 trong số 104 trường hợp là chính xác.

“Từ thời điểm nhân viên cảnh sát xác định sai nghi phạm cho đến lúc họ nhận ra bắt nhầm người thì hành động cưỡng chế đã diễn ra: nghi phạm bị bắt, đưa đến đồn cảnh sát và bị giam giữ. Loạt hành động này gây ra sự sợ hãi và hậu quả không thể đảo ngược”, Edward Santow, phóng viên của The Australian Quarterly cho biết.

Ngoài ra, các hệ thống nhận diện khuôn mặt cũng cho thấy sự phân biệt đối với người da màu. Ví dụ, thuật toán của Facebook đã từng dán nhãn người da đen là “động vật linh trưởng”, một lỗi sai không thể chấp nhận.

Công nghệ nhận diện khuôn mặt vẫn đang phát triển, các thuật toán ngày càng hiệu quả trong phân tích hình ảnh chất lượng thấp và xác định những khuôn mặt già đi, thậm chí là nhận diện từ góc nghiêng. Dù vậy, Patrick Grother, chuyên gia tại Image Group, cho biết “sai số vẫn còn tương đối” và “chất lượng hình ảnh là một vấn đề”. Trong phần lớn các thí nghiệm sử dụng hình ảnh chất lượng cao, thuật toán tốt nhất vẫn sai tới 20%.

Sự thiếu hụt giám sát của con người đối với các quá trình tự động

Khi các hệ thống AI ngày càng dựa nhiều vào học sâu (deep learning), chúng càng trở nên tự chủ hơn và khó có thể nắm bắt. Việc tạo ra “những hộp đen” mà người dùng chỉ biết kết quả thay vì nắm rõ quy trình tạo ra kết quả đó, có thể gây ra những khó khăn trong xác định trách nhiệm cụ thể khi xảy ra oan sai.

Điều này sẽ tạo ra những “khoảng trống trách nhiệm” khi cả “cơ quan và các nhân viên không biết hoặc không tham gia trực tiếp vào các quyết định cụ thể gây ra hậu quả nghiêm trọng”, theo Kate Crawford và Jason Schultz, tác giả của báo cáo “Hệ thống AI và các nhân tố nhà nước”.

Các công cụ này có thể được xây dựng từ nhiều nguồn, từ trong các cơ quan chính phủ, phát triển bởi các nhà thầu hay thậm chí được tài trợ. Và khi hệ thống gặp lỗi, sẽ rất khó để xác định ai là người phải chịu trách nhiệm chính.

Một nghiên cứu của Đại học Columbia, Viện AI Now, Đại học New York cùng tổ chức Biên giới điện tử về việc sử dụng AI trong lĩnh vực thực thi pháp luật tại Mỹ cho thấy: “Các hệ thống AI được triển khai mà không hề có sự giám sát, hỗ trợ và biện pháp bảo vệ cụ thể cho những đối tượng bị đánh giá”.

Không thể phủ nhận công nghệ AI đang len lỏi vào từng ngóc ngách của cuộc sống con người, nhưng ở trong những lĩnh vực hành pháp, nơi số phận của một cá nhân cụ thể được đưa ra mổ xẻ, những dữ liệu chỉ đúng trong quá khứ và mang nặng thiên kiến của chính con người, được sử dụng bởi hệ thống AI có thể tạo ra những hậu quả nghiêm trọng không thể bù đắp.

Vinh Ngô

Gửi bình luận

Bài viết cùng chuyên mục

Mỹ tung bí kíp hòng bắt kịp Trung Quốc trong cuộc đua xe điện

icon 0

Ngày 31/3, Tổng thống Mỹ Joe Biden kích hoạt Đạo luật Sản xuất Quốc phòng (DPA), tạo điều kiện cho các doanh nghiệp Mỹ cạnh tranh tốt hơn với Trung Quốc trong cuộc đua thống lĩnh thị trường xe điện.

Triệu hồi xe máy điện Dat Bike Weaver 200 vì lỗi kết cấu khungicon0Có 800 chiếc xe máy điện Dat Bike Weaver 200 nằm trong diện triệu hồi để khắc phục lỗi liên quan đến kết cấu khung.

Dịch vụ giao hàng bằng xe máy điện ở Việt Nam icon 0

Một số hãng giao vận tại Việt Nam đã bắt đầu triển khai dịch vụ giao hàng bằng xe máy điện để thay thế dần xe xăng với mục tiêu giảm lượng khí thải.

Thị trường ô tô vẫn tăng trưởng trong tháng Ngâu icon 0

Thị trường ô tô Việt Nam vẫn ghi nhận tăng trưởng dù trùng với tháng Ngâu, sức mua không sụt giảm báo hiệu 'con sóng' vào dịp cuối năm.

Honda sẽ ra mắt 10 mẫu xe máy điện, tham vọng bán hơn 1 triệu xe

icon 0

Honda tiết lộ kế hoạch ra mắt 10 mẫu xe máy điện trên toàn cầu đến năm 2025 và đặt mục tiêu tăng doanh số hàng năm của các mẫu xe điện lên 1 triệu chiếc.

Doanh số xe máy Honda tăng gần gấp đôi năm ngoáiicon0Doanh số xe máy Honda tăng trưởng mạnh khi hãng giải quyết được khó khăn về nguồn cung linh kiện.

VinFast đã giao gần hết đơn hàng xe xăng icon 0

VinFast cho hay, số lượng đơn hàng tồn của ba dòng xe xăng còn ít. Dừng bán xe xăng trong khi xe điện giao đến tay khách còn nhỏ giọt do thiếu nguồn cung linh kiện, khiến cho doanh số của hãng sụt giảm mạnh.

Vay thêm 60 triệu USD để đấu lại Grab và Gojek, Be Group đang làm ăn ra sao?icon0Vay thêm 60 triệu USD để đấu lại Grab và Gojek, Be Group đang làm ăn ra sao?

Việt Nam sẽ xuất khẩu xe điện thông minh vào tháng 11 tới

icon 0

Sáng 10/9, những chiếc ô tô điện VinFast VF8 đầu tiên đã xuất xưởng và được giao đến tay khách hàng tại Việt Nam. Dự kiến, lô xe VF 8 đầu tiên sẽ xuất khẩu tới các thị trường quốc tế vào tháng 11 tới.

Giá Honda SH, Vision sẽ hạ nhiệt? icon 0

Nguồn cung xe máy dồi dào trở lại, khi lượng xe sản xuất trong nước tăng lên. Nhiều người kỳ vọng tình trạng khan hàng được cải thiện, có thể tiếp tục hạ nhiệt giá bán các mẫu xe tay ga như Honda SH, Vision...

XEM THÊM BÀI VIẾT

Chia sẻ Facebook