Facebook đang thử nghiệm một tính năng mới ở Úc để chống lại nạn trả thù tình bằng ảnh khiêu dâm trên nền tảng này.

Chương trình này kêu gọi người dùng tự nguyện tải lên các hình ảnh nóng của chính mình vào mạng xã hội Facebook theo một quy trình xác định, từ đó Facebook sẽ nhận diện và phân tích hình ảnh đó dưới dạng một mã hash và gắn cờ nó như là một “hình ảnh thân mật không mang tính khiêu dâm” trên mạng xã hội.

Theo một email từ một người phát ngôn của Facebook cho biết, một thành viên trong nhóm hoạt động cộng đồng của Facebook sau đó sẽ kiểm chứng rằng hình ảnh đó vi phạm các chính sách của công ty. Những hình ảnh này sẽ được làm mờ đi và chỉ một số ít người được đào tạo đặc biệt trước đó của Facebook là có thể truy cập được chúng.

Phần còn lại của quá trình này sau đó được thực hiện tự động. Facebook sẽ tạo ra một loại mã “băm” của hình ảnh (hash), có tác dụng như một phác hoạ hoặc dấu vân tay độc quyền của tập tin đó. Nếu một người dùng khác tìm cách đăng tải lên hình ảnh này lên Facebook hoặc Instagram, Facebook sẽ đối chiếu nó với các mã băm đã lưu trữ và ngăn không cho hình ảnh được phát tán nếu nó đã được đánh dấu.

Mặt khác, Facebook cũng cam kết sẽ không lưu trữ các bức ảnh nhạy cảm này mà chỉ lưu trữ mã băm của chúng. Trên thực tế, họ có lưu trữ hình ảnh (đã được làm mờ) trong một khoảng thời gian, tuy nhiên không rõ là bao lâu.

Người phát ngôn của mạng xã hội này cho biết mặc dù các bức ảnh này được lưu trữ nhưng rất ít người có thẩm quyền là có thể truy cập được chúng. Sau khi Facebook loại bỏ các hình ảnh gốc, họ sẽ chỉ giữ lại các mã băm. Facebook cũng không thể tái tạo lại hình ảnh dựa trên những thông tin mà họ đã từng giữ.

Facebook chắc chắn phải dùng đến yếu tố con người để đánh giá như là một phần của quá trình này để ngăn chặn các hình ảnh hợp pháp khỏi bị vô tình gắn thẻ nhầm. Theo những nghiên cứu gần đây cho thấy, thuật toán nhận dạng hình ảnh vẫn rất dễ bị qua mặt.

Tiếc là tính năng mới chỉ có tác dụng trên Facebook, chứ không thể ngăn chặn việc phát tán ở những nơi khác trên internet

Theo Motherboard

BÌNH LUẬN

Please enter your comment!
Please enter your name here