24 GIỜ QUA

Nguyễn Thuỳ Dương chia sẻ
12:06 16-06-2017

Facebook tiết lộ các biện pháp để loại bỏ nội dung khủng bố

Facebook đã công bố chi tiết các bước để thực hiện loại bỏ những nội dung liên quan đến khủng bố.

Động thái này diễn ra sau khi áp lực ngày càng tăng từ các chính phủ cho các công ty công nghệ để đưa ra nhiều hơn các tài liệu tuyên truyền khủng bố trên mạng xã hội.
Trong một loạt bài đăng trên blog của các nhân vật cấp cao và một cuộc phỏng vấn với BBC, Facebook cho biết họ muốn mở rộng hơn về hệ thống quản lý, tuyên truyền chống khủng bố
Công ty nói với BBC rằng họ đang sử dụng trí thông minh nhân tạo để phát hiện hình ảnh, video và văn bản liên quan đến khủng bố cũng như các nhóm tài khoản giả mạo.
"Chúng tôi muốn tìm thấy nội dung khủng bố ngay lập tức, trước khi mọi người trong cộng đồng của chúng tôi nhìn thấy nó," họ nói.
Không có không gian an toàn
Khả năng của Nhà nước Hồi giáo đã sử dụng công nghệ để tập trung và lôi kéo mọi người đã đặt ra những câu hỏi lớn cho các công ty công nghệ lớn.
Họ đã bị chỉ trích vì đã tạo nền tảng để truyền bá ý thức hệ cực đoan và truyền cảm hứng cho mọi người thực hiện các hành động bạo lực.
Các chính phủ, và Anh Quốc nói riêng, đang đẩy mạnh hành động trong những tháng gần đây, và khắp châu Âu nói chuyện đã được tiến hành theo luật pháp hoặc quy định.

facebook-tiet-lo-cac-bien-phap-de-loai-bo-noi-dung-khung-bo-ZYmVj9Y79PfeuR8.jpg

Hình Ảnh

Các chú thích ảnh chụp cho biết chính phủ nên cân nhắc về việc cho phép làm web trả tiền để giúp cảnh sát kiểm soát được những gì mà mọi người đăng.

Đầu tuần này tại Paris, thủ tướng Anh và tổng thống Pháp đã phát động một chiến dịch chung để đảm bảo internet không thể được sử dụng như một không gian an toàn cho bọn khủng bố và bọn tội phạm.

Họ cho biết, trong số những vấn đề đang được xem xét, họ đã tạo ra trách nhiệm pháp lý mới cho các công ty nếu họ không thể loại bỏ một số nội dung nhất định, bao gồm cả hình thức phạt tiền.

Facebook nói họ cam kết tìm ra những cách mới để tìm và loại bỏ tài liệu khủng bố - và bây giờ họ sẽ hành động luôn thay vì ngồi tuyên bố về bất cứ điều gì

Monika Bickert, giám đốc quản lý chính sách toàn cầu tại Facebook, nói với BBC: "Chúng tôi muốn hoà nhập với cộng đồng mạng của chúng tôi về những gì chúng tôi đang cố gắng làm để đảm bảo rằng Facebook là một môi trường thực sự thù địch cho các nhóm khủng bố."

Một lời chỉ trích mà các quan chức an ninh Anh đưa ra là về mức độ mà các công ty dựa vào người khác để báo cáo nội dung cực đoan hơn là hành động chủ động.

Facebook trước đó đã thông báo rằng họ sẽ bổ sung thêm 3.000 nhân viên để xem lại nội dung được người dùng đánh dấu.

Nhưng Facebook cũng nói rằng họ đã tự tìm ra và loại bỏ hơn một nửa số tài khoản mà họ cho là sử dụng để hỗ trợ khủng bố

Họ cũng nói rằng họ cũng đang sử dụng công nghệ mới để nâng cao tính cải chủ động của Facebook

"Chúng tôi biết chúng tôi có thể làm tốt hơn trong việc sử dụng công nghệ - và đặc biệt là trí tuệ nhân tạo - để ngăn chặn sự lan truyền nội dung khủng bố trên Facebook", công ty cho biết.

facebook-tiet-lo-cac-bien-phap-de-loai-bo-noi-dung-khung-bo-tfX4PPEjxzb7CBv.jpg

 

Phân tích tự động

Một khía cạnh của công nghệ mới mà Facebook nói đến lần đầu tiên là kết hợp với hình ảnh.

Nếu ai đó cố gắng tải lên hình ảnh hoặc video khủng bố, hệ thống sẽ xem xét liệu nội dung này có phù hợp với nội dung cực đoan đã biết trước đó để ngăn chặn điều đó xảy ra ngay từ đầu.

Một nghiên cứu thứ hai đang thử nghiệm với AI để hiểu thêm về các văn bản có thể chứa  nội dung ủng hộ chủ nghĩa khủng bố hay không.

Đây là hệ thống phân tích văn bản đã bị xóa trước đây để ủng hộ hoặc hỗ trợ một nhóm như IS và cố gắng tìm ra các tín hiệu dựa trên văn bản rằng nội dung đó có thể là tuyên truyền khủng bố.

Phân tích dẫn tới một thuật toán nhằm phát hiện các bài viết tương tự.

Công ty cũng cho biết họ cũng đang sử dụng thuật toán để phát hiện "nhóm" tài khoản hoặc hình ảnh liên quan đến hỗ trợ khủng bố.

Điều này sẽ liên quan đến việc tìm kiếm các tín hiệu như liệu một tài khoản có phải là bạn với một số lượng lớn các tài khoản đã bị vô hiệu hóa để hỗ trợ khủng bố hay không.

Công ty cũng nói rằng họ đang nỗ lực để theo kịp với "những người phạm tội trước", những người tạo ra các tài khoản chỉ để gửi tài liệu khủng bố và tìm cách phá vỡ hệ thống và kiểm soát hiện có.

Bà Bickert nói với BBC: "Công nghệ của chúng tôi sẽ tiếp tục phát triển khi chúng tôi nhận thấy mối đe dọa khủng bố tiếp tục phát triển trên mạng".

"Các giải pháp của chúng tôi phải rất năng động."

Một trong những thách thức lớn trong quá trình tự động hóa quy trình là nguy cơ lấy đi các tài liệu liên quan đến khủng bố nhưng không thực sự hỗ trợ nó - chẳng hạn như các bài báo về một video tuyên truyền IS có thể mô tả văn bản hoặc hình ảnh của nó.

Trong khi bất kỳ hình ảnh lạm dụng tình dục trẻ em nào là bất hợp pháp và có thể được gỡ xuống, hình ảnh liên quan đến chủ nghĩa khủng bố - như một thành viên của Tổ chức Y tế Thế giới đang vẫy cờ - có thể được sử dụng để tôn vinh một hành động trong một bối cảnh hoặc được sử dụng như một phần của chủ nghĩa cực đoan chống lại Chiến dịch khác.

"Bối cảnh là mọi thứ", bà Bickert nói.

facebook-tiet-lo-cac-bien-phap-de-loai-bo-noi-dung-khung-bo-YbJAztAOrAdMeOd.jpg

Image captionIn February, Mark Zuckerberg said Facebook was looking to AI to help it police its site

Bị bắt

Công ty cho biết các thuật toán của nó vẫn chưa tốt bằng người khi hiểu được bối cảnh giúp phân biệt giữa các loại khác nhau.

Facebook cho biết họ đã phát triển đội ngũ chuyên gia của mình hiện nay có 150 người làm việc trong lĩnh vực chống khủng bố, bao gồm các chuyên gia về chống khủng bố, cựu công tố viên, cựu cơ quan thực thi pháp luật và các nhà phân tích, và các kỹ sư.

Bà Bickert nói: "Chúng ta phải có những chuyên gia có thể xem xét về tình trạng khủng bố".

"Tôi hi vọng nó như sử dụng máy tính để làm những gì máy tính làm tốt và sử dụng con người để làm những gì con người làm tốt."

 Nhưng thách thức vẫn còn. Một vài phút sau khi tạo một tài khoản trong một tên được tạo thành, tôi đã có thể tìm thấy các phiên bản hoàn chỉnh của video tuyên truyền của IS, bao gồm việc bắt đầu các con tin ở phương Tây.

Các nhà phê bình lập luận  cho rằng những thách thức là rất lớn trong một trang web với hai tỷ người sử dụng nhưng công ty này đã kiếm được hàng tỷ đô la từ những nội dung trên trang Facebook của mình và có thể họ nên dành nhiều nguồn lực hơn và nhiều kỹ sư giỏi nhất để giải quyết vấn đề về khủng bố trên Mạng xã hội.

Công ty cho biết họ đã bắt đầu tập trung vào "các kỹ thuật tiên tiến nhất" để chống lại vấn đề và rõ ràng bây giờ tin rằng nó cần được nhìn thấy để hành động.