Tung công nghệ AI mới nhất, Facebook có ngăn chặn được video khiêu dâm?

Tung công nghệ AI mới nhất, Facebook có ngăn chặn được video khiêu dâm?

Thứ 7, 16/03/2019 | 09:16
Facebook thông báo vừa cho ra công cụ AI mới cho phép phát hiện, kiểm soát tốt hơn các nội dung khiêu dâm. Tuy nhiên không phải không có cớ hoài nghi khi mạng xã hội này từng dùng AI nhưng trong nhiều trường hợp lại... vô dụng.

Facebook vừa đưa vào áp dụng công nghệ AI mới nhất, giúp các nạn nhân của các bài đăng nhạy cảm có thêm thời gian và có thể gỡ bài viết. Đây được xem là động thái mới nhất của Facebook để loại bỏ nội dung lạm dụng trên nền tảng.

Nỗ lực tích cực này của Facebook đang cứu vãn hình ảnh của mạng xã hội hơn 2 tỷ người dùng này. Doanh nghiệp mới đây chịu áp lực trước công chúng vì điều kiện làm việc của các nhân viên đánh giá nội dung, những người ký hợp đồng với Facebook để kiểm duyệt bài đăng trên trang. Vì thế, công cụ AI thành công có thể là bước đi đúng hướng.

Cuộc sống số - Tung công nghệ AI mới nhất, Facebook có ngăn chặn được video khiêu dâm?

Facebook đang phát triển công nghệ AI để phát hiện video khiêu dâm.

“Việc phát hiện những hình ảnh này vượt ra ngoài việc phát hiện ảnh khỏa thân trên nền tảng của chúng tôi. Bằng cách sử dụng máy học và trí tuệ nhân tạo, chúng tôi có thể chủ động nhận biết hình ảnh hay video nude được chia sẻ mà không được phép trên Facebook, Instagram”, trưởng phòng an toàn toàn cầu Antigone Davis của Facebook cho biết.

Công cụ được đào tạo để nhận ra một bức ảnh “gần khỏa thân”, chẳng hạn như bức ảnh chụp với nội y, kết hợp với văn bản mang tính xúc phạm hoặc làm nhục, gây xấu hổ cho ai đó nếu nó được đăng tải lên mạng. Nội dung dạng này thường được dùng để gây rối hoặc trả thù người khác. Bài đăng sẽ được gắn cờ và gửi đến người đánh giá để xác nhận. Trong hầu hết các trường hợp, bài đăng gắn cờ bị phát hiện là vi phạm tiêu chuẩn cộng đồng của Facebook. Tài khoản có liên quan sẽ bị vô hiệu hóa.

Doanh nghiệp Mỹ cũng cho hay họ đang mở rộng chương trình thí điểm đã được công bố trước đây, vốn cho phép người dùng Facebook tải lên và đánh dấu hình ảnh mà họ sợ rằng có thể được đăng dưới dạng nội dung khiêu dâm để trả thù. Ông Davis nói rằng công ty nhận được phản hồi tích cực cho chương trình, song đây chỉ là “lựa chọn khẩn”.

Việc dùng công nghệ AI để phát hiện ảnh khỏa thân tuy rất đáng ghi nhận nhưng cũng không phải không có vấn đề. Facebook từng bị khiếu nại liên quan tới các bức ảnh thời sự. Do nhân vật trong ảnh ở trần, những bức ảnh đã bị AI kiểm duyệt và đưa vào danh sách bài viết vi phạm.

Cuộc sống số - Tung công nghệ AI mới nhất, Facebook có ngăn chặn được video khiêu dâm? (Hình 2).

Bức ảnh "Em bé Napalm" từng bị Facebook loại bỏ do AI nhận diện nhầm.

Một ví dụ gần gũi với chúng ta là bức ảnh "Em bé Napalm" nổi tiếng của Nick Út. Đây là bức ảnh từng đoạt giải Pulitzer năm 1972. Bức ảnh khắc họa sự khốc liệt của cuộc chiến Việt Nam với hình ảnh một cô bé chín tuổi, da thịt và áo quần bị đốt cháy bởi bom đạn.

Tuy nhiên khi được đăng trên nền tảng của mạng xã hội này, bức ản đã bị hệ thống AI của Facebook nhận diện sai dẫn đến bị loại bỏ hoàn toàn.

Hệ thống AI cũng không phải không có sai sót trong những trường hợp khiêu dâm thực sự. Như vụ việc hồi tháng 11 năm ngoái, trên Facebook tràn lan một video khiêu dâm. Nhân vật chính sau đó khỏa thân một phần, góc máy quay cận vào bộ phận sinh dục để trần. Đoạn clip này vi phạm nghiêm trọng chính sách nội dung của Facebook về ảnh khỏa thân, khiêu dâm.

Tuy vậy, đoạn video này vẫn tồn tại sau hơn 18 giờ đăng tải và tiếp tục được lan truyền rộng rãi trên mạng xã hội này.

Sau 18 giờ đăng tải, video trên nhận được 18 triệu lượt xem, 130.000 lượt thích, 175.000 bình luận và 360.000 lượt chia sẻ. Đây là những số liệu cho thấy sự lan truyền chóng mặt của đoạn video khiêu dâm trên.

Thậm chí chủ tài khoản còn khoe chỉ sau 3 giờ đăng tải, đã có hơn 5.000 người theo dõi tài khoản của người này. Sau 18 giờ, tài khoản đang tài video nhận được hơn 30.000 lượt theo dõi.

Người viết đã báo cáo (report) với Facebook về nội dung này theo cách người dùng có thể làm. Tuy nhiên, sau hơn 3 giờ, nội dung trên vẫn hiển thị và lan truyền.

Một đại diện của Facebook từng nêu báo cáo, từ tháng 7- 9/2018, mạng xã hội này đã xóa 8,7 triệu bài viết liên quan tới các nội dung khiêu dâm và lạm dục tình dục trẻ em. Các chủ tài khoản phát tán nội dung này cũng bị loại bỏ khỏi hệ thống của Facebook.

Hiện, Facebook đã ra yêu cầu người dùng mạng xã hội phải có độ tuổi từ 13 trở lên. Biện pháp này không ngăn chặn được hoàn toàn nhưng cũng giúp giới hạn phần nào đó các bài post liên quan tới trẻ em trên Facebook. AI sẽ giúp mạng xã hội này làm nốt việc còn lại khi chặn lọc các nội dung liên quan tới hành vi lạm dụng trẻ em.

Dù CEO Facebook Mark Zucekerberg từng khẳng định mạng xã hội này đã có thể kiểm duyệt gần như toàn bộ ảnh khỏa thân bằng trí thông minh nhân tạo. Tuy nhiên thực tế cho thấy Facebook cần đầu tư nhiều thời gian và nỗ lực nghiên cứu hơn nữa trước những nội dung độc hại như thế này.

Hiếu Nguyễn

Facebook, YouTube sẽ gỡ bỏ các video liên quan đến vụ xả súng ở New Zealand

Thứ 7, 16/03/2019 | 07:56
Các trang mạng xã hội cho biết sẽ xóa bỏ các bài video và video đăng tải hình ảnh vụ xả súng kinh hoàng ở 2 nhà thờ thuộc thành phố Christchurch, New Zealand.

Dính án hình sự, loạt lãnh đạo cấp cao Facebook xin nghỉ việc

Thứ 6, 15/03/2019 | 09:14
Sau thông tin Facebook bị cơ quan tư pháp Mỹ điều tra hình sự thì hôm nay, hàng loạt nhân sự cấp cao của mạng xã hội này đã nộp đơn xin nghỉ việc.

Bán thông tin người dùng, Facebook bị điều tra hình sự

Thứ 5, 14/03/2019 | 20:00
Nhiều cơ quan lập pháp liên bang Mỹ đang tiến hành các bước truy tố hình sự các tội danh của Facebook, liên quan chủ yếu tới việc mua bán dữ liệu người dùng với nhiều đối tác công nghệ khác.
Cùng tác giả

Ngân hàng Eximbank thông báo họp ĐHCĐ lần thứ 3, địa điểm gây bất ngờ

Thứ 6, 31/07/2020 | 14:58
Sau 2 lần tổ chức bất thành vì không đủ số lượng cổ đông tham dự theo quy định, ngân hàng Eximbank dự kiến tổ chức đại hội lần thứ 3 vào lúc 9h ngày 17/8 tại Hà Nội.

Từ 0h ngày 31/7, Bình Định tạm dừng hoạt động tất cả các quán bar, karaoke, vũ trường

Thứ 6, 31/07/2020 | 11:04
Không chỉ tạm dừng hoạt động các quán karaoke, massage, vũ trường, từ 0h ngày 31/7, tỉnh Bình Định còn cấm tổ chức các hoạt động dạy thêm, học thêm trong và ngoài nhà trường.

Từ 1/1/2021, chính sách tiền lương và ngày nghỉ của người lao động thay đổi như thế nào?

Thứ 5, 30/07/2020 | 11:03
Từ năm 2021, mỗi lần trả lương, người sử dụng lao động phải thông báo bảng kê trả lương, trong đó ghi rõ các nội dung như: Tiền lương; tiền lương làm thêm giờ; tiền lương làm việc vào ban đêm; nội dung và số tiền bị khấu trừ (nếu có)...

Đà Nẵng: Ập vào kiểm tra giữa trưa, lực lượng chức năng thu giữ 21.000 chiếc khẩu trang không hóa đơn xuất xứ

Thứ 3, 28/07/2020 | 18:48
Chủ nhà khai lô khẩu trang được sản xuất tại một công ty ở tỉnh Vĩnh Phúc và được mua qua trung gian là một công ty tại TP Hà Nội. Tuy nhiên, kết quả kiểm tra lại không như vậy...

Giá xăng E5 tăng nhẹ từ 15h chiều nay 28/7

Thứ 3, 28/07/2020 | 15:18
Tại kỳ điều chỉnh này, giá bán lẻ xăng RON95 được giữ nguyên so với kỳ trước. Trong khi đó xăng E5RON92 tăng nhẹ lên 14.409 đồng/lít.
Cùng chuyên mục

Hỗ trợ bảo vệ cộng đồng khỏi nạn lừa đảo và an ninh mạng

Thứ 3, 01/11/2022 | 16:43
Việc ký kết hợp tác giữa VCS và Dự án Chống lừa đảo nhằm giúp người dùng nâng cao nhận thức về an toàn thông tin, phòng tránh các vấn nạn lừa đảo trực tuyến.

Thanh Hóa tổ chức chuỗi sự kiện hưởng ứng ngày chuyển đổi số Quốc gia

Thứ 5, 06/10/2022 | 12:57
Trong hai ngày (6-7/10), tại Tòa nhà Trung tâm CNTT Thanh Hóa, tỉnh này tổ chức nhiều hoạt động nhằm hưởng ứng ngày chuyển đổi số Quốc gia 10/10.

Người bán hàng mất ăn mất ngủ vì "vô hình" trên Instagram

Thứ 3, 23/08/2022 | 11:05
Từ khi Instagram thay đổi thuật toán ưu tiên các video và nội dung được đề xuất, những tài khoản sở hữu hàng trăm nghìn lượt theo dõi mất tương tác với người dùng.

Bước ngoặt quan điểm về Bitcoin của quỹ đầu tư BlackRock

Thứ 2, 15/08/2022 | 06:00
Giám đốc điều hành BlackRock, Larry Fink vào năm 2017 từng nói: “Bitcoin chỉ cho bạn thấy nhu cầu rửa tiền trên thế giới là bao nhiêu”. Nhưng bây giờ mọi sự đã khác.

Nền tảng số quản lý chứng từ khấu trừ thuế thu nhập cá nhân điện tử

Thứ 5, 04/08/2022 | 10:45
Đây là nền tảng cho phép các doanh nghiệp tạo lập, quản lý Chứng từ khấu trừ thuế thu nhập cá nhân (TNCN) điện tử theo đúng chuẩn Quy định của Bộ Tài chính.
     
Nổi bật trong ngày

Cổ phiếu Apple lao dốc sau sự cố tại nhà máy Foxconn ở Trung Quốc

Thứ 4, 30/11/2022 | 19:37
Tình trạng bất ổn của nhà máy sản xuất iPhone Foxconn tại Trung Quốc gây rủi ro cho các lô hàng iPhone, đè nặng lên cổ phiếu Apple.