Apple thiết kế hệ thống phát hiện và cảnh báo ảnh đồi trụy cho trẻ em trên iPhone

Apple thiết kế hệ thống phát hiện và cảnh báo ảnh đồi trụy cho trẻ em trên iPhone

Chủ nhật, 08/08/2021 | 17:48
Tính năng này sẽ giúp trẻ em tránh khỏi những dụ dỗ trên không gian mạng hoặc những hình ảnh đồi trụy được chia sẻ trong nhóm trò chuyện.

Apple vừa cho biết, tập đoàn này sẽ ra mắt một phần mềm mới vào cuối năm nay. Phần mềm có khả năng phân tích các file ảnh được lưu trữ trên bộ nhớ tài khoản iCloud Photo của người sử dụng để phát hiện các file ảnh đồi trụy của trẻ em và báo cáo những trường hợp này tới các cơ quan có thẩm quyền liên quan.

Trong bộ phần mềm bảo vệ trẻ em, Apple cũng công bố một chức năng mới có khả năng phân tích các file ảnh được gửi tới và nhận được từ người dùng trẻ em thông qua ứng dụng Messages để đảm bảo tính hợp pháp.

Apple sẽ thêm những chức năng cho ứng dụng trợ lý ảo Siri nhằm can thiệp kịp thời khi người sử dụng tìm kiếm những nội dung phạm pháp nói trên.

Gã khổng lồ công nghệ có trụ sở tại Cupertino, California đã đưa ra bản thử nghiệm ba tính năng trên vào ngày 5/8/2021 và cho biết, họ sẽ đưa chương trình này hoạt động chính thức cuối năm 2021.

Công nghệ - Apple thiết kế hệ thống phát hiện và cảnh báo ảnh đồi trụy cho trẻ em trên iPhone

Apple giải thích về phương pháp phân tích các file ảnh trên điện thoại của người dùng để phát hiện ảnh khiêu dâm (Nguồn: Apple)

Nếu Apple phát hiện một lượng nhất định các file ảnh đồi trụy của trẻ em trên tài khoản của một người dùng, trường hợp này sẽ được kiểm tra một cách thủ công bởi nhân viên của tập đoàn, sau đó sẽ được báo cáo tới Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC), một trung tâm làm việc trực tiếp với các cơ quan hành pháp. Apple cũng cho biết, các file ảnh này sẽ được phân tích ngay trên thiết bị iPhone hoặc iPad của người dùng tại Hoa Kỳ trước khi được gửi lên bộ nhớ iCloud.

Apple cho biết, tập đoàn này sẽ phát hiện được những file ảnh phạm pháp bằng cách đối chiếu với cơ sở dữ liệu những văn hóa phẩm đồi trụy liên quan tới trẻ em đã phát hiện từ trước, được cung cấp bới NCMEC. Apple sẽ sử dụng một công nghệ mang tên NeuralHash có khả năng phân tích một file ảnh và từ đó trích xuất ra một chuỗi mã hash, một dãy số độc nhất cho file đó.

Chuỗi "mật mã" này sau đó sẽ được so sánh với cơ sở dữ liệu nói trên thông qua nhiều phương pháp mã hóa. Apple tiết lộ, quy trình này đảm bảo rằng họ sẽ không giữ lại thông tin về những file ảnh không khớp với cơ sở dữ liệu. 

Tập đoàn này khẳng định, hệ thống có tỷ lệ sai “dưới 1 phần ngàn tỷ” mỗi năm và đảm bảo tuyệt đối quyền riêng tư của người sử dụng. Trong một báo cáo, Apple cho biết: “Apple chỉ có được thông tin về file ảnh của người dùng khi người dùng đó sở hữu một bộ các văn hóa phẩm đồi trụy về trẻ em trong tài khoản iCloud Photos của họ. Ngay cả trong những trường hợp này, Apple chỉ nắm giữ được thông tin về những file ảnh được đối chiếu khớp với những nội dung đồi trụy về trẻ em đã có sẵn trong cơ sở dữ liệu”.

Người sử dụng nếu cho rằng tài khoản của họ bị đánh dấu do nhầm lẫn, có thể "kháng cáo".

Để trả lời những lo ngại về quyền riêng tư của chức năng này, Apple đã đưa ra một bộ tài liệu sách trắng nêu rõ những công nghệ được sử dụng cũng như những phân tích về hệ thống từ nhiều nhà nghiên cứu độc lập.

John Clark, Chủ tịch - Giám đốc điều hành của NCMEC có lời ngợi khen Apple về quyết định đưa ra chức năng mới này.

“Những biện pháp an toàn mới có khả năng giúp đỡ những trẻ em đang bị dụ dỗ trên không gian mạng và có những hình ảnh đáng sợ được lan truyền trong những nhóm chia sẻ văn hóa phẩm đồi trụy về trẻ em” ông cho biết trong một tuyên bố được đưa ra bởi Apple.

Chức năng này trong ứng dụng Messages là một chức năng không bắt buộc, và có thể được kích hoạt bởi các phụ huynh trên thiết bị do con em họ sử dụng. Hệ thống sẽ kiểm tra, tìm kiếm những hình ảnh đồi trụy trong những file ảnh nhận được hoặc gửi đi qua tin nhắn trên thiết bị. Nếu như người dùng trẻ em nhận được file ảnh có nội dung đồi trụy, file ảnh đó sẽ được làm mờ, người dùng sẽ phải nhấn vào một nút bấm để xem file ảnh này. Nếu như người dùng quyết định xem file ảnh trên, các phụ huynh sẽ nhận được một thông báo. Tương tự, nếu người dùng gửi một file ảnh có nội dung đồi trụy, họ sẽ được cảnh báo và các phụ huynh sẽ nhận được một thông báo trên thiết bị của họ.

Công nghệ - Apple thiết kế hệ thống phát hiện và cảnh báo ảnh đồi trụy cho trẻ em trên iPhone (Hình 2).

Chức năng mới trong Messages của Apple nhằm phân tích hình ảnh phản cảm (Nguồn: Apple).

Apple cho biết, chức năng trong Messages này sử dụng tính năng phân tích ngay trên thiết bị và tập đoàn này không thể xem nội dung tin nhắn. Chức năng này được áp dụng cho dịch vụ iMessage của Apple và những giao thức khác như dịch vụ tin nhắn đa phương tiện Multimedia Messaging Service (MMS).

Tập đoàn công nghệ đa quốc gia này cũng sẽ đưa vào hoạt động hai chức năng tương tự cho trợ lý ảo Siri và mục tìm kiếm. Hệ thống có khả năng trả lời những câu hỏi về báo cáo xâm hại trẻ em cũng như những hình ảnh xâm hại, đồng thời cung cấp thông tin hướng dẫn người dùng cách họ có thể gửi báo cáo tới những cơ quan liên quan.

Bên cạnh đó, phần mềm còn có khả năng cảnh báo người dùng thực hiện những tìm kiếm liên quan tới văn hóa phẩm có nội dung xâm hại trẻ em. Theo Apple, các chức năng trong ứng dụng Messages và Siri sẽ được cập nhật trên các thiết bị iPhone, iPad, Mac và Apple Watch.

Nguyễn Quang Minh 

 

Apple tung công nghệ quét iPhone, iCloud tìm hình ảnh lạm dụng trẻ em

Thứ 6, 06/08/2021 | 19:00
Sau khi Apple công bố về hệ thống tìm tài liệu lạm dụng tình dục trẻ em trên thiết bị của khách hàng đã vấp phải một số phản đối về tính bảo mật và riêng tư.

Thực hư việc Apple đã bỏ 2,5 tỷ USD mua Bitcoin

Thứ 4, 14/07/2021 | 21:10
Tin đồn về việc Apple mua Bitcoin với trị giá hàng tỷ USD đang lan truyền trên Internet.

Vì sao Apple Watch sẽ "kết liễu" đế chế huy hoàng của đồng hồ Thụy Sĩ?

Thứ 5, 15/04/2021 | 19:19
Bề dày lịch sử hàng trăm năm của đồng hồ Thụy Sĩ có thể tàn lụi trước sự phát triển của Apple Watch, khi giá bán cao sẽ không đủ bù doanh số bán hàng ngày càng thấp.

Xe đạp Việt Nam thay thế cả ô tô, nhân tài đủ sức làm cho Apple: Tại sao không?

Thứ 5, 11/03/2021 | 12:55
Jack O'Sullivan kinh ngạc về những gì Việt Nam có thể làm được khi so với Trung Quốc, thậm chí anh cho rằng nhân tài người Việt hoàn toàn có thể làm cho Apple.
Cùng chuyên mục

Nhân viên nữ kiện Google: Cuộc chiến pháp lý và góc khuất

Thứ 7, 23/10/2021 | 14:00
Chelsey Glasson đã kiện Google với cáo buộc phân biệt đối xử với phụ nữ có thai và cho biết quá trình này đã gây ra tổn hại về tài chính, tinh thần của cô.

Thay đổi của Apple thách thức doanh nghiệp thương mại điện tử

Thứ 7, 23/10/2021 | 11:40
Sozy, một hãng bán lẻ quần áo tại California, đã phải tăng chi phí trung bình để có thêm khách hàng mới từ 23 USD vào tháng 3/2021 lên 88 USD vào tháng 10.

Edward Snowden cảnh báo hậu quả của việc loại bỏ mã hóa tin nhắn

Thứ 7, 23/10/2021 | 10:17
Edward Snowden đã cảnh báo rằng việc cho phép các chính phủ làm suy yếu hệ thống mã hóa tin nhắn cá nhân sẽ là “sai lầm khủng khiếp” với hậu quả chết người.

"Chuyển đổi số là quá trình, không phải đích đến"

Thứ 5, 21/10/2021 | 19:11
Theo báo cáo của Bộ TT&TT về chỉ số chuyển đổi số (CĐS) trong năm 2020, Bộ Tài chính là cơ quan dẫn đầu trong nhóm 18 bộ, ngành cung cấp dịch vụ công.

Trường học ở Scotland dùng công nghệ nhận diện mặt để bán đồ ăn trưa

Thứ 4, 20/10/2021 | 18:24
9 trường học ở Bắc Ayrshire, Scotland đã bắt đầu nhận tiền ăn trưa của học sinh bằng cách sử dụng công nghệ nhận diện khuôn mặt, khiến giới quản lý phải can thiệp.
     
Nổi bật trong ngày

Nhân viên nữ kiện Google: Cuộc chiến pháp lý và góc khuất

Thứ 7, 23/10/2021 | 14:00
Chelsey Glasson đã kiện Google với cáo buộc phân biệt đối xử với phụ nữ có thai và cho biết quá trình này đã gây ra tổn hại về tài chính, tinh thần của cô.

Edward Snowden cảnh báo hậu quả của việc loại bỏ mã hóa tin nhắn

Thứ 7, 23/10/2021 | 10:17
Edward Snowden đã cảnh báo rằng việc cho phép các chính phủ làm suy yếu hệ thống mã hóa tin nhắn cá nhân sẽ là “sai lầm khủng khiếp” với hậu quả chết người.

Thay đổi của Apple thách thức doanh nghiệp thương mại điện tử

Thứ 7, 23/10/2021 | 11:40
Sozy, một hãng bán lẻ quần áo tại California, đã phải tăng chi phí trung bình để có thêm khách hàng mới từ 23 USD vào tháng 3/2021 lên 88 USD vào tháng 10.