CyberPurify: Ứng dụng AI giúp bảo vệ trẻ em trên Internet


CyberPurify, một startup sử dụng học máy (machine learning) để nhận dạng nội dung độc hại vừa cho ra mắt giải pháp miễn phí CyberPurify Kids giúp phụ huynh trên toàn cầu thiết lập một môi trường an toàn cho con cái họ chỉ sau vài cú click chuột.

Ngăn chặn các nội dung độc hại với trẻ em

Sản phẩm chạy một mô hình deep learning trên trình duyệt để nhận dạng và ngăn chặn hiển thị 15 loại nội dung độc hại đối với trẻ em, bao gồm cả pornography, ma tuý và bạo lực đẫm máu. Sản phẩm được cung cấp dưới dạng extension/add-on trên các trình duyệt phổ biến như Google Chrome, Microsoft Edge, Firefox và Safari.

Theo BBFC, cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại dung, phim, game đáng tin cậy ở Vương quốc Anh, 7 – 8 tuổi là độ tuổi mà một số trẻ đã tình cờ nhìn thấy nội dung khiêu dâm, hơn 60% trẻ em 11 – 13 tuổi và 53% trẻ từ 14 đến 15 tuổi vô tình tiếp xúc với nội dung khiêu dâm trên mạng.

Hầu hết chúng mô tả cảm giác là “kinh khủng” và “bối rối”, gây cảm giác tiêu cực nhất, đặc biệt là những đứa trẻ dưới 10 tuổi. Giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi các tác nhân tiêu cực. Các nội dung không phù hợp như hình ảnh tai nạn, máu me, ngược đãi động vật, bạo lực và nhất là nội dung khiêu dâm có thể khiến trẻ khó chịu, bối rối, ám ảnh về sau.

CyberPurify: Ứng dụng AI giúp bảo vệ trẻ em trên Internet - Ảnh 1.
Ông Bình Nguyễn, CEO CyberPurify: Đây là sản phẩm đầu tiên trên thế giới chạy trên trình duyệt có thể nhận dạng được hầu hết các loại nội dung độc hại trên Internet.

Bình Nguyễn, founder & CEO, cũng là phụ huynh có hai con nhỏ, cho rằng, việc xâm phạm quyền riêng tư của trẻ em bằng cách theo dõi chúng làm gì, xem gì, cũng sẽ gián tiếp ảnh hưởng đến tính cách, tinh thần và khả năng phát triển của chúng. Trước đây, phụ huynh đối mặt với việc để bọn trẻ sử dụng máy tính bất chấp sự nguy hiểm đến từ không gian mạng, hoặc xâm phạm nghiêm trọng không gian cá nhân riêng tư của trẻ khi sử dụng các phần mềm bảo mẫu truyền thống.

“Chúng tôi tập trung vào việc xây dựng mô hình AI cho phép nhận dạng và phân loại những nội dung độc hại, định nghĩa lại khái niệm về sự an toàn cho trẻ em bằng cách thay thế sự theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị. Việc này giống như bạn đã trao cho mỗi đứa trẻ một người bảo vệ trung thành tận tụy, lại không phán xét hay soi mói đời tư. Sản phẩm này sẽ là một người bạn đồng hành thật sự với mỗi đứa trẻ trong hành trình khám phá tri thức trên Internet”, ông Bình chia sẻ.

CyberPurify: Ứng dụng AI giúp bảo vệ trẻ em trên Internet - Ảnh 2.
Bên cạnh nhận dạng 15 loại nội dung bao gồm cả nội dung khiêu dâm, bạo lực…, CyberPurify Kids còn ngăn chặn các trang lừa đảo, malware và phát tán virus.

Có thể nhận dạng được hầu hết các loại nội dung độc hại trên Internet

Việc sử dụng sản phẩm cũng hết sức đơn giản, với phương châm “cài đặt và quên nó đi” (install and forget it), phụ huynh chỉ cần nhấn nút install CyberPurify Kids trong store chứa extension/add-on của các tình duyệt, mỗi khi đứa trẻ truy cập Internet trên trình duyệt, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại, hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma tuý, dược phẩm. Khi đứa trẻ tìm cách gỡ bỏ bộ lọc mạnh mẽ này, phụ huynh cũng sẽ nhận được thông báo.

Trước đây, CyberPurify cung cấp dịch vụ B2B dưới dạng phần cứng và phần mềm chuyên dụng với khách hàng là những doanh nghiệp cung cấp nội dung số hoặc nền tảng (platform) sử dụng như một công cụ thay thế con người để kiểm duyệt tự động những nội dung do người dùng tạo ra, hiện xử lý trên 10 triệu nội dung hình ảnh và video mỗi ngày, tương đương với sức lao động của 20.000 người. 

Với sự phát triển của 5G, smartphone và các mạng xã hội, thế giới hiện có 4.66 tỷ người dùng Internet, trung bình mỗi người tạo ra tới 1,7 GB dữ liệu mỗi ngày, tương đương 2000 bức ảnh hoặc 150 video và ngày càng tăng cao hơn nữa trong tương lai, dẫn đến lượng nội dung đồ sộ cần được kiểm duyệt trước khi tiếp cận trẻ em ngày càng khổng lồ, đây là cơ hội để CyberPurify lấn sân sang cung cấp sản phẩm đến người dùng cuối bắt đầu với phiên bản Kids trên trình duyệt.

Theo phát ngôn của người đại diện, bên cạnh nhận dạng 15 loại nội dung bao gồm cả nội dung khiêu dâm, bạo lực, ám ảnh, và ma tuý, CyberPurify Kids còn ngăn chặn các trang lừa đảo, malware và phát tán virus. 

“Điều đặc biệt của CyberPurify Kids là bản thân nó cũng như một đứa trẻ, liên tục tự học thêm những nội dung độc hại được phát hiện mỗi ngày để trở nên thông minh hơn, ngăn chặn triệt để hơn về sau. Đây là sản phẩm đầu tiên trên thế giới chạy trên trình duyệt có thể nhận dạng được hầu hết các loại nội dung độc hại tồn tại trên Internet”, ông Bình cho biết thêm

Song song với việc điều hành CyberPurify, ông Bình từng là sáng lập và CEO của Applancer TopDev được đầu tư bởi SaraminHR, công ty niêm yết trên sàn KOSDAQ tại Hàn Quốc. 

“Đầu năm 2021, tôi rời Applancer TopDev để tập trung toàn bộ quỹ thời gian cho việc phát triển CyberPurify Kids, đây là thời điểm hoàn hảo để chúng tôi đưa khả năng nhận dạng mạnh mẽ trên máy chủ xuống trình duyệt, phục vụ cho nhiều gia đình có trẻ nhỏ” Ông Bình nói.

Ông Bình còn từng được biết là người tiên phong ứng dụng AI để nhận dạng nội dung khiêu dâm có tên là KillPorn, được sử dụng rộng rãi trong các phòng net và gia đình thời điểm từ năm 2007, sau khi đạt được giải thưởng Nhân Tài Đất Việt, ông đã trao giấy phép (license) cho VNPT để cung cấp đến các thuê bao Internet của nhà mạng này dưới tên gọi MegaKillPorn.

CyberPurify cũng là một trong 5 startup thắng giải “Thử thách sáng tạo cùng công nghệ trí tuệ nhân tạo – AI Accelerator Challenge 2021 (AAC 2021)” do Bộ Khoa học và Công nghệ bảo trợ và Đại sứ quán Úc tài trợ.

CyberPurify Kids được cung cấp miễn phí cho các trường học, phòng lab, Internet cafe hoặc những nơi có máy tính công cộng. Tính năng nâng cao bao gồm gửi báo cáo thống kê cho phụ huynh với giá 9$/tháng, và 99$/năm.

Theo ICTVietNam

Cải thiện chỉ số văn minh trên không gian mạng bằng cách nào?


Photo by Josh Hild on Pexels.com

Các chuyên gia cho rằng, bắt nạt trên mạng gây ra những hậu quả rất thật trong thế giới thực. …

Mặc dù trải nghiệm trực tuyến, chỉ số văn minh trên không gian mạng (DCI) năm 2020 của Việt Nam đã có những cải thiện trong đại dịch Covid nhưng vẫn còn kém hơn nhiều so với trung bình trong khu vực châu Á- Thái Bình Dương. Người dùng hàng ngày vẫn đang phải đối mặt với những rủi ro và những hành vi thiếu văn minh, an toàn trên môi trường mạng.

Internet đã trở thành một nhu cầu không thể thiếu trong đời sống hàng ngày của người dùng, hỗ trợ học tập, làm việc cũng như giải trí, nhất là trong bối cảnh dịch bệnh Covid-19 bùng phát và diễn biến phức tạp như hiện nay. Không phủ nhận những giá trị Internet mang lại, nhưng trong thực tế những hành vi thiếu văn minh, bịa đặt thông tin, nói xấu, bắt nạt, xúc phạm, miệt thị nhau, thậm chí lừa đảo phổ biến trên môi trường mạng đang trở thành vấn nạn.

ĐÃ CẢI THIỆN NHƯNG VẪN NHIỀU RỦI RO 

Theo một phát hiện từ nghiên cứu thường niên “Văn minh, an toàn và tương tác trực tuyến- 2020” và Chỉ số văn minh trên không gian mạng (DCI) năm 2020 vừa được Microsoft công bố, chỉ số DCI năm 2020 của Việt Nam kém hơn nhiều so với trung bình khu vực châu Á-Thái Bình Dương (APAC), với điểm DCI là 72, trong khi đó điểm của APAC là 66. Tuy nhiên, Việt Nam là một trong 5 quốc gia/ khu vực có điểm số cải thiện nhất trên toàn cầu – giảm từ mức 78 điểm của năm 2019. Điều này cũng có nghĩa là ngày càng có ít người gặp phải các tương tác tiêu cực hoặc rủi ro trực tuyến. Theo nghiên cứu này thì các nước có chỉ số DCI càng thấp thì mức độ văn minh càng cao.

Một số rủi ro đối với người dùng trực tuyến tại Việt Nam đang ở mức cao kỷ lục kể từ năm 2017 là: lừa đảo chiếm 36% (tăng 6%), xúc phạm chiếm 28% (tăng 8%) và phân biệt đối xử chiếm 16% (tăng 4%).Kết quả nghiên cứu cho thấy, Hà Lan, Vương quốc Anh, Hoa Kỳ, Singapore là những quốc gia có điểm DCI tích cực nhất, cải thiện đáng kể theo năm.Việt Nam được xếp vào nhóm các quốc gia gồm: Colombia, Chile, Peru, Thổ Nhĩ Kỳ có điểm DCI cải thiện nhất. Các quốc gia có nhiều cải thiện nhất về điểm DCI chủ yếu nằm ở khu vực địa lý được xếp hạng thấp hơn về mức độ văn minh trực truyến.

Ở năm thứ 5 triển khai thực hiện, nghiên cứu này tiếp tục hỏi những người tham gia về trải nghiệm với 21 rủi ro trực tuyến khác nhau, chia thành bốn hạng mục: hành vi, tình dục, danh tiếng và cá nhân/xâm phạm. Có tổng cộng hơn 16.000 người từ 32 khu vực địa lý đã tham gia, trong đó một nửa là người trưởng thành và nửa còn lại thanh thiếu niên.

Ở khu vực châu Á-Thái Bình Dương, tham gia khảo sát năm nay có Australia, Ấn Độ, Indonesia, Malaysia, Philippines, Singapore, Thái Lan, Đài Loan và Việt Nam. Theo đó, từ năm 2019 đến năm 2020, mức độ văn minh trực tuyến đã được cải thiện rõ rệt ở các chỉ số.Kết quả nghiên cứu cho thấy, thanh thiếu niên (13-16 tuổi) chính là nhóm giúp cải thiện điểm số DCI của Việt Nam. Cụ thể, nhóm này đạt 69 điểm trong thước đo văn minh trực tuyến, trái ngược với người trưởng thành là 74.

Ngoài ra, 43% người tham gia khảo sát tại Việt Nam nhận thấy mức độ văn minh trực tuyến được cải thiện trong thời kỳ đại dịch do người dùng mạng có ý thức cộng đồng cao hơn và chứng kiến nhiều sự hỗ trợ, giúp đỡ lẫn nhau hơn. Trong khi đó, 18% người tham gia lại cho rằng mức độ văn minh trực tuyến trong thời gian này tệ hơn vì có nhiều thông tin sai lệch gây hiểu lầm được lan truyền và bản thân họ thấy nhiều người hành động ích kỷ hơn.

Người dùng mạng phải đối mặt với nhiều rủi ro ẩn danh xảy ra trong thời gian gần đây, với 25% người được hỏi tại Việt Nam cho biết họ đã gặp phải một rủi ro trực tuyến trong tuần vừa qua và 59% cho biết tác nhân gây ra rủi ro là người lạ.Ở bình diện chung trên toàn cầu, rủi ro ngày càng có tính ẩn danh và xảy ra trong thời gian gần đây với tỷ lệ 41% đến từ người lạ và khoảng 16% người dùng gặp phải ít nhất một rủi ro trong tuần vừa qua. Đặc biệt hành vi lan truyền thù hận và gây chia rẽ tiếp tục gia tăng. Trong đó, các hành vi gây chia rẽ gia tăng cao nhất trong 5 năm qua chính là: bịa đặt, lừa đảo, gian lận; các lời nói xúc phạm; và phân biệt chủng tộc…

Cũng theo khảo sát trên các quốc gia, có gần 4/10 người dùng mạng khi được hỏi cho biết liên quan đến một vụ bắt nạt. Cụ thể, có 38% số người từng liên quan đến một vụ bắt nạt và 19% cho biết là đối tượng bị bắt nạt. Thế hệ Millennials và thế hệ Z là đối tượng bị ảnh hưởng nặng nề nhất bởi nạn bắt nạt. Cụ thể, tỷ lệ này ở thế hệ Z là 43%, thế hệ Millennials là 42%, thế hệ X là 30% và thế hệ Boomers là 21%.

XÂY DỰNG KHÔNG GIAN MẠNG AN TOÀN HƠN 

Các chuyên gia cho rằng, bắt nạt trên mạng gây ra những hậu quả rất thật trong thế giới thực. Trong trường hợp bắt nạt trên không gian mạng, nạn nhân có thể bị tổn hại bất cứ lúc nào trong ngày bởi các nguồn ẩn danh, và có khả năng sự việc sẽ được truyền đến rất nhiều người. Chúng ta thường nghĩ bắt nạt trên mạng là một vấn đề phổ biến đối với trẻ em và thanh thiếu niên, nhưng thực ra mọi người ở mọi lứa tuổi đều có thể bị ảnh hưởng bởi sự ngược đãi, tàn nhẫn và lạm dụng trực tuyến. Một ví dụ đau lòng tại châu Á-Thái Bình Dương gần đây là cái chết của ngôi sao truyền hình thực tế và đô vật chuyên nghiệp người Nhật Bản, Hana Kimura.

Trong bối cảnh Covid-19, chúng ta không chỉ phụ thuộc mà hơn bao giờ hết chúng ta đã chủ động đón nhận các công nghệ kỹ thuật số. Theo đó, môi trường Internet an toàn hơn sẽ không chỉ giúp cải thiện trải nghiệm của người dùng, mà còn tác động tích cực đến sức khỏe và đời sống tinh thần của cộng đồng.

Thực tế ở Việt Nam trong thời gian qua đã xảy ra một số vụ việc nói xấu nhau, bắt nạt hoặc miệt thị nhau trên mạng gây ra những hệ quả tiêu cực, ảnh hưởng tâm lý, học tập, sinh hoạt như trường hợp của một nữ sinh trung học đã bị một nhóm học sinh cho vào một nhóm chat để nhục mạ, chế giễu ngoại hình, dù đôi bên không hề quen biết nhau. Theo chia sẻ của một chuyên gia tâm lý, vấn đề miệt thị hình dáng, cơ thể trên một nhóm chát là một dạng của hành vi bắt nạt trực tuyến. Mặc dù thời gian qua, vấn đề bạo lực học đường nói chung đã được đề cập nhiều nhưng nhiều học sinh mới chỉ nhận diện và có kỹ năng ứng phó với bạo lực thể chất chứ chưa ý thức nhiều đến bạo lực tinh thần và bắt nạt trực tuyến.

Theo một kết quả nghiên cứu trong năm 2020, cứ 10 người dùng internet tại Việt Nam thì có hơn 5 người liên quan đến các hành vi bắt nạt. Trong số 51% người dùng mạng, bao gồm 48% người trưởng thành và 54% thanh thiếu niên, cho biết họ từng có liên quan đến một vụ bắt nạt, 21% cho biết họ từng là nạn nhân và 38% là người đứng ngoài hoặc chứng kiến hành vi bắt nạt hoặc quấy rối…

Mặc dù các công dân kỹ thuật số, nhóm thanh thiếu niên sử dụng đang có những cải thiện thúc đẩy các tương tác trực tuyến tích cực, cùng nhau vun đắp cộng đồng trực tuyến trong thời kỳ đại dịch. Tuy nhiên, các chuyên gia nhấn mạnh, các mối đe dọa như thông tin sai lệch gây hiểu lầm và hành vi thiếu văn minh vẫn không ngừng len lỏi trong xã hội, đòi hỏi tất cả chúng ta phải chủ động hành động. Từ chính phủ, các tổ chức và cá nhân đều có vai trò quan trọng như nhau trong việc xây dựng một môi trường làm việc và giải trí trực tuyến an toàn hơn và lành mạnh hơn.

Nghiên cứu chỉ rõ, bước sang năm mới, mong muốn hàng đầu của người dùng tại Việt Nam trong thập kỷ tới là được trải nghiệm một không gian mạng an toàn (64%), tôn trọng (62%), lịch sự (35%), hòa nhập (26%) và hạnh phúc hơn (21%).

Để góp phần xây dựng không gian mạng lành mạnh và an toàn hơn, nghiên cứu đưa ra thử thách văn minh trực tuyến gồm 4 nguyên tắc cho người dùng mạng Internet. Theo đó, nguyên tắc vàng là luôn cảm thông, thấu hiểu và tôn trọng mọi cá nhân tham gia tương tác trực tuyến. Thứ hai là tôn trọng sự khác biệt và các cách nhìn nhận đa dạng. Khi có sự bất đồng quan điểm, hãy thận trọng suy nghĩ, tránh các công kích cá nhân. Thứ ba là suy nghĩ trước khi hồi âm, tránh đăng tải/gửi những gì có ảnh hưởng tiêu cực đến người khác. Thứ tư là sẵn sàng đấu tranh trước những hành vi ứng xử thiếu văn minh và chưa chuẩn mực.

Theo Vneconomy