Trong bối cảnh chuyển đổi số đang diễn ra mạnh mẽ, vai trò của người có sức ảnh hưởng (KOL) trên mạng xã hội ngày càng trở nên quan trọng. Tuy nhiên, cùng với sức ảnh hưởng lớn là trách nhiệm cao trong việc lan tỏa thông tin chính xác và tích cực. Tại tọa đàm ‘Kiến tạo niềm tin số’ do Hiệp hội An ninh mạng quốc gia tổ chức gần đây, các chuyên gia đã thảo luận về vai trò của KOL trong việc định hình tư duy và truyền cảm hứng cho hàng triệu người, đặc biệt là giới trẻ.

KOL không còn đơn thuần là người giới thiệu sản phẩm mà đã trở thành người định hướng thẩm mỹ, phong cách sống, quan điểm tiêu dùng và các vấn đề xã hội quan trọng. Tuy nhiên, một số KOL đã lợi dụng sức ảnh hưởng để lan truyền thông tin sai lệch, cổ súy cho nội dung độc hại hoặc quảng cáo sản phẩm kém chất lượng, gây ra tác động tiêu cực đến cộng đồng và xã hội.

Tại nhiều quốc gia, KOL đã trở thành biểu tượng của ‘sức mạnh mềm’ trong xã hội, vì vậy vai trò của họ không thể tách rời trách nhiệm. Một mặt, KOL cần được tạo điều kiện để phát huy sức ảnh hưởng tích cực, thúc đẩy kinh tế, văn hóa và truyền thông quốc gia. Mặt khác, cần có cơ chế quản lý phù hợp để định hướng hành vi, tăng cường trách nhiệm xã hội và ngăn chặn những hệ lụy tiêu cực từ nội dung sai lệch.

Chính phủ nhiều nước đã xây dựng khuôn khổ pháp lý và chính sách để khuyến khích minh bạch thông tin, chuẩn hóa nội dung quảng bá và tăng cường quản lý KOL. Các sáng kiến hỗ trợ KOL phát triển tài năng, xây dựng nội dung chất lượng và tránh rủi ro pháp lý đã được đưa ra, tuy nhiên vẫn cần nhiều nỗ lực hơn để tạo ra nền tảng cho sự phát triển lành mạnh của giới KOL tại Việt Nam.

Cục An ninh mạng và Phòng chống tội phạm sử dụng công nghệ cao đã phối hợp với Hiệp hội An ninh mạng quốc gia đưa ra 3 sáng kiến trọng tâm nhằm nâng cao vai trò của KOL trong công cuộc chuyển đổi số. Hội nghị KOL toàn quốc lần đầu tiên dự kiến diễn ra vào tháng 8/2025 sẽ là diễn đàn dành cho cộng đồng KOL Việt Nam, kết nối các nhà quản lý, doanh nghiệp, nền tảng công nghệ và KOL tiêu biểu để thảo luận giải pháp phát triển bền vững và có trách nhiệm.

Hội nghị cũng sẽ thành lập Liên minh KOL Việt Nam, quy tụ những KOL uy tín để thúc đẩy dư luận tích cực, đấu tranh chống thông tin sai lệch và triển khai các dự án cộng đồng. Sự kiện này cũng sẽ khởi động các chương trình hành động nhằm thúc đẩy ảnh hưởng có trách nhiệm của KOL thông qua quy tắc và tiêu chuẩn cộng đồng.

Trung tá Nguyễn Tiến Cường, Trưởng phòng giám sát thông tin mạng và phòng chống hoạt động sử dụng không gian mạng xâm phạm an ninh quốc gia (Cục A05, Bộ Công An), chia sẻ rằng không gian mạng đã trở thành một phần không thể tách rời của đời sống hiện đại. Người ảnh hưởng cần trở thành lực lượng tiên phong đồng hành cùng Nhà nước trong việc gìn giữ trật tự và an toàn xã hội trên môi trường số.

Với kỳ vọng trở thành một ‘bàn tròn mở’ giữa KOL, cơ quan quản lý, doanh nghiệp nền tảng số và cộng đồng, Hội nghị hứa hẹn sẽ thúc đẩy làn sóng ảnh hưởng có trách nhiệm, góp phần định hình một Việt Nam số văn minh, an toàn và bền vững.

Ngày 20-7, tại TP Thủ Đức, Chi đoàn Thanh niên Tòa án nhân dân (TAND) khu vực 2 TP.HCM đã phối hợp với phường Hiệp Bình tổ chức một phiên tòa giả định để xét xử vụ án lợi dụng các quyền tự do dân chủ, xâm phạm lợi ích Nhà nước, quyền và lợi ích của tổ chức, cá nhân. Phiên tòa giả định này đã thu hút sự quan tâm lớn từ người dân và đoàn viên thanh niên tại địa phương.

Phiên tòa giả định xét xử vụ án liên quan đến Nguyễn Phương Huyền, một sinh viên sinh năm 2002, người đã sử dụng tài khoản Facebook cá nhân có tên ‘Nguyen Cong Hoa’ để đăng tải nội dung liên quan đến chính sách sáp nhập các địa phương của Đảng và Nhà nước, nhưng với nội dung không đúng sự thật. Huyền đã thừa nhận việc mình đã được những kẻ không rõ lai lịch với tên mạng xã hội Facebook là ‘PhuHa’, ‘Nathan Pham’, ‘Lisa Hoang’… nhắn tin, rủ rê đăng bài không đúng sự thật trên mạng xã hội để kích động, thu hút chú ý, và sẽ được những người này trả công bằng tiền.

Quá trình điều tra cho thấy, Huyền thường xuyên đăng bài xuyên tạc thông tin sai sự thật trên mạng xã hội để hưởng lợi bất chính. Cô đã tạo lập, quản lý, sử dụng mạng xã hội Facebook có tên ‘Nguyen Phuong Huyen’ và một tài khoản mạng xã hội Tiktok @NguyenPhuongHuyen-chinoisuthat2025, đăng tải nhiều bài viết với nội dung xuyên tạc chính sách cải tổ bộ máy chính quyền của Đảng và Nhà nước, đặc biệt là công tác sáp nhập, tinh gọn các cơ quan hành chính tại địa phương.

Mỗi ngày, Huyền đăng tải một bài viết trên mạng xã hội Facebook và 1 video có độ dài 1-2 phút trên mạng xã hội Tiktok. Nội dung Huyền đăng tải có dàn dựng giọng nói, hình ảnh minh họa mang tính kích động, gây hiểu lầm, sai lệch bản chất các chính sách cải cách, làm cho người xem dễ có tâm lý hoang mang, nghi ngờ về tính đúng đắn của chủ trương của Đảng và Nhà nước.

Các nội dung được thể hiện qua bài viết và video của Huyền có đặc điểm chung: Sử dụng ngôn từ phiến diện, quy chụp, như ‘cải cách trá hình để hợp thức hóa sa thải cán bộ’, ‘chính quyền thu hẹp để độc quyền’, ‘thời kỳ phong kiến 4.0 chèn ép nhân dân’… Cắt ghép các hình ảnh, số liệu sai lệch, dẫn chứng không rõ nguồn gốc.

Các bài viết, video sai sự thật của Huyền đăng tải trên mạng xã hội thu hút lượt tương tác lớn, gây ra tác động tiêu cực cho dư luận xã hội. Đặc biệt, ngày 15-3-2025, Nguyễn Phương Huyền đăng tải một video lên mạng xã hội Facebook và mạng xã hội Tiktok có nhiều nội dung sai sự thật, gây hoang mang dư luận, ảnh hưởng đến lòng tin của người dân vào bộ máy Nhà nước và quá trình cải cách hành chính.

Kết quả giám định thể hiện trong khoảng thời gian từ ngày 10-2-2025 đến ngày 15-3-2025, Huyền đăng tải tổng cộng 50 bài viết trên mạng xã hội Facebook, 40 video trên mạng xã hội Tiktok là xuyên tạc, sai sự thật, xâm phạm lợi ích hợp pháp của Nhà nước, ảnh hưởng đến uy tín của tổ chức Đảng, chính quyền địa phương.

Hành vi của Nguyễn Phương Huyền vi phạm Điều 8 Luật An ninh mạng năm 2018; Điều 12 Luật Viễn thông năm 2009; Điều 12 Luật Công nghệ thông tin năm 2006; Điều 5 Nghị định 72/2013 quy định Quản lý, cung cấp, sử dụng dịch vụ Internet và thông tin mạng.

Căn cứ vào tài liệu chứng cứ có trong hồ sơ vụ án, các tình tiết tăng nặng giảm nhẹ và kết quả tranh tụng tại tòa, Hội đồng xét xử đã tuyên phạt bị cáo Huyền hai năm ba tháng tù về tội lợi dụng các quyền tự do dân chủ xâm phạm lợi ích của Nhà nước, quyền, lợi ích hợp pháp của tổ chức, cá nhân (Điều 331 Bộ luật Hình sự năm 2015 sửa đổi, bổ sung năm 2017).

Các mạng xã hội và nền tảng trực tuyến hiện đang tăng cường kiểm soát và loại bỏ các sản phẩm thông tin, hình ảnh do trí tuệ nhân tạo (AI) tạo ra nhằm bảo vệ người dùng khỏi những lừa đảo trực tuyến. Đại diện của các nhà mạng và hãng công nghệ cho rằng đã đến lúc phải nhận thức rõ về giá trị của thông tin xác thực do con người tạo ra và những sản phẩm giả lập từ AI.

Sự phát triển nhanh chóng của AI trong thời gian gần đây đã tạo ra nguy cơ nhầm lẫn giữa thông tin thật và giả, vi phạm bản quyền sáng tạo và tạo ra môi trường nguy hiểm cho người dùng. Lực lượng an ninh mạng châu Âu đã chỉ ra rằng các sản phẩm thông tin do AI tạo ra lan truyền trên mạng đã gây ra sự nhầm lẫn ở người dùng, đặc biệt là thế hệ trẻ.

Các dạng thông tin như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp, lệnh tìm kiếm đang được sử dụng nhiều hơn, biến công cụ AI thành thông minh hơn. Tuy nhiên, hệ lụy là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng một cách máy móc, gây ra nhầm lẫn, sai lệch.

Một số nhà nghiên cứu đã thử dùng AI vào việc chẩn đoán bệnh tật, sử dụng phác đồ y tế, chọn mua thuốc và thu được kết quả tổng hợp thông tin đáng tin cậy. Tuy nhiên, nếu không có sự tham vấn, kiểm chứng lại từ người có chuyên môn, sẽ có nhiều người nhầm lẫn và gặp nguy hiểm.

Các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị, lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày khéo léo và trôi chảy, dễ đánh lừa người dùng.

Điều này dễ dẫn đến nghi ngờ của người dùng AI khi tiếp cận vấn đề thời sự, xã hội và kiểm chứng lịch sử. Tất cả cho thấy dữ liệu tổng hợp là nguồn khai thác chính của AI, nhưng không phải dữ liệu nào cũng chính xác. Nếu có công cụ AI được nhiều nhóm người dùng cố tình đưa dữ liệu sai lệch, tương tác nhiều lần, sẽ tích hợp thông tin không chính xác và gây hệ lụy.

Các tổ chức nghiên cứu, ứng dụng đã kiến nghị mạng xã hội, môi trường chia sẻ thông tin, công nghệ phải kiểm tra sản phẩm từ AI. Trường học, viện nghiên cứu, thư viện số, nhà xuất bản đã vào cuộc ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế.

Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích, sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc. Cảnh báo của cơ quan an ninh mạng về nguy cơ người dùng bị lừa đảo, tấn công mạng, gây nhầm lẫn thông tin và hiểu sai sự việc khi sử dụng dữ liệu, sản phẩm do AI tạo ra.

Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng, tỉnh táo trước dữ liệu mơ hồ, nhất là có dấu hiệu do công cụ AI soạn. Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin, cảm xúc người dùng.

Theo cơ quan chức năng, thanh lọc thông tin tạo ra từ AI, bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn, lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng.