Cảnh báo tình trạng lợi dụng công nghệ AI tạo dựng, phát tán thông tin giả mạo trên không gian mạng

Sự phát triển của AI, đặc biệt là công nghệ Deepfake, khiến việc tạo dựng hình ảnh, video, âm thanh giả mạo ngày càng dễ dàng và tinh vi. Chỉ với những thao tác đơn giản, người dùng có thể tạo ra các sản phẩm có hình thức giống thật, từ hình ảnh, giọng nói đến những tình huống chưa từng xảy ra. Đáng chú ý, không ít người còn đăng tải, chia sẻ lại những nội dung chưa được kiểm chứng nhằm thu hút lượt xem, lượt thích, tương tác, khiến thông tin sai sự thật tiếp tục lan truyền rộng rãi trên mạng xã hội.

Qua công tác nắm tình hình trên không gian mạng, Phòng An ninh mạng, Công an tỉnh Hưng Yên đã phát hiện, xác minh một số trường hợp vi phạm. Điển hình, ngày 27/10/2026, lực lượng Công an phát hiện tài khoản Facebook và TikTok do L.V.Đ (sinh năm 1989, trú tại xã Hoàng Hoa Thám, tỉnh Hưng Yên) quản lý, sử dụng, đăng tải video, hình ảnh sai sự thật về hình ảnh của lực lượng Công an nhân dân. Qua xác minh, các nội dung này được đối tượng sử dụng công cụ AI và công nghệ Deepfake để cắt ghép, tạo dựng, lồng ghép âm thanh, hình ảnh giả mạo nhằm thu hút lượt xem, lượt thích phục vụ mục đích cá nhân.

Một vụ việc khác liên quan đến hình ảnh bản đồ sắp xếp đơn vị hành chính cấp xã của tỉnh Hưng Yên lan truyền trên Facebook. Hình ảnh thể hiện phương án sắp xếp 104 xã, phường thành 39 xã, phường mới, được phân chia địa giới, tô màu và ghi tên địa danh cụ thể, tạo cảm giác như một phương án chính thức đã được cơ quan có thẩm quyền xây dựng, công bố. Phòng An ninh mạng đã phối hợp với Sở Nội vụ tỉnh Hưng Yên xác minh và làm rõ hình ảnh phương án sắp xếp 104 xã, phường thành 39 đơn vị đang lan truyền trên mạng xã hội là thông tin sai sự thật. Đồng thời, Công an tỉnh xác định, xử lý vi phạm hành chính 02 trường hợp đăng tải lại hình ảnh nhằm tăng tương tác, nhưng không kiểm chứng thông tin với cơ quan có thẩm quyền.

Hai vụ việc cho thấy, thông tin giả mạo trên không gian mạng không chỉ xuất phát từ người trực tiếp sử dụng AI tạo dựng nội dung mà còn được phát tán rộng hơn thông qua những tài khoản đăng tải, chia sẻ lại mà không kiểm chứng. Đáng chú ý, hình ảnh, video có hình thức chân thực, được nhiều tài khoản đăng tải hoặc có lượng tương tác lớn không đồng nghĩa với việc nội dung đã được xác thực. Dù không phải người tạo ra nội dung ban đầu, người đăng tải, chia sẻ thông tin sai sự thật vẫn có thể phải chịu trách nhiệm trước pháp luật.

Về chế tài xử lý, khoản 1, Điều 95 Nghị định số 174/2026/NĐ-CP ngày 15/5/2026 của Chính phủ quy định phạt tiền từ 20 triệu đồng đến 30 triệu đồng đối với tổ chức có hành vi lợi dụng mạng xã hội để cung cấp, chia sẻ thông tin giả mạo, sai sự thật, xuyên tạc, vu khống, xúc phạm uy tín của cơ quan, tổ chức, danh dự, nhân phẩm của cá nhân; cung cấp thông tin cổ súy tệ nạn xã hội, nội dung đồi trụy, thông tin kinh dị, rùng rợn; quảng cáo hàng hóa, dịch vụ bị cấm hoặc cung cấp hình ảnh bản đồ Việt Nam không thể hiện hoặc thể hiện không đúng chủ quyền quốc gia… Đối với cá nhân thực hiện hành vi tương tự, mức phạt bằng 1/2 mức phạt đối với tổ chức, tương ứng từ 10 triệu đồng đến 15 triệu đồng. Ngoài ra, người vi phạm còn có thể bị buộc gỡ bỏ thông tin vi phạm; trường hợp hành vi có dấu hiệu tội phạm, tùy tính chất, mức độ và hậu quả, có thể bị xem xét xử lý hình sự theo quy định của pháp luật.

Trước tình hình trên, Công an tỉnh Hưng Yên khuyến cáo người dân không sử dụng AI, Deepfake để tạo dựng, chỉnh sửa, phát tán hình ảnh, video, âm thanh giả mạo, sai sự thật nhằm câu tương tác, xuyên tạc hoặc xâm phạm danh dự, uy tín của tổ chức, cá nhân. Trước khi đăng tải, bình luận hoặc chia sẻ thông tin, cần chủ động kiểm tra nguồn gốc, đối chiếu với các nguồn thông tin chính thống; không lấy hình thức trình bày, số lượt tương tác hoặc việc nhiều tài khoản cùng đăng tải làm căn cứ xác thực.

Đối với những nội dung liên quan đến chủ trương, chính sách, hoạt động của cơ quan nhà nước, nhất là bản đồ, sơ đồ về quy hoạch, sắp xếp đơn vị hành chính, người dân chỉ nên tiếp nhận là thông tin chính thức khi đã được cơ quan có thẩm quyền xác nhận, công bố. Các quản trị viên trang, nhóm cộng đồng và người có ảnh hưởng trên mạng xã hội cần nâng cao trách nhiệm kiểm duyệt nội dung, không đăng tải hoặc tiếp tục chia sẻ thông tin chưa được kiểm chứng; kịp thời gỡ bỏ nội dung sai sự thật và thông báo cho cơ quan Công an khi phát hiện dấu hiệu vi phạm./.