Chuyên gia cảnh báo thủ đoạn lợi dụng AI tạo sinh để thao túng nhận thức người dùng
Trong khuôn khổ Lễ khởi động Chiến dịch TinAI? - Kiểm trước tin sau, đồng thời ra mắt bản tin “Thật - Giả, kiểm chứng” diễn ra sáng 31/7, TS. Đoàn Trung Sơn, Giám đốc chương trình An ninh mạng và An toàn thông tin, Trường Công nghệ thông tin, Đại học Phenikaa đã chỉ ra những thủ đoạn lợi dụng AI tạo sinh để sản xuất tin giả, thao túng nhận thức cũng như kỹ năng người dùng cần trang bị khi tiếp cận thông tin trên không gian mạng.
Trong khuôn khổ Lễ khởi động Chiến dịch TinAI? - Kiểm trước tin sau, đồng thời ra mắt bản tin “Thật - Giả, kiểm chứng” diễn ra sáng 31/7, TS. Đoàn Trung Sơn, Giám đốc chương trình An ninh mạng và An toàn thông tin, Trường Công nghệ thông tin, Đại học Phenikaa đã chỉ ra những thủ đoạn lợi dụng AI tạo sinh để sản xuất tin giả, thao túng nhận thức cũng như kỹ năng người dùng cần trang bị khi tiếp cận thông tin trên không gian mạng.
Đánh vào cảm xúc để vượt qua “hàng rào” cảnh giác
.jpg)
Theo TS. Đoàn Trung Sơn, sự phát triển của AI tạo sinh đang tạo điều kiện để các đối tượng xấu sản xuất hàng loạt nội dung giả mạo dưới nhiều hình thức, từ văn bản, hình ảnh đến âm thanh, video.
Khi kết hợp với khả năng lan truyền nhanh của mạng xã hội, những nội dung này có thể tiếp cận đồng thời nhiều nhóm người dùng, đặc biệt là những người hạn chế về kỹ năng công nghệ và khả năng kiểm chứng thông tin.
Đáng chú ý, thủ đoạn hiện nay không chỉ dừng ở việc tạo ra nội dung giả mà còn hướng tới thao túng cảm xúc và khai thác niềm tin của người dùng.
Theo chuyên gia, khi phần lớn người dùng đã hình thành nhận thức nhất định về các kịch bản lừa đảo phổ biến, tội phạm mạng có xu hướng chuyển trọng tâm sang khai thác yếu tố tâm lý, cảm xúc của từng nhóm đối tượng để tăng khả năng thành công.
“Các nhóm tội phạm trực tuyến đang hướng tới việc khai thác từ khía cạnh tâm lý, cảm xúc của từng nhóm đối tượng cụ thể. Khi đó, hiệu quả của các kịch bản lừa đảo sẽ trở nên rất lớn”, TS. Đoàn Trung Sơn phân tích.
Bên cạnh cảm xúc, các đối tượng còn có thể dựa vào những niềm tin đã hình thành trong cộng đồng để khiến thông tin giả trở nên thuyết phục. Một nội dung càng phù hợp với tâm lý, quan điểm hoặc xu hướng đang được xã hội quan tâm càng dễ tạo cảm giác “đúng” và thúc đẩy người dùng chia sẻ, tiếp tục lan truyền.
TS. Đoàn Trung Sơn cho rằng đây cũng là một điểm yếu đáng lưu ý của con người khi chuyển từ môi trường thực sang môi trường số. Nếu trong đời sống thực, con người có thể sử dụng nhiều giác quan và tương tác trực tiếp để đánh giá sự vật, thì trên không gian mạng, người dùng chủ yếu tiếp nhận thông tin thông qua hình ảnh và âm thanh. “Trên thế giới mạng, chúng ta chỉ có thể nghe nhìn và phải đưa ra quyết định dựa trên thị giác và thính giác. Điều đó hạn chế khả năng đưa ra một quyết định chính xác”, ông nói.
Theo chuyên gia, khi AI có thể tạo ra hình ảnh, âm thanh, văn bản ngày càng giống thật, việc chỉ dựa vào những gì mắt thấy, tai nghe để xác định độ tin cậy của thông tin sẽ ngày càng khó khăn. Vì vậy, nguy cơ người dùng tiếp nhận hoặc đưa ra quyết định dựa trên những nội dung sai lệch, giả mạo cũng gia tăng.
Đừng vội tin chỉ vì nội dung có nhiều lượt thích, chia sẻ và bình luận
Trước câu hỏi về khả năng nhận diện tin giả trong thời đại AI, TS. Đoàn Trung Sơn cho rằng hiện chưa có một công nghệ đủ tin cậy để giúp người dùng tự động xác định đâu là thông tin thật, đâu là thông tin giả trong mọi trường hợp.
Theo ông, người dùng hiện có xu hướng đánh giá độ tin cậy của thông tin dựa trên lượt thích, lượt chia sẻ, bình luận, đánh giá hoặc uy tín của KOL, người bán hàng, doanh nghiệp. Tuy nhiên, đây không phải những căn cứ đủ chắc chắn trong bối cảnh AI tạo sinh có thể tạo ra hàng loạt nội dung giả mạo với mức độ chân thực cao.
“Ngày hôm nay nội dung là do AI tạo ra và chính điều đó khiến việc đánh giá độ tin cậy của nội dung trở nên khó khăn hơn”, chuyên gia nhận định.
TS. Đoàn Trung Sơn cũng lưu ý rằng ngay cả các mô hình AI cũng không nên được xem là “trọng tài cuối cùng” để xác minh thông tin. Các mô hình này tạo câu trả lời dựa trên thuật toán và dữ liệu đã được huấn luyện, do đó vẫn có khả năng đưa ra thông tin không chính xác. Thay vì vội vàng tin hoặc sử dụng một công cụ AI khác để kiểm chứng, người dùng cần hình thành một phản xạ quan trọng: dừng lại trước khi đưa ra quyết định.
“Bước đầu tiên là chúng ta hãy kiểm chứng bằng cách dừng lại và xem nội dung đó có thực sự chính xác hay không, thông qua việc xác minh từ nhiều nguồn khác nhau trước khi đưa ra quyết định”, TS. Đoàn Trung Sơn khuyến nghị.
Đặc biệt, với những thông tin liên quan đến chuyển tiền, đầu tư, tài chính hoặc cung cấp dữ liệu cá nhân, người dùng cần thận trọng hơn, chủ động xác minh thông qua nhiều nguồn đáng tin cậy. Trong trường hợp liên quan đến chính sách, quy định hoặc những vấn đề cần xác nhận chính thức, người dân nên tìm đến cơ quan nhà nước hoặc đơn vị có thẩm quyền thay vì chỉ dựa vào thông tin lan truyền trên mạng xã hội.
Trang bị kỹ năng AI và an toàn thông tin cho sinh viên
Chia sẻ về hoạt động tại Đại học Phenikaa, TS. Đoàn Trung Sơn cho biết nhà trường đang đẩy mạnh ứng dụng AI trong hoạt động đào tạo, nghiên cứu cũng như các lĩnh vực khác. Tuy nhiên, cùng với những lợi ích mà AI mang lại, nhà trường cũng nhận diện rõ những rủi ro đi kèm, trong đó có tin giả, lừa đảo trực tuyến và việc lạm dụng AI.
Với các ngành chuyên sâu, sinh viên được đào tạo về AI, an ninh mạng và an toàn thông tin nhằm hiểu rõ cách thức công nghệ vận hành cũng như những nguy cơ có thể phát sinh. Đối với sinh viên các ngành khác, nhà trường triển khai các chương trình tọa đàm, mời chuyên gia và KOL chia sẻ về phương thức, thủ đoạn của tội phạm mạng, qua đó nâng cao nhận thức và kỹ năng tự bảo vệ trên không gian số.
Theo TS. Đoàn Trung Sơn, AI cũng đang đặt ra những thách thức mới đối với chính hoạt động giáo dục. Các công cụ như ChatGPT, Gemini có thể hỗ trợ sinh viên học tập nhưng đồng thời cũng có nguy cơ bị lợi dụng để gian lận trong kiểm tra, thi cử. Điều này đòi hỏi nhà trường phải liên tục cập nhật phương thức đánh giá nhằm phản ánh chính xác năng lực thực chất của người học.
Không chỉ trong giáo dục, AI còn có thể tác động đến hoạt động tuyển sinh và truyền thông của các tổ chức, doanh nghiệp. Những nội dung trái chiều, thông tin sai lệch được tạo bằng AI hoặc phát tán qua các tài khoản giả mạo có thể gây ảnh hưởng đến uy tín và quá trình tiếp cận thông tin của người học.
Từ thực tế này, chuyên gia cho rằng ứng dụng AI hiệu quả phải đi cùng năng lực nhận diện rủi ro, kỹ năng kiểm chứng thông tin và trách nhiệm của người dùng. Đây cũng là một trong những yêu cầu quan trọng khi xã hội bước sâu hơn vào kỷ nguyên AI.
