Theo quy định mới, những cá nhân bị kết tội sản xuất hình ảnh deepfake khiêu dâm mà không có sự đồng ý, ngay cả khi họ không chia sẻ chúng, sẽ phải đối mặt với việc bị truy tố và có thể bị phạt không giới hạn. Hơn nữa, việc phổ biến những tài liệu như vậy có thể dẫn đến án phạt tù, từ đó gửi lời cảnh báo nghiêm khắc đến những người có khả năng phạm tội.
Động lực đằng sau quy định này bắt nguồn từ những tiến bộ nhanh chóng của trí tuệ nhân tạo, đã tạo điều kiện thuận lợi cho việc tạo và phổ biến các hình ảnh và video bằng công nghệ deepfake. Chúng ngày càng được sử dụng làm công cụ quấy rối, ép buộc, đặc biệt nhắm vào phụ nữ và trẻ em gái. Nhận thấy mức độ nghiêm trọng của tình hình, Vương quốc Anh đã nâng bạo lực đối với phụ nữ và trẻ em gái lên mức mối đe dọa quốc gia, buộc cơ quan thực thi pháp luật phải ưu tiên xóa bỏ vấn nạn này.
Bà Laura Farris, Bộ trưởng phụ trách bảo vệ nạn nhân, nhấn mạnh mệnh lệnh đạo đức đằng sau các quy định mới, lên án việc sản xuất tài liệu deepfake không chỉ là vô đạo đức, mà còn có tính chất tội phạm. Bằng cách hình sự hóa hành động như vậy, xứ sở sương mù muốn triệt phá tận gốc vấn nạn trên, đem lại công lý cho những nạn nhân đã phải chịu đựng sự sỉ nhục hoặc đau khổ dưới bàn tay của những kẻ săn mồi kỹ thuật số.
Hơn nữa, những nỗ lực của Chính phủ còn vượt ra ngoài việc chỉ giải quyết nội dung deepfake. Nhận thấy phạm vi lạm dụng kỹ thuật số rộng hơn, các tội hình sự mới đang được đưa ra nhằm trừng trị những cá nhân chụp hoặc ghi lại những hình ảnh thân mật mà không có sự đồng ý. Ngoài ra, Vương quốc Anh cũng sẽ xử phạt những người lắp đặt thiết bị nhằm mục đích ghi hình lén lút…
Một khía cạnh đáng chú ý của quy định mới là việc đưa ra tình tiết tăng nặng theo luật định đối với người phạm tội gây ra cái chết cho nạn nhân do hành vi lạm dụng, hạ nhục hoặc nguy hiểm về tình dục. Điều này phản ánh nhận thức sâu sắc về mối liên hệ giữa lạm dụng trực tuyến và hậu quả trong thế giới thực, bảo đảm rằng thủ phạm phải đối mặt với hậu quả thích đáng cho hành động của họ.
Công nghệ Deepfake xuất hiện vào năm 2017 và nhanh chóng trở thành chủ đề nóng trong cộng đồng công nghệ thông tin. Từ đó đến nay, Deepfake đã trở thành một trong những mối đe dọa lớn nhất cho an ninh mạng và đời sống cá nhân của con người.
Deepfake là từ ghép của hai từ "deep learning" (học sâu) và "fake" (giả). Deep learning là một phương pháp học máy cho phép máy tính học thông qua việc phân tích và suy luận từ các tập dữ liệu lớn. Trong khi đó, "fake" có nghĩa là giả mạo hoặc làm giả. Deepfake là một kỹ thuật kết hợp giữa các thuật toán học sâu và học máy với mục đích tạo ra những video, hình ảnh hoặc âm thanh giả mạo một cách rất chân thực.
