Ten Asia xác nhận rằng đoạn video nhạy cảm của thành viên nhóm Blackpink, Lisa, đang lan truyền tại quán rượu 19+ Crazy Horse ở Paris, Pháp, được cho là một trường hợp "deepfake" (sử dụng công nghệ mô phỏng hình ảnh khuôn mặt con người thông qua trí tuệ nhân tạo).

Theo thông tin truyền thông, các video deepfake được tạo ra thông qua công nghệ AI tiên tiến, làm cho việc phân biệt giữa nội dung giả mạo và nội dung thực tế trở nên ngày càng khó khăn.

Nhiều người nổi tiếng đã trở thành nạn nhân của tội phạm deepfake, tuy nhiên, do khả năng theo dõi và truy cứu trách nhiệm pháp lý khó khăn, nên hiếm khi có trường hợp nào phải chịu hình phạt thực sự, dẫn đến tình trạng này lặp đi lặp lại.

Theo Ten Asia, vào ngày 15/12, có nhiều người nghi ngờ rằng Lisa đã "lột" đồ trong một buổi biểu diễn tại quán rượu 19+ Crazy Horse ở Paris, Pháp. Một đoạn video được lan truyền trên các trang web người lớn và một số cộng đồng tại Hàn Quốc, có gắn logo "Crazy Horse," đã tạo ra sự hiểu lầm cho nhiều người mạng, khi họ tưởng rằng đó là một video biểu diễn thực tế của nữ ca sĩ.

Thực tế, vào cuối tháng 10, em út Blackpink đã có 5 đêm diễn tại Crazy Horse - một trong 3 quán rượu hàng đầu ở Paris, cùng với Moulin Rouge và Lido. Nơi đây nổi tiếng với sân khấu hoành tráng và những màn trình diễn khỏa thân táo bạo của các vũ công nữ.

Ngay sau các buổi diễn, hàng loạt thông tin trái chiều xoay quanh màn biểu diễn của Lisa được đăng tải, từ việc cô có màn biểu diễn táo bạo, cho đến việc diện trang phục "hở quá đà"...

Tuy nhiên, việc nữ ca sĩ bị lan truyền clip lộ ngực tại quán rượu nổi tiếng gây bất ngờ, khiến Ten Asia vào cuộc, minh oan cho cô. Theo đó, thông qua KaiCatch - một ứng dụng phát hiện deepfake được phát triển tại KAIST cho thấy kết quả xác nhận rằng video này 100% là video deepfake.

Theo các nguồn tin của Ten Asia, không chỉ Lisa mà trên một trang web bất hợp pháp, khuôn mặt của nhiều idol Kpop như SNSD, TWICE, Red Velvet, NewJeans, IVE, Blackpink, IU, aespa... đang được lan truyền bất hợp pháp. Theo báo Hàn, những người nổi tiếng có thể trở thành mục tiêu của tội phạm bất cứ lúc nào.

Tại Hàn Quốc, việc sản xuất video tổng hợp bất hợp pháp có thể bị phạt tới 5 năm hoặc phạt tiền lên tới 50 triệu won (khoảng 936 triệu đồng). Hơn nữa, việc bán chúng có thể bị phạt tù lên tới 7 năm. Tuy nhiên, việc tìm ra các trường hợp lạm dụng công nghệ AI - như phát tán nội dung nhạy cảm là một thách thức.

Ngoài ra, nhiều trang web sản xuất hình ảnh AI có máy chủ ở nước ngoài, gây khó khăn cho việc bắt giữ những người chịu trách nhiệm sản xuất nội dung phản cảm.