Deepfake tràn lan - Không ai an toàn trước chiêu trò giả danh bằng AI

Giả giọng, nhái mặt, nhép miệng... AI giờ đây không chỉ để làm việc, để giải trí mà đang trở thành công cụ lừa đảo thương mại nguy hiểm. Hình ảnh người nổi tiếng, bác sĩ, thậm chí sư thầy đang bị AI mạo danh để bán hàng tràn lan trên mạng xã hội. Người thật không hay biết, còn người mua thì mất niềm tin.

Bị “mượn mặt” bán hàng

“Không cần biết đầu gối ban đầu như thế nào chỉ cần áp dụng phương pháp của chúng tôi, chúng tôi cam kết trong 7 ngày sẽ cải thiện rõ rệt, nếu hoàn toàn không có hiệu quả tôi sẵn sàng đền 1 tỷ đồng như một lời xin lỗi chân thành. Nếu bạn thật sự không thấy bất kỳ hiệu quả nào, chúng tôi cam kết hoàn tiền 100% mà chính tôi cũng sẵn sàng bồi thường 1 tỷ đồng, không phải ai cũng dám cam kết như vậy”, đó là lời chia sẻ của một nữ ca sĩ nổi tiếng quảng cáo cho một sản phẩm kem massage giảm đau khớp nhưng điều đáng nói, đoạn quảng cáo này được tạo hoàn toàn bằng AI.

Đoạn clip quảng cáo trên được một tài khoản TikTok có tên LShop sử dụng hình ảnh, giọng nói và ngôn ngữ hình thể của nữ ca sĩ một cách chân thực và không tài nào phát hiện ra được nếu không quan sát kỹ. Tài khoản này có gần 9.000 lượt theo dõi, 67.000 lượt thích và mỗi clip đều có hàng ngàn lượt xem. Riêng đoạn video “quảng cáo” mượn hình ảnh nữ ca sĩ nói trên đã thu hút hơn 1.000 lượt thích và gần 100 bình luận đặt mua.

Cũng với sản phẩm kem massage đó, các kênh bán hàng còn “sản xuất” thêm phiên bản deepfake khác, lần này là một bác sĩ. Trong clip, nhân vật cam kết chắc nịch: “Tôi là bác sĩ chỉnh hình uy tín nhất Hà Nội và tôi cam kết ngay cả tình trạng rách sụn chêm nghiêm trọng nhất cũng có thể được chữa khỏi hoàn toàn chỉ trong 3 ngày. Gel này đã được chứng nhận bởi hiệp hội chỉnh hình uy tín nhất Việt Nam”. Câu thoại này được AI tái dựng lại cho hàng loạt “bác sĩ” khác, khiến người xem dễ lầm tưởng là thật.

Clip thu hút gần 4.000 lượt yêu thích và hơn 120 bình luận nhưng khi chúng tôi nhắn tin đặt mua thử, tài khoản không phản hồi, cũng không có tương tác với người xem trong phần bình luận, chỉ để sản phẩm trong giỏ hàng để mua trực tiếp. Đáng chú ý, sản phẩm được rao bán có nguồn gốc từ Trung Quốc và thông tin sản phẩm rất mù mờ.

Từ ca sĩ, người nổi tiếng đến các bác sĩ đều bị các kênh bán hàng tạo clip AI giả danh để bán các sản phẩm liên quan sức khỏe

Không dừng lại ở đó, chiêu trò deepfake còn lan sang cả chuyện tâm linh. Một tài khoản TikTok mang tên Phật Pháp NM không chỉ đăng tải lại các bài giảng của thầy T.P.H. mà còn sử dụng công nghệ AI để dựng hình ảnh “thầy” rao bán các sản phẩm như lá bồ đề, vòng tay trầm hương.

Khi người xem để lại bình luận hỏi mua, kênh phản hồi: “Nếu như mọi chuyện chưa như ý thì con hãy vào phần trưng bày trên tài khoản thầy và con chọn thứ con cần, đừng tiếc một chút lẻ mà bỏ qua thứ lớn hơn con nhé”. Ngay sau đó, chính sư thầy này đã phải lên tiếng đính chính ông chưa từng quảng cáo hay liên quan đến các sản phẩm như vậy.

Lằn ranh giữa sáng tạo và xâm phạm quyền cá nhân

Chuyên gia an ninh mạng Ngô Minh Hiếu (Hiếu PC) thuộc Trung tâm Giám sát An toàn không gian mạng quốc gia (NCSC) cho biết, những đoạn clip quảng cáo giả mạo lan tràn trên mạng xã hội chủ yếu được tạo bằng các phần mềm Deepfake. Các phần mềm này không hề hiếm, thậm chí nhiều dịch vụ còn cung cấp sẵn gói với mức chi phí thấp và thao tác rất đơn giản. Dù có những ứng dụng tích cực trong lĩnh vực sáng tạo nội dung số và sản xuất truyền thông nhưng theo ông Hiếu vấn đề nằm ở chỗ một số đối tượng đã lợi dụng công nghệ này cho các mục đích tiêu cực như lừa đảo, giả mạo nhân thân, tung tin giả hoặc bôi nhọ người khác qua các video trông như thật.

Ông Hiếu cũng đưa ra một số dấu hiệu giúp nhận diện clip deepfake, chẳng hạn như biểu cảm khuôn mặt trong video có phần đơ cứng, khẩu hình và cử động miệng không khớp với lời thoại… Ông Hiếu cảnh báo rằng đã có những tình huống nghiêm trọng hơn khi AI bị dùng để ghép mặt nạn nhân vào video nhạy cảm nhằm mục đích uy hiếp, ép buộc và trục lợi.

Theo luật sư Trần Đức Phượng, đoàn Luật sư TPHCM, việc sử dụng AI để tạo hình ảnh người nổi tiếng (hoặc cá nhân cụ thể) mà không có sự đồng ý của họ là hành vi xâm phạm quyền nhân thân, cụ thể là quyền đối với hình ảnh, được quy định tại Điều 32 Bộ luật Dân sự 2015. Luật quy định: “Cá nhân có quyền đối với hình ảnh của mình. Việc sử dụng hình ảnh của cá nhân phải được người đó đồng ý. Việc sử dụng hình ảnh vì mục đích thương mại thì phải trả thù lao cho người có hình ảnh trừ trường hợp các bên có thỏa thuận khác”.

Như vậy, nếu chủ tài khoản mạng xã hội sử dụng hình ảnh do AI dựng lại từ ảnh thật, video cũ… để phục vụ việc quảng cáo, bán hàng mà không có sự cho phép thì đã vi phạm pháp luật. Việc sử dụng hình ảnh mà vi phạm quy định tại điều này thì người có hình ảnh có quyền yêu cầu tòa án ra quyết định buộc người vi phạm, cơ quan, tổ chức, cá nhân có liên quan phải thu hồi, tiêu hủy, chấm dứt việc sử dụng hình ảnh, bồi thường thiệt hại và áp dụng các biện pháp xử lý khác theo quy định của pháp luật.

CẨM NƯƠNG

Nguồn: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html