Hiện tượng này đặt ra những lo ngại về nguy cơ bôi nhọ qua việc ghép mặt ai đó vào các alip khiêu dâm nhưng những người ủng hộ công nghệ vẫn khăng khăng deepfake chỉ là công nghệ, có gây hại hay không nằm ở tâm địa của người dùng.
Công nghệ deepfake đã được tận dụng triệt để trong ngành công nghiệp khiêu dâm. Một trong số đó là công ty khiêu dâm Naughty America. Mới đây, hãng đã tung ra một dịch vụ cho phép khách hàng trả tiền để tùy chỉnh clip dành cho người lớn theo ý thích của họ bằng cách sử dụng AI. Họ sẽ có thể tự chèn chính khuôn mặt của họ vào các cảnh phim cùng với các nam, nữ diễn viên yêu thích hoặc chỉnh sửa nền của clip hiện có. “Chúng tôi nhận thấy sự tùy biến và cá nhân hóa sẽ được ưa chuộng trong tương lai”, giám đốc điều hành của Naughty America, Andreas Hronopoulos, nói trong một cuộc phỏng vấn.
Công ty đã demo dịch vụ này với một cặp clip mẫu. Một clip pha trộn khuôn mặt của hai diễn viên và một clip hoán đổi nền của cảnh phim từ phòng ngủ ra bãi biển. Đây không phải là cách sử dụng công nghệ tiên tiến nhất, nhưng việc pha trộn khuôn mặt tương đối liền mạch và nó cho thấy việc ứng dụng AI trong video mạnh mẽ đến như thế nào.
Những khách hàng muốn chèn hình ảnh họ vào một cảnh phim sẽ phải gửi cho Naughty America một bộ ảnh và video của chính họ, bao gồm các nét mặt khác nhau, giúp phần mềm sao chép chính xác sự giống nhau của họ. Công ty cho biết họ sẽ nhận được sự đồng ý pháp lý của các bên tham gia. Các chỉnh sửa đơn giản sẽ chỉ tốn vài trăm USD và các thay đổi phức tạp hơn sẽ có phí hàng nghìn USD.
Tuy nhiên, theo trang công nghệ The Verge, có một số vấn đề tiềm ẩn với dịch vụ này. Chẳng hạn, làm thế nào Naughty America biết ảnh và video do khách hàng gửi đến đã nhận được sự đồng ý? Chúng cũng có thể đến dưới dạng giả mạo và được một bên thứ ba gửi lên. The Verge cho biết đã liên hệ với Naughty America để làm rõ vấn đề nhưng chưa nhận được câu trả lời.
Ngoài ra, còn một vấn đề cũng rất quan trọng là Naughty America phải đánh dấu rõ ràng các video đã chỉnh sửa, để chúng không bị nhầm lẫn với các clip khiêu dâm gốc. Đây là điều mà một số công ty và nhà nghiên cứu đang xem xét, đặc biệt khi các chuyên gia lo ngại chỉnh sửa video bằng công nghệ AI sẽ được sử dụng để tạo video giả nhằm mục đích thao túng chính trị.
Nhưng Naughty America lại có ý nói rằng đây chỉ là một công dụng tự nhiên của công nghệ. “Nó chỉ là chỉnh sửa, đó là tất cả”, Hronopoulos nói về khái niệm “deepfake”. “Mọi người đã chỉnh sửa khuôn mặt của họ trong các bức ảnh kể từ khi có internet”, ông nói. “Deepfake không gây tổn thương, chỉ những người sử dụng deepfake mới gây tổn thương cho người khác”.
Hoàng Lan
Công nghệ deepfake đã được tận dụng triệt để trong ngành công nghiệp khiêu dâm. Một trong số đó là công ty khiêu dâm Naughty America. Mới đây, hãng đã tung ra một dịch vụ cho phép khách hàng trả tiền để tùy chỉnh clip dành cho người lớn theo ý thích của họ bằng cách sử dụng AI. Họ sẽ có thể tự chèn chính khuôn mặt của họ vào các cảnh phim cùng với các nam, nữ diễn viên yêu thích hoặc chỉnh sửa nền của clip hiện có. “Chúng tôi nhận thấy sự tùy biến và cá nhân hóa sẽ được ưa chuộng trong tương lai”, giám đốc điều hành của Naughty America, Andreas Hronopoulos, nói trong một cuộc phỏng vấn.
Công ty đã demo dịch vụ này với một cặp clip mẫu. Một clip pha trộn khuôn mặt của hai diễn viên và một clip hoán đổi nền của cảnh phim từ phòng ngủ ra bãi biển. Đây không phải là cách sử dụng công nghệ tiên tiến nhất, nhưng việc pha trộn khuôn mặt tương đối liền mạch và nó cho thấy việc ứng dụng AI trong video mạnh mẽ đến như thế nào.
Những khách hàng muốn chèn hình ảnh họ vào một cảnh phim sẽ phải gửi cho Naughty America một bộ ảnh và video của chính họ, bao gồm các nét mặt khác nhau, giúp phần mềm sao chép chính xác sự giống nhau của họ. Công ty cho biết họ sẽ nhận được sự đồng ý pháp lý của các bên tham gia. Các chỉnh sửa đơn giản sẽ chỉ tốn vài trăm USD và các thay đổi phức tạp hơn sẽ có phí hàng nghìn USD.
Tuy nhiên, theo trang công nghệ The Verge, có một số vấn đề tiềm ẩn với dịch vụ này. Chẳng hạn, làm thế nào Naughty America biết ảnh và video do khách hàng gửi đến đã nhận được sự đồng ý? Chúng cũng có thể đến dưới dạng giả mạo và được một bên thứ ba gửi lên. The Verge cho biết đã liên hệ với Naughty America để làm rõ vấn đề nhưng chưa nhận được câu trả lời.
Ngoài ra, còn một vấn đề cũng rất quan trọng là Naughty America phải đánh dấu rõ ràng các video đã chỉnh sửa, để chúng không bị nhầm lẫn với các clip khiêu dâm gốc. Đây là điều mà một số công ty và nhà nghiên cứu đang xem xét, đặc biệt khi các chuyên gia lo ngại chỉnh sửa video bằng công nghệ AI sẽ được sử dụng để tạo video giả nhằm mục đích thao túng chính trị.
Nhưng Naughty America lại có ý nói rằng đây chỉ là một công dụng tự nhiên của công nghệ. “Nó chỉ là chỉnh sửa, đó là tất cả”, Hronopoulos nói về khái niệm “deepfake”. “Mọi người đã chỉnh sửa khuôn mặt của họ trong các bức ảnh kể từ khi có internet”, ông nói. “Deepfake không gây tổn thương, chỉ những người sử dụng deepfake mới gây tổn thương cho người khác”.
Hoàng Lan