Thế Giới Đen Tối Của Công Nghệ AI: Bất Ngờ Với Google và OpenAI
Trong nền văn hóa số hiện đại, các công nghệ AI đang phát triển mạnh mẽ, đặc biệt là lĩnh vực tạo hình ảnh chân thực từ dữ liệu. Tuy nhiên, sự phát triển này cũng mang đến những điều đáng lo ngại, một trong số đó chính là khả năng mà Google’s and OpenAI’s Chatbots Can Strip Women in Photos Down to Bikinis. Trong bối cảnh ngày càng nhiều người dùng thử nghiệm các công cụ tạo hình ảnh, một mối đe dọa mới đang nổi lên từ việc sử dụng không đúng cách các chatbot AI.
Đằng Sau Những Hình Ảnh Khiêu Gợi
Gần đây, những người dùng chatbots nổi tiếng như Gemini của Google và ChatGPT của OpenAI đã thực hiện những hành động gây tranh cãi. Họ tạo ra các hình ảnh giả mạo không được phép từ những bức ảnh của phụ nữ mặc trang phục kín đáo, biến chúng thành những hình ảnh khiêu gợi trong trang phục bikini. Điều này không chỉ xâm phạm quyền riêng tư của những người phụ nữ trong ảnh mà còn đặt ra câu hỏi nghiêm túc về đạo đức trong việc sử dụng công nghệ AI.
Các hình ảnh giả mạo (deepfake) này gần như không có sự đồng ý của các đối tượng trong hình. Có một thực trạng đáng báo động là một số người trong cộng đồng còn hướng dẫn nhau cách sử dụng AI để “đến gần” hơn với mục tiêu này. Chẳng hạn, trên một diễn đàn Reddit đã bị xóa, một bài viết với tiêu đề “tạo hình ảnh khiêu dâm bằng Gemini thật dễ dàng” đã thu hút sự chú ý của nhiều người.
Thảo Luận Về Quyền Riêng Tư
Sự khởi đầu của những đề nghị này bắt nguồn từ một nhu cầu khám phá công nghệ, nhưng không thể phủ nhận rằng đã có những ranh giới bị vượt qua. Một trong những yêu cầu điển hình là một người dùng đã đăng tải hình ảnh của một người phụ nữ mặc sari Ấn Độ và yêu cầu ai đó “xoá bỏ” trang phục của cô ấy và thay bằng bikini. Một người khác đã đáp ứng yêu cầu này bằng một hình ảnh deepfake. Kết quả là một cuộc tranh cãi lớn đã xảy ra, khiến cho Reddit phải can thiệp và xóa bỏ bài viết đó.
Nỗ Lực Của Các Nền Tảng
Theo một phát ngôn viên của Reddit, các quy tắc của nền tảng này cấm mọi hình thức khiêu dâm không được sự đồng ý, và subreddit nơi các cuộc thảo luận này diễn ra, r/ChatGPTJailbreak, đã có hơn 200.000 người theo dõi trước khi bị cấm.
Khi các công cụ AI tiếp tục được phát triển, khả năng tạo ra những hình ảnh giả mạo hại người vẫn tiếp tục là một vấn đề nhức nhối. Hàng triệu người đã truy cập vào những trang web “nudify” độc hại, nơi người dùng chỉ cần tải lên hình ảnh thực tế và yêu cầu chúng “cởi bỏ” trang phục. Thực tế đáng buồn là điều này liên quan đến sự xâm phạm quyền riêng tư của rất nhiều phụ nữ.
Giới Hạn Của AI
Dù cho xAI’s Grok là một trường hợp nổi bật, hầu hết các chatbot mainstream như Gemini và ChatGPT đều không cho phép tạo ra hình ảnh khiêu dâm trong đầu ra của AI. Những công cụ này cũng đã được trang bị với các rào chắn nhất định nhằm ngăn chặn việc tạo ra các hình ảnh độc hại.
Trong tháng 11, Google đã phát hành Nano Banana Pro, một mô hình hình ảnh mới với khả năng điều chỉnh và tạo ra những hình ảnh chân thực. Trong khi đó, OpenAI cũng đã giới thiệu mô hình hình ảnh ChatGPT Images, cho thấy sự cạnh tranh giữa các gã khổng lồ công nghệ trong lĩnh vực AI đang diễn ra mạnh mẽ.
Sự Nở Rộ Của Thông Tin Sai Lệch
Điều đáng lo ngại là, khi những công cụ này phát triển, việc tạo ra các hình ảnh giả mạo trở nên dễ dàng hơn bao giờ hết. Một số người đã thảo luận trên Reddit về cách để vượt qua các rào chắn của AI nhằm tạo ra những bức hình khiêu dâm, ví dụ như bằng cách điều chỉnh trang phục để làm cho vẻ ngoài của ai đó trở nên gợi cảm hơn.
Trong các thử nghiệm hạn chế của Redzone nhằm xác nhận rằng những kỹ thuật này hoạt động trên Gemini và ChatGPT, chúng tôi đã thành công trong việc biến những hình ảnh của phụ nữ mặc trang phục kín đáo thành những hình ảnh bikini chỉ bằng những hướng dẫn đơn giản bằng tiếng Anh.
Những Phát Biểu Từ Google và OpenAI
Khi được hỏi về việc người dùng có thể tạo ra hình ảnh deepfake bikini bằng Gemini, một phát ngôn viên của Google cho biết công ty có các chính sách rõ ràng cấm việc sử dụng công cụ AI của mình để tạo ra nội dung khiêu dâm. Họ khẳng định rằng các công cụ của Google đang không ngừng cải thiện để phù hợp hơn với các chính sách của mình.
Còn đối với OpenAI, sau khi được hỏi về việc tạo ra hình ảnh deepfake bikini bằng ChatGPT, một phát ngôn viên cho biết công ty đã nới lỏng một số rào chắn của ChatGPT trong năm nay liên quan đến việc điều chỉnh cơ thể người lớn trong các tình huống phi khiêu dâm. Tuy nhiên, họ cũng nhấn mạnh rằng người dùng ChatGPT không được phép làm thay đổi hình ảnh của người khác mà không có sự đồng ý và công ty sẽ có biện pháp đối phó với các hình ảnh deepfake khiêu dâm, bao gồm cả việc cấm tài khoản.
Tình Hình Gây Lo Ngại Trên Các Diễn Đàn Trực Tuyến
Cuộc thảo luận trực tuyến về việc tạo ra hình ảnh khiêu dâm vẫn đang rất sôi nổi. Mới đây, trong một thảo luận trên subreddit r/GeminiAI, một người dùng đã chia sẻ hướng dẫn cho một người khác về cách thay đổi trang phục của phụ nữ trong hình ảnh thành bikini. Tuy nhiên, Reddit đã xóa bình luận này ngay khi chúng tôi báo cáo.
Chuyên gia Corynne McSherry, giám đốc pháp lý tại Electronic Frontier Foundation, đã chỉ ra rằng “những hình ảnh bị tình dục hóa một cách lạm dụng” là một trong những mối nguy hiểm cốt lõi của các công cụ tạo hình ảnh AI.
Bà nhấn mạnh rằng những công cụ này có thể được sử dụng cho nhiều mục đích khác ngoài deepfake và việc tập trung vào cách mà các công cụ này được sử dụng là rất quan trọng, cũng như việc “giữ cho người dân và các công ty có trách nhiệm” khi gây ra những tác hại tiềm tàng.
[https://www.wired.com/story/google-and-openais-chatbots-can-strip-women-in-photos-down-to-bikinis/]
