Philippines cấm quân đội sử dụng phần mềm tạo ảnh bằng trí tuệ nhân tạo

Ảnh minh họa.

Bộ trưởng Bộ Quốc phòng Philippines Gilberto Teodoro Jr. cảnh báo những ứng dụng mà yêu cầu người dùng gửi ít nhất 10 ảnh chụp bản thân rồi sử dụng thuật toán trí tuệ nhân tạo để tạo ra nhiều hình tượng khác nhau sử dụng khuôn mặt của người dùng.

"Những công cụ, ứng dụng trí tuệ nhân tạo thú vị, tưởng như vô hại này có thể bị lạm dụng để tạo ra các hồ sơ giả mạo, dẫn đến đánh cắp danh tính, thực hiện các vụ tấn công phi kỹ thuật (social engineering), tấn công lừa đảo và các hoạt động độc hại khác. Các ứng dụng như vậy tiềm ẩn rủi ro an ninh và quyền riêng tư nghiêm trọng", ông Teodoro nhấn mạnh.

Do đó, Bộ trưởng Gilberto Teodoro Jr. ra lệnh cho mọi nhân viên quốc phòng và quân sự không sử dụng các ứng dụng tạo ảnh trí tuệ nhân tạo và luôn cảnh giác khi chia sẻ bất kỳ thông tin gì trên mạng.

Hồi tháng 3/2023, tạp chí công nghệ Analytics Insights có bài viết cảnh báo về các ứng dụng tạo ảnh bằng trí tuệ nhân tạo có thể bị lợi dụng để tạo ra nội dung thúc đẩy phát tán thông tin sai sự thật trên mạng xã hội. Kẻ xấu có thể lợi dụng dữ liệu được tải lên ứng dụng để tạo hồ sơ mạng xã hội trông như thật để lừa đảo hoặc dùng các thuật toán trí tuệ nhân tạo nhằm tạo ra hình ảnh kêu gọi quyên góp mỗi khi có thiên tai xảy ra.

Gần đây, trên các trang mạng xã hội tràn ngập hình ảnh chân dung do ứng dụng Lensa AI tạo ra. Thống kê từ SensorTower cho thấy, Lensa AI có khoảng 22,2 triệu lượt tải xuống trên toàn cầu, thu về gần 29 triệu USD từ người dùng. Ứng dụng này từng ở có thời gian liên tục nằm ở vị trí số 1 trong danh mục "Ảnhvà video" trên kho ứng dụng AppStore.

Một số hình ảnh được tạo bởi Lensa AI. Ảnh: Lensa AI.

Theo mô tả, Lensa AI được xây dựng trên công cụ nguồn mở miễn phí của Stable Diffusion. Ứng dụng yêu cầu người dùng tải lên 10-20 ảnh của chính họ. Các thuật toán sẽ xử lý hình ảnh để cho ra một bộ ảnh chân dung theo nhiều phong cách như khoa học viễn tưởng, giả tưởng và phim hoạt hình.

Tuy nhiên, giới chuyên gia cho rằng, các công cụ tích hợp trí tuệ nhân tạo như Lensa sẽ sớm không còn là thứ gây tò mò mà trở nên phổ biến, thậm chí được dùng hàng ngày như cách mọi người tìm kiếm trên Google hay chụp ảnh tự sướng (selfie). Thế nhưng, đi kèm với đó là nguy cơ về thông tin sai lệch hay lo ngại về quyền riêng tư.

Theo tờ Wired, trí tuệ nhân tạo với khả năng chỉnh sửa ảnh đẹp như mơ của Lensa có thể lại là khởi đầu cho một cơn ác mộng tồi tệ với cộng đồng. Nhiều người bắt đầu lạm dụng Lensa để tạo ra những bức ảnh khiêu dâm. Khi thử đưa ảnh thời thơ ấu vào ứng dụng, biên tập viên Olivia Snow của Wired bất ngờ nhận lại những bức ảnh theo phong cách khiêu gợi. "Họ tạo ra những tác phẩm 18+ theo phong cách hoạt hình với bộ mặt trẻ em nhưng thân hình người lớn", cô cho biết.

Chuyên gia bảo mật Mari Galloway nhận định, không thể truy ngược ảnh tạo ra bằng trí tuệ nhân tạo trên công cụ tìm kiếm và rất khó để xác minh tính chân thực của ảnh. Tội phạm mạng có thể tạo ra bao nhiêu bức ảnh tùy thích, xây dựng một danh tính trực tuyến thuyết phục ngay từ đầu.

Giới chuyên gia cảnh báo, dữ liệu sinh trắc học và khuôn mặt người dùng có thể bị thu thập và sử dụng cho mục đích xấu. "Đây là dữ liệu nhạy cảm. Nên hết sức thận trọng với cách dữ liệu đó được sử dụng. Chúng ta luôn cần biết khi nào dữ liệu của mình được sử dụng và cho mục đích gì", giáo sư David Leslie, Giám đốc Viện Alan Turing, cho biết.

Hà Anh