Mới đây, Bộ trưởng Quốc phòng Gilberto Teodoro Jr. ban hành lệnh này trong bản ghi nhớ ngày 14/10. Theo đó, các nhân viên quốc phòng cùng 163.000 thành viên của quân đội Philippine bị cấm dùng các ứng dụng kỹ thuật số, tận dụng sức mạnh của AI để tạo ảnh chân dung cá nhân. Bộ trưởng Quốc phòng Gilberto Teodoro Jr. ban hành lệnh này trong bản ghi nhớ ngày 14/10.
Theo AP, Bộ Quốc phòng Philippine xác nhận tính xác thực của bản ghi nhớ vào ngày 20/10 nhưng không cung cấp thêm thông tin cũng như nguyên nhân dẫn đến lệnh cấm.
Bên cạnh đó, Bộ trưởng Quốc phòng Philippine cũng đặc biệt cảnh báo đối với ứng dụng yêu cầu người dùng nộp ít nhất 10 ảnh bản thân rồi dùng AI để tạo ra “con người kỹ thuật số, mô phỏng cách một người thật nói và cử động”. Những ứng dụng như vậy tiềm ẩn rủi ro an ninh và quyền riêng tư nghiêm trọng.
Đồng thời, những dụng AI tưởng như vô hại và thú vị này có thể bị lạm dụng để tạo ra các hồ sơ giả mạo, dẫn đến đánh cắp danh tính, tấn công phi kỹ thuật (social engineering), tấn công lừa đảo và các hoạt động độc hại khác. Đã có báo cáo về một trường hợp như vậy - Bộ trưởng Quốc phòng Philippine thông tin.
Do đó, ông ra lệnh cho mọi nhân viên quốc phòng và quân sự “không sử dụng các ứng dụng tạo ảnh AI và thực hành cảnh giác khi chia sẻ thông tin trên mạng”. Hành động của họ cần tuân thủ các giá trị và chính sách của Bộ Quốc phòng Philippine.
Trước đó, mạng xã hội thế giới cũng tràn ngập hình ảnh chân dung do ứng dụng Lensa AI tạo ra. Nó phổ biến tới mức leo lên vị trí số 1 trong danh mục “Ảnh và Video” trên chợ ứng dụng App Store vào đầu tháng 12/2022. Người dùng cần tải ít nhất 10 bức ảnh cá nhân để tạo chân dung, sau đó hệ thống sẽ gán các giá trị số cho các điểm khuôn mặt khác nhau rồi cộng chúng lại để đưa ra hình ảnh kỹ thuật số mới của người đó.
Mặc dù theo chính sách quyền riêng tư của Lensa AI nêu họ thu thập và lưu trữ dữ liệu gương mặt cho chức năng xử lý trực tuyến, tự động xóa trong vòng 24 giờ sau khi xử lý. Tuy nhiên nhiều chuyên gia vẫn khuyến cáo người sử dụng nên cân nhắc khi sử dụng các ứng dụng này.
Hương Lan
Link nội dung: https://doanhnghiepkinhtexanh.vn/phan-mem-tao-anh-bang-ai-bi-cam-su-dung-trong-quan-doi-philippine-a19891.html