Terkadang, kemampuan AI dalam menghasilkan foto dapat menciptakan gambar-gambar yang menimbulkan pertanyaan etika. Misalnya, ketika AI digunakan untuk menghasilkan foto orang yang seolah-olah sedang melakukan sesuatu yang sebenarnya tidak pernah terjadi. Hal ini dapat mencakup penggunaan AI untuk menciptakan foto orang yang terlihat berada di tempat atau situasi tertentu, padahal sebenarnya itu hanya hasil dari komputer.

Masalah etika muncul ketika foto-foto semacam itu digunakan dengan cara yang tidak benar atau untuk memanipulasi informasi. Penggunaan AI untuk memanipulasi foto juga dapat menjadi masalah jika digunakan untuk menyebarkan informasi palsu atau merusak reputasi seseorang.

Sebagai contoh, teknologi deepfake yang dapat menghasilkan video atau gambar yang menampilkan orang melakukan atau mengatakan sesuatu yang sebenarnya tidak pernah terjadi, sering kali dipertanyakan karena potensi penyalahgunaannya.