Bergantung pada kecerdasan AI. AI modern tidak memiliki semangat yang sama seperti manusia. Meskipun AI dapat melakukan tugas seperti mengendalikan ekonomi atau menciptakan seni yang kurang baik, namun kecerdasannya tidak sebanding dengan manusia. AI tidak dapat menjadi nakal, karena tidak memiliki kemampuan untuk melakukannya. Yang terburuk yang dapat terjadi adalah AI mengalami kerusakan dan segala hal yang bergantung padanya akan berhenti berfungsi. Dalam skenario terburuk, beberapa perusahaan mungkin mengalami kerugian finansial yang besar, namun kita semua akan tetap melanjutkan kehidupan kita.

Namun, mari kita bayangkan jika kita membangun AI seperti Skynet. Jika kita menciptakan mesin dengan kecerdasan yang setara dengan manusia dan mesin tersebut memutuskan untuk membenci kita, tingkat kerusakan yang dapat ditimbulkannya akan bergantung pada seberapa besar kekuatan yang kita berikan kepadanya. Jadi, jika Roomba cerdas saya menjadi nakal, saya dapat menghancurkannya dengan menggunakan palu.

Namun, jika AI diberikan kendali atas sesuatu yang berbahaya, ada potensi bahwa itu dapat menghancurkan semua kehidupan di Bumi. Misalkan, untuk alasan yang tidak dapat dijelaskan, Anda membiarkan AI mengendalikan semua senjata nuklir Anda. Hal ini hanya akan memicu mereka semua dan menunggu dampaknya yang dapat membunuh Anda. AI tidak akan terpengaruh oleh hal-hal seperti manusia.

Namun, semua ini hanyalah spekulasi. Dalam kehidupan nyata, AI tidak sehebat itu. Dan saya yakin tidak ada orang yang cukup bodoh untuk membangun sistem senjata nuklir dengan pengawasan yang begitu minim.

Banyak orang telah menyatakan pendapat bahwa kita akan sangat bodoh jika mempercayakan sistem senjata nuklir sepenuhnya kepada AI. Meskipun manusia telah melakukan beberapa tindakan bodoh di masa lalu, saya ingin menekankan bahwa kita selalu sangat berhati-hati dalam mengelola senjata nuklir.

Sejauh pengetahuan saya, tidak ada satu orang pun di Bumi yang dapat meluncurkan senjata nuklir tanpa pengawasan. Bahkan presiden pun tidak bisa melakukannya. Dan saya tidak melihat alasan mengapa kita harus meninggalkan kebijakan ini jika sistem berada di tangan AI.