Hati nurani adalah suara dalam diri yang mengarahkan kita pada apa yang benar dan salah. Karena, hati nurani tidak selalu konsisten dan kadang-kadang cenderung melawan kompas moral. Maksudnya, apa yang dimaksud dengan hal ini?

Hati nurani kadang-kadang dapat membuka jalan bagi tindakan yang sebenarnya dianggap melanggar hukum. Misalnya, jika seseorang mencuri sesuatu di minimarket, namun ketika ditanya alasan sebenarnya, karena ia ingin memberi makan kepada seseorang yang sedang dirawatnya. Di sinilah tingkat hati nurani bekerja: jika tingkat hati nurani tinggi, pencuri akan “dilepaskan” dan keadilan bagi pemilik minimarket tidak ditegakkan. Namun, jika tingkat hati nurani rendah, pencuri akan ditangkap atau bahkan langsung diadili, sehingga pemilik toko merasa dilindungi dan keadilan ditegakkan. Kondisi ini sulit bagi AI untuk membuat keputusan, karena prinsip AI adalah bahwa segala sesuatu yang melanggar hukum harus ditangkap dan diadili.

Namun, bukan berarti AI tidak dapat belajar tentang “konsep penyelewengan” ini. Dan perlu diingat, manusia memiliki akal yang tak terbatas, jadi bagaimana AI dapat mengetahui apakah manusia berbohong atau tidak, bahkan manusia biasa pun tidak yakin, bukan?

Jadi yang tidak akan bisa diganti oleh AI adalah hal-hal yang mengandalkan hati dan pikiran. Mungkin contohnya seperti psikolog, psikiater, jaksa, pengacara, dll.