CEO Google DeepMind, Demis Hassabis, memperingatkan bahwa kecerdasan buatan (AI) menciptakan risiko serius yang memerlukan perhatian mendesak dan kerjasama internasional untuk diatasi. Hassabis mengidentifikasi dua kategori risiko utama terkait teknologi AI: aktor jahat yang memanfaatkan teknologi untuk tujuan merugikan, dan risiko teknis yang melekat pada sistem yang semakin otonom.
Hassabis menekankan bahwa sistem AI yang semakin otonom dan mandiri dapat memiliki potensi risiko yang lebih besar dan melakukan hal-hal yang mungkin tidak kita maksudkan saat merancangnya. Dia juga menyoroti pentingnya pertemuan internasional untuk mempertemukan para pengambil keputusan dengan para ahli teknologi dan menciptakan standar minimum untuk penerapan teknologi AI.
Mantan CEO Google, Eric Schmidt, juga memperingatkan bahwa AI dapat menghadirkan 'risiko eksistensial' bagi umat manusia, termasuk potensi penyalahgunaan teknologi untuk tujuan jahat. Schmidt menekankan bahwa teknologi AI harus dikembangkan dengan prinsip-prinsip etika yang kuat dan selalu berada di bawah pengawasan manusia.
