SUMATERA UTARA — Nate Soares, mantan insinyur software Google dan Microsoft, memperkirakan peluang kepunahan manusia akibat AI melampaui 50 persen dalam sepuluh tahun ke depan. Keyakinan itu membuat Presiden Machine Intelligence Research Institute tersebut berhenti menyetor dana pensiun sejak satu dekade lalu. Peringatan Soares menambah tekanan publik terhadap industri AI yang tengah berlomba mengejar model supercerdas.
Nate Soares mengungkapkan pandangannya dalam podcast bersama CEO The Atlantic. Ia menilai umat manusia kemungkinan besar tidak punya waktu satu dekade lagi sebelum AI mencapai titik yang membahayakan eksistensi manusia.
Soares adalah peneliti machine learning yang pernah bekerja sebagai insinyur software di Google dan Microsoft. Kini ia memimpin Machine Intelligence Research Institute, organisasi nirlaba yang dikenal mempromosikan "AI doomerism".
Pandangan itu merujuk pada keyakinan bahwa pengembangan AI supercerdas berpotensi besar berujung pada kepunahan manusia. Soares bukan sekadar pengamat, melainkan salah satu suara paling vokal di kubu pesimis AI.
Keputusan Soares berhenti menyisihkan uang untuk pensiun diambil sekitar satu dekade lalu. Ia masih memiliki 401K, program tabungan pensiun, dari masa kerjanya di Google, tetapi tidak lagi menyetor ke sana.
"Saya tak menabung untuk masa pensiun sekarang. Saya punya 401K dari saat saya bekerja di Google, tapi saya sudah tidak menyetor ke sana selama sekitar satu dekade," ujarnya.
Langkah itu lahir dari keyakinan bahwa masa depan jangka panjang tidak lagi relevan untuk direncanakan. Soares memperkirakan peluang kepunahan akibat AI mencapai lebih dari 50 persen dalam sepuluh tahun ke depan.
Soares menyebut generasi saat ini mungkin yang pertama hidup di bawah bayang-bayang kematian seluruh umat manusia secara bersamaan. Namun ia menilai manusia sebenarnya selalu hidup di bawah ancaman wabah penyakit dan perang.
"Dan yang Anda lakukan adalah Anda melakukan apa yang Anda bisa, dan kemudian Anda menjalani hidup yang baik," katanya.
Ia menegaskan bukan penganut kiamat pekerjaan akibat AI. Menurutnya, tingkat pekerjaan penuh justru akan tercapai tepat sebelum skenario terburuk terjadi.
Soares menjabarkan satu solusi utama untuk mencegah kiamat AI, yakni membatasi peningkatan skala teknologi tersebut. Penggunaan AI untuk hal konkret seperti menemukan obat kanker tidak menjadi masalah baginya.
"Tetapi AI yang mencoba meniru dan melampaui kecerdasan manusia bukanlah apa yang kita inginkan. Kita seharusnya tidak mengincar hal itu," tegasnya.
Ia membandingkan kebangkitan AI dengan mobil yang secara bertahap menggantikan kuda. Menurutnya, AI kini semakin baik dalam berbagai hal dan mampu mengerjakan tugas yang semakin panjang.
Soares mengakui teknologi AI termaju saat ini masih menyimpan banyak kendala dan keterbatasan. Namun ia menilai arah pengembangan yang mengejar kecerdasan setara manusia perlu dipertanyakan sejak sekarang.