Pemenang Medali Fields Peringatkan Bahaya AI di Matematika

Ringkasan

• Sebanyak 25 pemenang Fields Medal, termasuk Terence Tao, menandatangani deklarasi mengenai ketidakselarasan tujuan antara perusahaan AI dan komunitas matematika.
• Kekhawatiran utama adalah penggunaan pemecahan masalah matematika hanya sebagai tolok ukur (benchmark) kemajuan AI, yang dianggap merugikan sains matematika.
• Kritik ditujukan pada kecenderungan AI yang mampu memberikan solusi tanpa menghasilkan teknik yang benar-benar berguna bagi pengembangan ilmu matematika.

Dunia matematika saat ini tengah menghadapi persimpangan jalan yang krusial seiring dengan integrasi masif kecerdasan buatan (AI). Sebuah peringatan serius muncul dari jajaran matematikawan terkemuka dunia terkait arah pengembangan AI yang dianggap terlalu berorientasi pada hasil instan daripada pemahaman mendalam. Sebanyak 25 pemenang Fields Medal—penghargaan tertinggi dalam matematika yang setara dengan Nobel—termasuk tokoh jenius Terence Tao, telah menandatangani sebuah deklarasi yang menyatakan bahwa terdapat ketidakselarasan (misalignment) yang parah antara tujuan perusahaan AI dengan tujuan komunitas matematika global.

Kritik Terhadap Penggunaan Benchmark Matematika sebagai Alat Ukur

Inti dari keresahan para ahli ini terletak pada bagaimana perusahaan pengembang AI menggunakan matematika sebagai alat ukur kemajuan teknologi mereka. Dalam pernyataan yang dipublikasikan melalui terrytao.wordpress.com, Terry Tao menekankan bahwa dorongan perusahaan AI untuk memecahkan masalah matematika hanya sebagai tolok ukur atau benchmark merupakan hal yang merugikan bagi sains matematika.

Saat ini, kemampuan model bahasa besar (LLM) untuk menyelesaikan soal matematika yang kompleks sering dipamerkan oleh perusahaan teknologi sebagai bukti "kecerdasan" atau "penalaran" tingkat tinggi. Namun, menurut laporan dari getaibook.com, pendekatan ini menciptakan distorsi. Perusahaan AI menggunakan pemecahan masalah matematika sebagai indikator kemajuan dengan cara yang tidak selaras dengan insentif yang dibutuhkan oleh dunia matematika.

Bagi perusahaan AI, keberhasilan didefinisikan secara sederhana: ketika model dapat memberikan jawaban yang benar. Sebaliknya, bagi seorang matematikawan, jawaban akhir hanyalah bagian kecil dari proses; nilai sebenarnya terletak pada metode, pembuktian, dan generalisasi yang dapat diterapkan pada masalah lain. Ketika fokus bergeser sepenuhnya pada hasil akhir, esensi dari matematika sebagai disiplin ilmu yang mencari kebenaran melalui penalaran logis menjadi terancam.

Optimasi Statistik vs Penalaran Logis

Masalah utama yang disoroti adalah pergeseran fokus di mana pemecahan masalah diperlakukan sebagai tujuan akhir. Jen Zhu melalui platform X menjelaskan bahwa fokus pada hasil akhir ini mengabaikan proses fundamental dalam matematika. Ketika AI dilatih hanya untuk mencapai target skor benchmark yang tinggi, ia cenderung melakukan optimasi statistik untuk menemukan pola jawaban yang paling mungkin benar berdasarkan data pelatihan, bukan melakukan penalaran logis yang dapat dipahami dan diverifikasi oleh manusia.

Hal ini menciptakan ilusi kecerdasan. Sebuah model mungkin bisa menjawab soal olimpiade matematika yang sulit, namun jika ditanya mengapa langkah tersebut diambil, model tersebut sering kali gagal memberikan penjelasan yang koheren secara matematis. Inilah yang disebut sebagai misalignment: AI mencapai target (jawaban benar) tetapi dengan cara yang tidak berguna bagi pengembangan ilmu pengetahuan.

Putusnya Hubungan antara Solusi dan Teknik Penemuan

Salah satu poin paling krusial dalam perdebatan ini adalah bagaimana AI berpotensi mengubah ontologi penemuan matematika. Dalam tradisi matematika manusia, solusi atas sebuah masalah besar hampir selalu lahir dari penciptaan teknik-teknik baru yang berguna. Teknik ini kemudian menjadi alat bagi matematikawan lain untuk memecahkan masalah yang berbeda di masa depan. Inilah yang disebut sebagai kemajuan sains: bukan sekadar mengetahui apa jawabannya, tetapi bagaimana cara mencapainya.

Berdasarkan informasi dari Reddit, dalam matematika manusia, mustahil untuk memecahkan masalah tanpa menciptakan teknik-teknik yang benar-benar berguna. Namun, kehadiran AI memungkinkan terputusnya hubungan tersebut. Terdapat risiko nyata di mana AI dapat menemukan solusi yang benar melalui proses komputasi masif, pencarian heuristik yang tidak terstruktur, atau metode brute-force yang tidak dapat direplikasi oleh otak manusia.

Risiko ini membawa kita pada masalah keterbacaan dan transparansi. Lobsters mengilustrasikan risiko ini dengan analogi agen AI yang mungkin menghasilkan kode pemrograman yang tidak dapat dibaca oleh manusia namun bekerja dengan sempurna dari perspektif pengguna. Dalam konteks matematika, hal ini berarti AI bisa saja memberikan bukti yang secara teknis valid namun tidak memberikan wawasan ilmiah apa pun. Jika manusia tidak dapat memahami mengapa sebuah solusi bekerja, maka solusi tersebut tidak menambah pengetahuan kolektif umat manusia, melainkan hanya menjadi sebuah "oracle" yang memberikan jawaban tanpa penjelasan.

Risiko 'Black-Box' dalam Sains Murni

Jika tren ini berlanjut, matematika berisiko berubah menjadi sekumpulan jawaban benar yang dihasilkan oleh mesin, tanpa ada pemahaman tentang struktur yang mendasarinya. Hal ini menciptakan paradoks yang mengkhawatirkan: kita mungkin memiliki jawaban atas pertanyaan-pertanyaan tersulit di alam semesta, tetapi kita tetap tidak mengerti bagaimana jawaban itu diperoleh.

Ketidakselarasan ini bukan sekadar masalah teknis, melainkan masalah filosofis tentang apa arti "mengetahui" dalam sains. Pengetahuan sejati melibatkan pemahaman tentang hubungan sebab-akibat dan struktur logis. Jika kita menggantikan pemahaman ini dengan output dari kotak hitam (black-box), maka kita sebenarnya tidak sedang melakukan sains, melainkan hanya melakukan pengumpulan data hasil mesin.

Para pemenang Fields Medal mengkhawatirkan bahwa ketergantungan pada AI yang tidak selaras akan mengikis kemampuan generasi matematikawan mendatang untuk berpikir kritis dan kreatif. Jika AI mengambil alih peran pencarian solusi tanpa memberikan alat bantu penalaran, maka intuisi manusia dalam matematika bisa mengalami degradasi. Kemampuan untuk "merasakan" arah pembuktian yang benar adalah otot intelektual yang harus dilatih, dan AI yang hanya memberikan jawaban instan akan membuat otot tersebut melemah.

Bukan Larangan, Melainkan Arahan Baru untuk Kolaborasi

Meskipun peringatan ini terdengar keras, deklarasi tersebut tidak bertujuan untuk melarang penggunaan AI dalam matematika. Sebaliknya, ini adalah seruan untuk kolaborasi yang lebih bermakna dan etis. Hacker News mengklarifikasi bahwa poin utama dari gerakan ini adalah untuk mendorong penggunaan teknologi AI ke arah yang lebih tepat dan selaras dengan kebutuhan komunitas ilmiah.

Para ahli menginginkan AI yang berfungsi sebagai co-pilot dalam eksplorasi intelektual, bukan sekadar mesin penjawab otomatis. AI yang ideal bagi komunitas matematika adalah AI yang dapat membantu dalam beberapa aspek kunci:

• Saran Arah Pembuktian: Membantu matematikawan menemukan jalur atau pendekatan yang mungkin terlewatkan oleh intuisi manusia.
• Verifikasi Formal: Memverifikasi langkah-langkah pembuktian yang sangat panjang dan kompleks untuk menghindari kesalahan manusia (human error).
• Visualisasi Struktur: Membantu memvisualisasikan struktur matematika multidimensi yang sulit dibayangkan oleh manusia.
• Katalis Teknik Baru: Mendorong penemuan teknik baru yang dapat dipelajari, dipahami, dan diadopsi oleh manusia untuk masalah lain.

Tantangan Struktural dan Benturan Kepentingan Korporasi

Namun, tantangan besar tetap ada dalam mewujudkan visi ini. Terdapat benturan kepentingan yang nyata antara akademisi dan industri teknologi. Martin Hairer melalui LinkedIn memberikan catatan kritis bahwa terdapat asumsi atau harapan bahwa perusahaan AI besar peduli terhadap komunitas matematika, padahal kenyataannya mungkin tidak demikian.

Perusahaan teknologi besar sering kali didorong oleh tekanan pasar, nilai saham, dan persaingan sengit untuk menjadi yang pertama mencapai AGI (Artificial General Intelligence). Dalam perlombaan ini, performa benchmark yang terlihat impresif di atas kertas jauh lebih berharga untuk menarik investor daripada kontribusi ilmiah yang mendalam namun lambat. Ketika kecepatan menjadi metrik utama, kedalaman pemahaman sering kali dikorbankan.

Keresahan para ahli ini menunjukkan bahwa sementara AI memiliki potensi besar untuk mempercepat penemuan ilmiah, integrasinya ke dalam sains murni harus dilakukan dengan hati-hati. Tanpa adanya penyelarasan tujuan, kita berisiko mengorbankan esensi dari penemuan matematika itu sendiri demi efisiensi komputasi.

Pada akhirnya, matematika adalah bahasa alam semesta yang dipahami manusia. Jika kita menyerahkan bahasa tersebut sepenuhnya kepada mesin tanpa memastikan bahwa mesin tersebut "berbicara" dalam cara yang dapat kita pahami, kita mungkin akan kehilangan kunci untuk membuka rahasia alam semesta yang sebenarnya. Perjuangan para pemenang Fields Medal ini adalah perjuangan untuk memastikan bahwa kecerdasan buatan tetap menjadi alat untuk memperluas cakrawala manusia, bukan menggantikannya.