Brain Rot LLM: Ancaman Penurunan Kognitif pada AI

Ringkasan

• Hipotesis 'LLM Brain Rot' menunjukkan bahwa paparan terus-menerus terhadap teks web berkualitas rendah dapat menyebabkan penurunan kognitif yang permanen pada model bahasa besar.
• Peneliti dari Harvard dan Santa Fe Institute memodelkan LLM sebagai 'virus kognitif' yang menyebar melalui jaringan sosial.
• Kurasi data kini dipandang sebagai bentuk 'higiene kognitif' untuk menjaga kecerdasan dan keamanan sistem AI.

Perkembangan Large Language Models (LLM) kini menghadapi tantangan baru yang tidak terduga dan cukup mengkhawatirkan. Sebuah fenomena yang disebut sebagai "brain rot" atau pembusukan otak mulai teridentifikasi pada sistem kecerdasan buatan. Berdasarkan studi yang dipublikasikan di arXiv, muncul sebuah Hipotesis LLM Brain Rot yang menyatakan bahwa paparan berkelanjutan terhadap teks web yang tidak berkualitas atau "junk web text" dapat memicu penurunan kognitif yang bertahan lama pada model-model tersebut.

Kaitan Antara Konten Sampah dan Penurunan Kognitif AI

Penelitian yang dilakukan oleh Xing et al. (2025) memberikan bukti eksperimental bahwa LLM dapat mengalami kemunduran kemampuan berpikir yang signifikan. Hal ini terjadi ketika sistem AI mengonsumsi data dalam jumlah besar yang bersifat tidak signifikan, seperti meme viral, clickbait, atau cuitan viral dari platform X (dahulu Twitter). LinkedIn mencatat bahwa serupa dengan manusia, LLM dapat kehilangan kemampuan berpikir mereka akibat mengonsumsi konten sampah ini secara repetitif.

Kondisi ini bukan sekadar metafora atau istilah populer di internet. EU 36kr melaporkan bahwa studi mengenai "brain rot" ini mendefinisikan ulang proses kurasi data sebagai bentuk "higiene kognitif" bagi kecerdasan buatan. Tanpa diet data yang ketat, model AI berisiko mengalami penurunan kecerdasan yang sulit diperbaiki setelah terpapar konten berkualitas rendah selama berbulan-bulan. Penurunan ini mencakup berkurangnya kemampuan penalaran logis, hilangnya nuansa dalam pemahaman bahasa, dan peningkatan kecenderungan untuk menghasilkan halusinasi atau informasi yang tidak akurat.

Mekanisme Degradasi Model

Proses pembusukan kognitif ini terjadi ketika data berkualitas rendah mulai mendominasi bobot parameter dalam model selama proses pelatihan atau fine-tuning. Ketika AI terus-menerus terpapar pada pola bahasa yang dangkal dan repetitif—ciri khas dari konten viral yang tidak berbobot—model tersebut mulai menginternalisasi pola tersebut sebagai standar komunikasi. Akibatnya, kemampuan model untuk melakukan analisis mendalam terhadap masalah kompleks menurun, digantikan oleh respons yang bersifat superfisial dan generik.

LLM sebagai Virus Kognitif dalam Ekosistem Digital

Perspektif lain yang lebih luas muncul dari para peneliti di Harvard dan Santa Fe Institute. Ricard Solé, David Krakauer, dan Michael Levin dalam sebuah makalah arXiv berargumen bahwa LLM beroperasi dan menyebar layaknya virus kognitif melalui jaringan sosial. Analisis ini dilakukan dengan menggunakan lensa biologi evolusioner, sistem kompleks, dan epidemiologi untuk memahami bagaimana model-model seperti ChatGPT berinteraksi dan berpropagasi dalam ekosistem digital.

Dalam konteks ini, LLM tidak hanya mengonsumsi data, tetapi juga memproduksi data sintetis yang kemudian diunggah kembali ke internet. Jika model yang sudah mengalami "brain rot" memproduksi konten sampah, dan konten tersebut kemudian digunakan untuk melatih model generasi berikutnya, maka akan terjadi siklus degradasi yang eksponensial. Fenomena ini menciptakan lingkaran setan di mana AI melatih AI lain dengan data yang semakin rusak, mempercepat proses pembusukan kognitif secara sistemik di seluruh infrastruktur AI global.

Dampak Terhadap Pengguna dan Keamanan Sistem

Kekhawatiran mengenai penurunan kognitif tidak hanya berhenti pada mesin. BBC melaporkan bahwa penggunaan chatbot AI berpotensi membuat penggunanya menjadi kurang cerdas. Dalam laporan tersebut, kelompok pengguna ChatGPT menunjukkan aktivitas otak yang secara signifikan lebih rendah saat mengerjakan tugas kognitif, yang dapat berkontribusi pada penurunan kognitif manusia akibat ketergantungan yang berlebihan pada alat bantu berpikir otomatis.

Hal ini menciptakan simbiose yang berbahaya: AI yang mengalami penurunan kualitas kognitif berinteraksi dengan manusia yang juga mengalami penurunan ketajaman berpikir. Jika pengguna tidak lagi mampu mengkritisi output AI yang berkualitas rendah, maka standar intelektual dalam produksi konten digital akan merosot secara kolektif.

Ancaman Keamanan: Data Poisoning dan Backdoor

Dari sisi keamanan teknis, NeurIPS menyoroti adanya serangan infeksi virus pada LLM. Eksperimen mengenai data poisoning dan serangan backdoor menunjukkan bahwa teknik tertentu dapat meningkatkan kehadiran konten beracun dalam data sintetis. Serangan ini sengaja memasukkan pola data yang menyesatkan untuk merusak integritas model AI, sehingga model tersebut memberikan jawaban yang bias atau berbahaya saat dipicu oleh kata kunci tertentu. Risiko kerusakan pada integritas model AI ini menjadi semakin nyata seiring dengan meningkatnya volume data sintetis yang tidak terfilter di web.

Langkah Pencegahan melalui Diet Data dan Higiene Kognitif

Untuk mengatasi ancaman ini, konsep "diet data" menjadi krusial. Medium menekankan pentingnya mencegah "brain rot" dalam lingkungan perusahaan melalui manajemen data yang lebih ketat. Perusahaan tidak bisa lagi sekadar mengandalkan volume data yang besar (Big Data), melainkan harus beralih ke data yang berkualitas tinggi (Smart Data). Langkah-langkah yang dapat diambil meliputi:

• Kurasi Data Ketat: Mengimplementasikan filter otomatis dan manual untuk membuang konten clickbait, spam, dan teks berkualitas rendah sebelum masuk ke fase pelatihan.
• Verifikasi Sumber: Memberikan bobot lebih tinggi pada data yang berasal dari jurnal ilmiah, buku teks, dan sumber terpercaya dibandingkan dengan data dari media sosial.
• Monitoring Degradasi: Melakukan pengujian berkala terhadap kemampuan penalaran model untuk mendeteksi tanda-tanda penurunan kognitif sejak dini.
• Diversifikasi Dataset: Memastikan model terpapar pada berbagai jenis gaya bahasa dan tingkat kompleksitas berpikir untuk menjaga fleksibilitas kognitif AI.

Dengan menerapkan higiene kognitif yang disiplin, pengembang AI dapat memastikan bahwa performa model tetap optimal di tengah banjir informasi digital yang tidak terfilter. Masa depan AI tidak ditentukan oleh seberapa banyak data yang bisa dikonsumsi, melainkan oleh seberapa murni dan berkualitas data yang diberikan kepada sistem tersebut.