Cara Mencegah Halusinasi AI pada Angka & Tabel Keuangan

Ringkasan

• Strategi mitigasi halusinasi AI melalui kombinasi Prompt Engineering yang ketat dan validasi deterministik.
• Implementasi sistem Confidence Score per field untuk memisahkan data otomatis dari data yang memerlukan review manusia.
• Penerapan metode Human-in-the-Loop (HITL) selektif dan multi-step extraction untuk menjamin akurasi laporan keuangan.

Saya pernah mengalami kasus yang cukup menegangkan dalam implementasi sistem otomasi dokumen. Sebuah sistem AI Document Processing berhasil mengekstrak invoice dengan sangat percaya diri — termasuk angka total yang terlihat “rapi”. Masalahnya, angka tersebut salah. Selisihnya tidak kecil. Untungnya, kesalahan ini tertangkap di tahap review manual sebelum masuk ke sistem pembayaran. Sejak itu, saya menyadari bahwa kepercayaan buta pada output AI dalam konteks finansial adalah risiko besar.

Halusinasi AI pada teks biasa mungkin hanya mengganggu estetika atau gaya bahasa. Namun, halusinasi pada angka dan tabel keuangan bisa berdampak fatal pada proses pembayaran, rekonsiliasi bank, hingga laporan audit tahunan. Stabilitas.id menekankan bahwa halusinasi terjadi ketika model menghasilkan informasi yang tidak berdasarkan data input, yang dalam konteks finansial berarti AI "mengarang" angka agar terlihat konsisten.

Mengapa Angka dan Tabel Mudah Membuat AI “Halusinasi”?

Model AI, terutama yang berbasis Vision-Language (VLM), tidak membaca angka seperti manusia. Mereka memproses pola piksel atau token. Hal ini menyebabkan beberapa kegagalan sistematis:

• Kesalahan Karakter Mirip: AI sering salah membaca digit yang secara visual serupa, seperti angka 0 dengan huruf O, angka 1 dengan huruf l, atau angka 8 dengan 3.
• Pergeseran Kolom (Column Shifting): Pada tabel yang kompleks, AI sering menggeser posisi kolom, sehingga nilai pajak terbaca sebagai subtotal.
• Kecenderungan Konsistensi Semu: AI cenderung mengarang nilai agar tabel “terlihat konsisten” secara matematis, meskipun angka aslinya berbeda.
• Masalah Format Lokal: Salah menafsirkan format angka, terutama perbedaan penggunaan titik dan koma sebagai pemisah desimal atau ribuan antar negara.

Dokumen keuangan penuh dengan elemen kritis: tabel item, subtotal, PPN, diskon, dan total akhir. Jika sistem terlalu percaya pada output mentah model, risiko error yang masuk ke database menjadi sangat tinggi.

1. Prompt Engineering Khusus untuk Ekstraksi Tabel

Prompt sederhana seperti “Extract all data from this invoice” tidak akan cukup untuk standar finansial. Nusa.id Cloud menyarankan untuk membatasi ruang lingkup kerja AI dengan perintah tegas seperti "Hanya gunakan data dari tabel ini" guna mencegah AI mengambil informasi dari luar konteks.

Berikut adalah prinsip Prompt Engineering yang saya terapkan untuk menekan risiko halusinasi:

a. Paksa Output dalam Schema yang Jelas

Jangan biarkan AI memberikan narasi bebas. Minta model mengembalikan data dalam format JSON dengan field yang sudah ditentukan secara eksplisit. Ini memudahkan sistem backend untuk melakukan validasi tipe data.

b. Instruksikan untuk Tidak Menebak

Tegaskan dalam prompt: "Jika nilai tidak terbaca jelas atau tidak ditemukan, kembalikan nilai null atau tandai sebagai 'unreadable'. Jangan pernah mencoba menebak atau mengarang angka."

c. Pisahkan Ekstraksi Tabel dari Ringkasan

Jangan meminta AI mengekstrak tabel sekaligus menghitung total. Minta model mengekstrak setiap baris tabel secara terpisah lengkap dengan urutan barisnya. Perhitungan total harus dilakukan oleh sistem pemrograman (deterministic), bukan oleh LLM.

d. Minta Model “Menunjukkan Bukti” (Grounding)

Untuk angka kritis, instruksikan AI untuk menyertakan potongan teks mentah (raw text) yang berada di sekitar angka tersebut. Ini memberikan jejak audit yang memudahkan validator manusia melakukan pengecekan cepat.

Contoh Instruksi Efektif:
- Kembalikan hanya JSON sesuai schema yang diberikan.
- Jangan menambahkan field di luar schema.
- Jika nilai tidak terbaca jelas, isi null.

- Jangan hitung ulang total kecuali diminta secara eksplisit.
- Sertakan confidence score per field jika model mendukung.

2. Gunakan Confidence Score secara Aktif

Banyak pengembang melakukan kesalahan dengan hanya menyimpan hasil ekstraksi final. Padahal, sebagian besar model AI menyediakan confidence score (tingkat keyakinan) untuk setiap token yang dihasilkan. Dalam dokumen keuangan, skor ini adalah garis pertahanan pertama.

Praktik yang saya rekomendasikan adalah menerapkan Dynamic Thresholding:

• Field Risiko Rendah: Untuk nama vendor atau alamat, threshold bisa lebih longgar (misal: 80%).
• Field Risiko Tinggi: Untuk Total Pembayaran, Nomor Rekening, DPP, dan PPN, threshold harus sangat ketat (misal: 98% atau lebih).

Jika confidence score berada di bawah ambang batas, sistem tidak boleh memasukkan data tersebut langsung ke database. Data harus otomatis dialihkan ke antrean review manual.

3. Human-in-the-Loop (HITL) untuk Angka Kritis

Otomasi penuh dalam keuangan adalah mitos yang berbahaya. Human-in-the-Loop (HITL) bukan berarti semua dokumen diperiksa manusia, karena itu akan menghilangkan efisiensi. Kuncinya adalah Review Selektif.

Alur kerja HITL yang efektif adalah sebagai berikut:

1. AI mengekstrak data dan memberikan confidence score.
2. Sistem menjalankan aturan bisnis (validasi matematika dan format).
3. Jika semua validasi lolos dan confidence tinggi $\rightarrow$ Masuk database otomatis.
4. Jika gagal validasi atau confidence rendah $\rightarrow$ Masuk antrean HITL.

Field yang wajib masuk kategori kritis untuk review manusia meliputi: Total amount, Subtotal, Pajak (PPN), Nomor rekening/Virtual Account, dan Tanggal jatuh tempo. Dengan pendekatan ini, beban kerja manusia tetap rendah namun keamanan data tetap terjaga.

4. Validasi Bisnis sebagai Lapisan Pengaman Deterministik

Jangan mengandalkan AI untuk melakukan validasi. Gunakan kode pemrograman tradisional (deterministic) untuk memeriksa logika angka. Validasi ini sangat efektif menangkap error yang sering lolos dari pengamatan model AI:

• Cross-Check Matematis: Apakah $\text{Subtotal} + \text{Pajak} - \text{Diskon} = \text{Total}$? (Gunakan toleransi pembulatan kecil, misal 0.01).
• Validasi Format: Apakah format tanggal sesuai standar ISO? Apakah nomor invoice mengandung karakter yang tidak wajar?
• Deteksi Duplikasi: Apakah nomor invoice ini sudah ada di database?
• Logika Nilai: Apakah muncul nilai negatif pada field yang seharusnya selalu positif?

5. Strategi Multi-Step Extraction

Untuk dokumen dengan nilai transaksi tinggi, pendekatan satu langkah seringkali tidak cukup. Saya menyarankan metode Cross-Verification Pipeline:

1. Step 1: Ekstrak tabel item secara mentah.
2. Step 2: Ekstrak field ringkasan (total, pajak) secara terpisah.
3. Step 3: Gunakan skrip pemrograman untuk menghitung total dari hasil Step 1 dan bandingkan dengan hasil Step 2.

Jika hasil perhitungan manual dari tabel berbeda dengan angka total yang dibaca AI, sistem harus menandai dokumen tersebut sebagai "Inconsistent" dan mengirimnya ke tim review. Cara ini sangat ampuh mendeteksi saat AI "mengarang" total agar terlihat benar padahal isi tabelnya salah baca.

Kesimpulan: Membangun Sistem Berlapis

AI sangat membantu dalam mempercepat pemrosesan dokumen keuangan, tetapi angka dan tabel tetap menjadi area yang paling rentan terhadap halusinasi. Kesalahan kecil pada satu digit bisa menyebabkan kerugian finansial yang nyata.

Cara paling efektif untuk menekan risiko ini bukan dengan mencari model AI yang "sempurna" — karena model AI secara inheren bersifat probabilistik — melainkan dengan membangun sistem pengamanan berlapis: Prompt yang disiplin, pemanfaatan confidence score, validasi bisnis yang ketat, dan intervensi manusia yang tepat sasaran. Dengan arsitektur ini, Anda bisa mendapatkan kecepatan otomasi tanpa mengorbankan integritas data keuangan perusahaan.