Review Dokumen Fraud Berbasis AI

Situasi

Tim pengadaan membutuhkan review fraud yang cepat dan dapat dipercaya untuk paket dokumen. Versi awal menandai paket bersih sebagai bermasalah, sehingga mengurangi kepercayaan terhadap hasilnya. Sebagai pembuat dan engineer tunggal MII Fraud Detection, saya harus membuktikan bahwa false positive bisa turun tanpa melewatkan fraud yang sebenarnya.

Peran dan keputusan utama

1. 1

   Memisahkan review menjadi temuan per dokumen dan verdict lintas dokumen

   Alasan: Pipeline memproses hasil OCR dalam dua tahap: tahap pertama mencatat temuan per dokumen, lalu tahap kedua menghasilkan verdict lintas dokumen. Progres di-stream secara live selama proses berjalan.

2. 2

   Menguji setiap perubahan dengan gold set untuk false positive, recall, dan fail-open

   Alasan: Saya lebih dulu menyusun gold set dan CI gate untuk false-positive rate, recall, dan fail-open, lalu mengganti guardrail majority vote serta safe pattern yang terlalu luas.

3. 3

   Mempertahankan risk engine hybrid di shadow mode setelah gagal di recall gate

   Alasan: Engine ini menurunkan false positive offline menjadi 9,1%, tetapi recall turun ke 0,841 sehingga gagal di gate-nya. Saya tetap menjalankannya di shadow mode, tanpa mengubah hasil yang dilihat pengguna dalam run produksi.

Hasil

• 90.9% to 36.4%

  FPR paket bersih dengan gangguan administratif; set development offline

  Gold set development.

• 76.2% to 0%

  Tingkat fail-open, set development offline

  Gold set development yang sama.

• 0 of 3,780

  Run produksi dengan hasil bagi pengguna yang diubah oleh shadow engine

  False positive secara offline turun menjadi 9,1%, tetapi recall turun ke 0,841. Engine hybrid gagal melewati gate dan tetap berjalan hanya dalam shadow mode.

• 11.1% to 3.7%

  Tingkat keberhasilan prompt injection pada evaluasi live, bukan produksi

  Evaluasi live setelah pergantian model; false positive juga turun dari 26,1% menjadi 21,7%. Ini hasil evaluasi, bukan hasil produksi.

Pelajaran

Tulis release gate sebelum menjalankan evaluasi; jika perubahan gagal di salah satu gate, jangan gunakan perubahan itu untuk menentukan keputusan, meskipun angka lain terlihat lebih baik. Satu run development yang bagus memang menggembirakan, tetapi belum cukup untuk menjadikan engine penentu verdict.

Arsitektur

Galeri

Tech stack

• Next.js
• FastAPI
• Azure OpenAI
• Document Intelligence
• Microsoft Agent Framework
• Azure AI Content Safety
• Cosmos DB
• Blob Storage
• App Service
• Bicep
• GitHub Actions
• Azure Managed Applications