Sistem Budget AI Berjenjang¶
Karena AI (LLM) diakses menggunakan API yang memakan token berbayar, EdigSSO Pro dilengkapi dengan sistem limitasi atau Sistem Budget AI Berjenjang. Fitur ini memastikan biaya penggunaan AI tetap terkontrol dan tagihan token (contoh: tagihan Groq) tidak jebol.
Sistem Budget ini dihitung berdasarkan rekap pemakaian token (Prompt Tokens + Completion Tokens) yang kemudian dikonversikan ke USD sesuai pricing table dari Model LLM yang bersangkutan.
Hierarki Budget¶
Sistem mengadopsi 3 lapis struktur, dari atas ke bawah:
- Organisasi (Pool Utama)
- Misalnya: Organisasi "PT Ecosains" diberi budget bulanan $100.
-
Setiap pemakaian user di bawah organisasi ini akan memotong dana dari Pool $100 ini.
-
Divisi (Sub-Limit)
- Di dalam Organisasi, admin dapat membuat Divisi.
- Misalnya: "Divisi Keuangan" dengan sub-limit $40.
-
Ini memastikan Divisi Keuangan tidak menghabiskan lebih dari $40, dan sisa budget $60 masih bisa digunakan oleh divisi lain.
-
User (Sub-Limit Individu)
- Di dalam Divisi, terdapat User perorangan.
- Misalnya: "User Budi" dengan limit pribadi $10.
- Artinya, pemakaian Budi paling banyak adalah $10, yang akan memotong sub-limit Divisi, lalu baru memotong Pool Organisasi.
Mekanisme Blokir & Notifikasi¶
- Atomic Counter: Pemotongan budget (usage logging) terjadi secara aman (thread-safe & atomic update) setelah chat selesai dijawab oleh AI, dengan pencatatan yang detail di tabel
ai_usage_events. - Notifikasi Peringatan: Sistem akan memicu alert peringatan kepada Admin dan User saat budget menyentuh ambang 80%.
- Hard Block: Apabila penggunaan sudah 100% dari limit (baik limit user, divisi, atau organisasinya habis), maka fungsi AI untuk user tersebut akan otomatis diblokir (HTTP 429). Tidak ada tagihan kejutan (surprises).
- Reset: Budget akan ter-reset otomatis setiap bulan (berdasarkan
budget_period_start).