Bab 5 · Master SaaS Framework ProjectVIEW ERP
Tidak ada rilis, pembaruan, atau upgrade yang masuk ke environment produksi customer tanpa melalui siklus pengujian dalam Bab 5. Pengujian menggabungkan AI Testing Agents, yang dikonfigurasi dengan modul, aturan bisnis, dan skema data customer, dengan simulasi aliran data end-to-end, simulasi interaksi pengguna, validasi integritas data, dan Universal User Acceptance Testing (UAT) dengan persetujuan tertulis customer.
- 0 rilis ke produksi tanpa pengujian selesai
- AI agentsotomasi pengujian spesifik customer
- UATpersetujuan tertulis sebelum go-live
5.1 Ringkasan & Tujuan
Bab ini menetapkan kerangka Software Quality & Testing (SQT) yang mengatur bagaimana Provider memastikan kebenaran fungsional, integritas performa, dan keandalan data ProjectVIEW ERP sebelum setiap deployment ke lingkungan Production Customer.
Tidak ada Release, Update, atau Upgrade (sebagaimana didefinisikan dalam Chapter 1, §1.4) yang boleh dipromosikan ke Production tanpa berhasil menyelesaikan siklus pengujian yang dijelaskan di sini.
Provider menjalankan metodologi pengujian yang terdiferensiasi dan ditingkatkan AI yang memanfaatkan AI Testing Agents khusus yang dibangun di atas framework pengujian proprietari milik Provider untuk berinteraksi langsung dengan instance ProjectVIEW ERP milik masing-masing Customer. Pendekatan ini memungkinkan simulasi otomatis atas aliran data end-to-end, skenario interaksi pengguna yang realistis, dan validasi integritas data yang komprehensif, kapabilitas yang jauh melampaui QA manual atau berbasis skrip konvensional.
Selain pencegahan cacat, kerangka SQT juga mencakup layanan Process Optimisation Advisory yang proaktif, di mana output AI-agent dianalisis untuk mengidentifikasi inefisiensi workflow, anomali konfigurasi, dan peluang perbaikan model data dalam setiap deployment Customer. Wawasan ini disampaikan sebagai rekomendasi yang dapat ditindaklanjuti pada Quarterly Service Review (§3.9).
5.2 Ruang Lingkup
Kerangka SQT berlaku untuk seluruh artefak perangkat lunak yang di-deploy ke lingkungan Customer berdasarkan Framework ini, termasuk namun tidak terbatas pada:
- (a) Rilis/Pembaruan (v11.xx) — perubahan inkremental spesifik klien yang disampaikan melalui sprint Agile 3 hari (§4.7).
- (b) Upgrade (v11 → v12) — perubahan produk berskala besar di seluruh produk yang disampaikan kira-kira setiap tahun (§4.8).
- (c) Perubahan konfigurasi — aktivasi modul, kustomisasi alur kerja, template laporan, penyesuaian peran dan izin.
- (d) Artefak migrasi data — transformasi impor, skrip ETL, patch migrasi skema.
- (e) Antarmuka integrasi — endpoint API, handler webhook, adaptor konektor pihak ketiga.
- (f) Perubahan infrastruktur — pembaruan mesin basis data, upgrade versi middleware, rotasi sertifikat TLS.
Kerangka SQT mencakup pengujian internal Provider (§5.4–§5.7) yang dilakukan sebelum UAT Customer, serta Pengujian Penerimaan Pengguna Universal milik Customer (§5.8) yang berfungsi sebagai gerbang formal kesiapan produksi.
5.3 Kerangka Pengujian Berbantuan AI
5.3.1 Gambaran Arsitektur
Provider menggunakan platform pengujian berbasis AI yang dirancang khusus dan terdiri dari tiga lapisan inti:
| Lapisan | Komponen | Fungsi |
|---|---|---|
| Orkestrasi | Agen Kerangka Pengujian AI | Agen AI khusus yang menafsirkan spesifikasi pengujian, menghasilkan skenario pengujian, mengeksekusi urutan pengujian, dan mengevaluasi hasil secara otonom. |
| Integrasi | lapisan integrasi API yang aman | Protokol standar terbuka yang memungkinkan Agen Pengujian AI berinteraksi dengan API ProjectVIEW ERP, endpoint basis data, dan hook otomasi UI secara terstruktur dan dapat diaudit. |
| Pelaksanaan | Lingkungan Pengujian per Klien | Lingkungan Dev/Sandbox khusus (§2.5.1) yang disediakan per Customer, diisi dengan data setara produksi yang dianonimkan untuk memastikan fidelitas pengujian. |
5.3.2 Agen Pengujian AI
Setiap instance ProjectVIEW ERP milik Customer dipasangkan dengan satu atau lebih Agen Pengujian AI khusus, yang dikonfigurasi dengan pengetahuan spesifik domain tentang:
- Konfigurasi Modul: Modul yang diaktifkan (misalnya, Project-Management, Contract-Management, Quality-Management) dan saling ketergantungannya.
- Aturan Bisnis: Alur persetujuan, matriks eskalasi, aturan notifikasi, dan rumus perhitungan yang spesifik terhadap kebutuhan operasional Customer.
- Skema Data: Field kustom, tabel lookup, domain nilai berkode, dan batasan integritas relasional yang dikonfigurasi dalam instance Customer.
- Taksonomi Peran: Peran pengguna, set izin, dan aturan pemisahan tugas yang berlaku bagi organisasi Customer.
- Peta Integrasi: Sistem pihak ketiga yang terhubung (akuntansi, HR, manajemen dokumen, BI) dan kontrak pertukaran datanya.
Agen AI dikendalikan versinya bersama codebase aplikasi menggunakan strategi branching Git milik Provider (Master → Client → Working branches, §4.7.2) sehingga konfigurasi pengujian berkembang seiring dengan perangkat lunak yang divalidasinya.
5.3.3 Integrasi API Aman
Lapisan integrasi API aman menyediakan lapisan komunikasi terstruktur antara Agen Pengujian AI dan ProjectVIEW ERP, yang memungkinkan:
- (a) Pemanggilan API: Agen memanggil API REST/GraphQL ProjectVIEW untuk membuat, membaca, memperbarui, dan menghapus record, meniru transaksi pengguna nyata tanpa ketergantungan pada UI.
- (b) Inspeksi Basis Data: Akses baca-saja ke basis data Dev/Sandbox Customer untuk memvalidasi batasan integritas data, konsistensi referensial, dan field terhitung setelah transaksi.
- (c) UI Automation Hooks: Ketika logika bisnis terikat erat dengan front-end (misalnya, visibilitas field kondisional, validasi formulir dinamis), lapisan integrasi mengarahkan instruksi agen melalui antarmuka browser headless yang merender UI ProjectVIEW secara akurat.
- (d) Perekaman Peristiwa: Semua interaksi agen-ERP dicatat ke jejak audit yang tidak dapat diubah, termasuk payload permintaan, kode respons, metrik waktu, dan hasil asersi.
Koneksi API diautentikasi menggunakan token API berumur pendek dan terbatas cakupan yang hanya memberikan izin yang diperlukan untuk rangkaian pengujian saat itu. Token diputar secara otomatis per sesi pengujian dan tidak dapat digunakan terhadap lingkungan Production.
5.4 Metodologi Pengujian
5.4.1 Tingkat Pengujian
Siklus pengujian Provider mencakup lima tingkat progresif, masing-masing dengan kriteria masuk, kriteria keluar, dan akuntabilitas yang ditetapkan:
| Tingkat | Nama | Cakupan | Metode | Kriteria Keluar |
|---|---|---|---|---|
| L1 | Pengujian Unit | Fungsi individual, method, stored procedure | Otomatis — tes yang ditulis developer dijalankan di pipeline CI/CD | 100% unit baru/yang dimodifikasi lulus; cakupan kode ≥ 80% |
| L2 | Pengujian Integrasi | Aliran data antar-modul, kontrak API, propagasi event | Agen AI — Agen Pengujian AI menjalankan transaksi lintas modul melalui lapisan integrasi API aman | Semua skenario integrasi lulus; tidak ada kebocoran data antar modul |
| L3 | Pengujian Sistem | Proses bisnis end-to-end dalam seluruh tumpukan aplikasi | Agen AI — agen mensimulasikan perjalanan pengguna lengkap (misalnya, pembuatan proyek → pengadaan → penagihan → pelaporan) | Semua skenario jalur kritis lulus; performa berada dalam ambang SLO |
| L4 | Pengujian Regresi | Fungsi yang sebelumnya telah divalidasi setelah perubahan kode | Agen AI — agen menjalankan kembali seluruh rangkaian regresi terhadap konfigurasi Customer | Tidak ada kegagalan regresi; tidak ada penurunan waktu respons > 10% |
| L5 | Pengujian Penerimaan Pengguna (UAT) | Validasi proses bisnis oleh pemangku kepentingan Customer | Dilaksanakan oleh Customer — didukung oleh Provider melalui template kasus uji, persiapan data, dan triase defect | Persetujuan UAT tertulis oleh perwakilan Customer yang berwenang (§5.8) |
5.4.2 Lingkungan Pengujian
Seluruh pengujian sisi Provider (L1–L4) dijalankan secara eksklusif di lingkungan Dev/Sandbox khusus milik Customer (§2.5.1). Lingkungan ini:
- Identik secara arsitektural dengan Production — versi mesin basis data, stack middleware, dan build aplikasi yang sama.
- Diisi dengan data setara produksi yang dianonimkan — volume dan variasi cukup untuk menguji kasus tepi yang realistis tanpa mengekspos data pribadi.
- Terisolasi — tidak ada konektivitas jaringan ke Production; namespace DNS dan realm autentikasi terpisah.
- Dapat di-reset — kemampuan snapshot/restore memungkinkan pengulangan run pengujian dari baseline yang diketahui baik.
Setelah Go-Live, lingkungan Dev/Sandbox beralih menjadi peran Staging (§2.5.1), mempertahankan seluruh properti di atas sekaligus juga berfungsi sebagai lingkungan UAT bagi Customer.
5.5 Simulasi Aliran Data End-to-End
5.5.1 Tujuan Simulasi
Agen AI mensimulasikan aliran data realistis end-to-end yang melintasi seluruh siklus hidup transaksi bisnis di ProjectVIEW ERP. Tujuannya adalah:
- (a) Memvalidasi bahwa data yang dibuat dalam satu modul dipropagasikan, ditransformasikan, dan tersedia dengan benar di semua modul hilir.
- (b) Mengonfirmasi bahwa aturan bisnis (rantai persetujuan, notifikasi, perhitungan) berjalan dengan benar di setiap tahap.
- (c) Memverifikasi bahwa tindakan pengguna serentak tidak menyebabkan race condition, deadlock, atau kerusakan data.
- (d) Mengukur latensi dan throughput transaksi terhadap ambang SLO yang ditetapkan (§3.3).
5.5.2 Skenario Simulasi
Provider memelihara pustaka skenario simulasi yang diparameterkan, masing-masing dipetakan ke proses bisnis inti ProjectVIEW. Tabel berikut mengilustrasikan skenario representatif — seluruh pustaka disesuaikan per Customer berdasarkan modul yang diaktifkan dan konfigurasinya:
| ID Skenario | Proses Bisnis | Modul yang Dilalui | Asersi Utama |
|---|---|---|---|
| SIM-001 | Inisiasi Proyek → Persetujuan Anggaran → Pengadaan | Project-Management, Budget-Management, pengadaan-Management | Batas anggaran ditegakkan; PO tertaut otomatis ke baris anggaran; alur persetujuan berjalan untuk jumlah > ambang batas |
| SIM-002 | Entri Timesheet → Alokasi Biaya → Pembuatan Faktur | Resource-Management, Cost-Management, Invoicing | Jam dihitung biayanya dengan tarif kontraktual yang benar; item baris faktur direkonsiliasi dengan timesheet yang disetujui |
| SIM-003 | Change Order → Variation → Revisi Anggaran → Penagihan ke Klien | Contract-Management, Change-Management, Budget-Management, Invoicing | Nilai variation dipropagasikan ke anggaran; penagihan klien mencerminkan nilai variation yang disetujui |
| SIM-004 | Inspeksi Kualitas → Non-Conformance → Tindakan Korektif → Penutupan | Quality-Management, Document-Management | NCR dibuat otomatis; tindakan korektif dilacak hingga penutupan; jejak dokumen lengkap |
| SIM-005 | Onboarding Subkontraktor → Verifikasi Asuransi → Penugasan Pekerjaan | subkontraktor-Management, Compliance, Resource-Management | Asuransi yang kedaluwarsa memblokir penugasan; notifikasi dikirim ke subkontraktor dan PM |
5.5.3 Penanaman Data & Eksekusi Skenario
Sebelum setiap run simulasi, agen AI secara otonom:
- (a) Menanam data prasyarat: Membuat record master (proyek, vendor, pengguna, kode biaya) yang diperlukan sebagai input untuk skenario yang diuji.
- (b) Menjalankan rantai transaksi: Memanggil API ProjectVIEW melalui lapisan integrasi API aman untuk melakukan setiap langkah proses bisnis dalam urutan yang benar, dengan nilai data dan interval waktu yang realistis.
- (c) Melakukan asersi pada setiap checkpoint: Setelah setiap langkah, agen mengkueri basis data dan/atau API untuk memastikan bahwa perubahan status yang diharapkan telah terjadi (record dibuat/diperbarui, alur kerja maju, notifikasi dikirim).
- (d) Menangkap bukti: Setiap panggilan API, kueri basis data, hasil asersi, dan pengukuran waktu dicatat ke repositori bukti pengujian yang tidak dapat diubah dan tertaut ke tiket deployment.
- (e) Membersihkan: Setelah selesai, agen mengembalikan lingkungan ke baseline menggunakan kemampuan snapshot/restore, memastikan tidak ada artefak pengujian yang mencemari run berikutnya.
5.6 Simulasi Interaksi Pengguna
5.6.1 Tujuan
Sementara pengujian di tingkat API (§5.5) memvalidasi logika backend, Simulasi Interaksi Pengguna memvalidasi bahwa antarmuka pengguna ProjectVIEW berperilaku dengan benar saat dioperasikan oleh pengguna manusia. Agen AI mereplikasi interaksi pengguna yang realistis termasuk:
- Pengisian formulir dengan data valid, tidak valid, dan nilai batas.
- Navigasi melalui alur kerja multi-langkah (wizard, rantai persetujuan, urutan unggah dokumen).
- Penegakan akses berbasis peran — agen menyamar sebagai pengguna dengan set peran/izin yang berbeda untuk memastikan elemen UI ditampilkan/disembunyikan dan diaktifkan/dinonaktifkan dengan benar.
- Perilaku responsif — pengujian pada ukuran viewport desktop dan tablet untuk memastikan integritas tata letak.
- Kepatuhan aksesibilitas — memverifikasi bahwa navigasi keyboard, atribut ARIA, dan rasio kontras memenuhi persyaratan WCAG 2.1 AA.
5.6.2 Skenario Interaksi
Simulasi interaksi pengguna disusun berdasarkan skrip pengujian berbasis persona:
| Persona | Peran | Interaksi Utama yang Diuji |
|---|---|---|
| Project Manager | PM | Pembuatan proyek, penugasan tim, input anggaran, pelacakan milestone, pembuatan laporan, inisiasi change order |
| Site Engineer | Field User | Entri log harian, inspeksi kualitas, unggah foto, checklist keselamatan, pengajuan timesheet |
| pengadaan Officer | Buyer | Permintaan pembelian, perbandingan vendor, persetujuan PO, penerimaan barang, pencocokan faktur |
| Finance Controller | Keuangan | Tinjauan biaya, analisis varians anggaran, persetujuan faktur, sertifikasi pembayaran, penutupan akhir periode |
| Contract Administrator | Kontrak | Pendaftaran kontrak, pemrosesan variation, manajemen klaim, pemeriksaan kepatuhan subkontraktor |
| Executive / Client | Read-Only / Approver | Tampilan dashboard, drill-down KPI, peninjauan dokumen, tindakan persetujuan di mobile |
5.6.3 Klasifikasi Defect
Defect yang diidentifikasi selama simulasi interaksi pengguna diklasifikasikan menggunakan taksonomi tingkat keparahan yang sama seperti insiden operasional (§4.3):
| Keparahan | Definisi (Konteks UI) | Contoh | Tindakan |
|---|---|---|---|
| P1 — Kritis | Aplikasi crash, kehilangan data, bypass keamanan | Pengiriman formulir menghapus record yang tidak terkait; panel admin dapat diakses tanpa autentikasi | Perbaikan segera; memblokir deployment |
| P2 — Tinggi | Alur kerja inti rusak, tidak ada workaround | Tombol persetujuan tidak responsif; validasi field wajib tidak ada | Perbaiki sebelum rilis UAT |
| P3 — Sedang | Fungsionalitas menurun tetapi ada workaround | Urutan pengurutan salah pada tampilan daftar; date picker memakai zona waktu yang salah secara default | Perbaiki dalam sprint saat ini jika kapasitas memungkinkan |
| P4 — Rendah | Masalah kosmetik atau kegunaan minor | Label tidak sejajar; teks tooltip terpotong | Masuk antrean backlog |
5.7 Validasi Integritas Data
5.7.1 Ruang Lingkup
Integritas data divalidasi pada tiga level setelah setiap run pengujian dan sebelum promosi deployment apa pun:
| Tingkat | Validasi | Metode |
|---|---|---|
| Referensial | Semua hubungan foreign key utuh; tidak ada record yatim | Agen AI menjalankan kueri SQL integritas referensial terhadap seluruh skema |
| Komputasional | Field terhitung, agregasi, dan nilai rollup secara matematis benar | Agen membandingkan nilai terhitung dengan hasil yang diharapkan yang dihitung secara independen |
| Temporal | Jejak audit lengkap; setiap record memiliki timestamp created/modified yang valid dan atribusi pengguna | Agen memverifikasi kelengkapan log audit dan konsistensi kronologis |
5.7.2 Asersi Integritas
Agen AI menjalankan asersi integritas berikut pada akhir setiap skenario simulasi:
(a) Zero Orphans: Kueri SELECT di semua tabel junction dan child memastikan tidak ada record yang mereferensikan parent record yang tidak ada. (b) Balance Verification: Untuk modul keuangan — total debit sama dengan total kredit pada setiap cost centre; budget committed + actual + remaining sama dengan total budget. (c) Sequence Integrity: Urutan bernomor otomatis (nomor dokumen, ID transaksi) tidak memiliki gap dan tidak ada duplikasi. (d) Concurrency Safety: Thread agen paralel yang menjalankan pembaruan yang saling bertentangan menghasilkan outcome yang deterministik dan benar dengan respons optimistic-locking yang sesuai. (e) Encryption at Rest: Field sensitif (PII, data keuangan) disimpan terenkripsi di basis data; plaintext hanya tersedia melalui lapisan dekripsi aplikasi.
5.7.3 Laporan Integritas Data
Setiap siklus pengujian menghasilkan Laporan Integritas Data otomatis yang berisi:
- Total assertasi yang dijalankan dan jumlah lulus/gagal.
- Catatan kegagalan terperinci dengan tabel, kolom, ID record, nilai yang diharapkan, dan nilai aktual.
- Analisis tren yang membandingkan skor integritas selama sepuluh siklus pengujian terakhir untuk mengidentifikasi pola penurunan.
- Tindakan remediasi yang dilakukan (diperbaiki otomatis vs. diekskalasi ke pengembangan).
Laporan Integritas Data dilampirkan pada tiket deployment dan disertakan dalam paket bukti UAT yang diberikan kepada Customer.
5.8 Pengujian Penerimaan Pengguna Universal (UAT)
5.8.1 Prasyarat UAT
Provider tidak boleh mengundang Customer untuk memulai UAT sampai prasyarat berikut terpenuhi:
- (a) Semua tingkat pengujian L1–L4 telah diselesaikan tanpa defect P1/P2 yang masih terbuka.
- (b) Laporan Integritas Data (§5.7.3) menunjukkan tingkat keberhasilan asersi 100%.
- (c) Lingkungan Staging Customer telah diperbarui dengan candidate build.
- (d) Template kasus uji, data uji, dan kredensial pengguna telah disiapkan dan dikomunikasikan kepada lead UAT yang ditunjuk Customer.
5.8.2 Pelaksanaan UAT
UAT dilaksanakan oleh perwakilan yang ditunjuk Customer menggunakan lingkungan Staging. Provider harus:
- Sediakan template kasus uji terstruktur yang selaras dengan proses bisnis Customer.
- Menyiapkan data uji realistis yang mencerminkan skenario produksi tanpa mengekspos data pribadi.
- Menyediakan Service Desk untuk pencatatan defect, triase, dan penyelesaian selama jendela UAT.
5.8.3 Persetujuan UAT
Tidak ada deployment ke Production yang boleh dilanjutkan tanpa persetujuan UAT tertulis dari perwakilan Customer yang berwenang. Dokumen persetujuan harus menegaskan bahwa Customer telah memvalidasi rilis terhadap kriteria penerimaannya dan mengesahkan promosi ke Production.
Jika Customer tidak memberikan persetujuan atau penolakan dalam sepuluh (10) Hari Kerja sejak tanggal mulai UAT, Provider harus menerbitkan pengingat tertulis. Jika tidak ada respons dalam lima (5) Hari Kerja tambahan, rilis tersebut dianggap diterima oleh Customer.
5.8.4 Penanganan Defect UAT
Defect yang diidentifikasi selama UAT dikelola melalui Embedded Ticketing System (§4.1) dan diklasifikasikan sesuai taksonomi tingkat keparahan pada §5.6.3. Aturan berikut berlaku:
- Defect P1/P2: Blokir persetujuan UAT. Provider harus memperbaiki dan mempresentasikan kembali fungsi yang terdampak dalam siklus sprint saat ini.
- Defect P3: Tidak menghalangi persetujuan. Provider harus melakukan remediasi pada sprint berikutnya dan mengonfirmasi penyelesaiannya kepada Customer.
- Defect P4: Dicatat ke backlog. Remediasi dijadwalkan berdasarkan kapasitas dan masukan prioritas Customer.
5.9 Advisory Optimisasi Proses
5.9.1 Ikhtisar
Kemampuan unik yang dihadirkan oleh kerangka pengujian berbantuan AI milik Provider adalah kemampuan menghasilkan wawasan optimisasi proses yang dapat ditindaklanjuti dari analisis data eksekusi pengujian. Layanan ini mengubah pengujian dari sekadar gerbang mutu defensif menjadi aktivitas penciptaan nilai yang proaktif bagi Customer.
5.9.2 Generasi Wawasan
Selama eksekusi pengujian, agen AI secara terus-menerus menangkap dan menganalisis:
- (a) Pola Latensi Transaksi: Mengidentifikasi langkah alur kerja yang secara konsisten menghabiskan waktu pemrosesan tidak proporsional, yang menunjukkan potensi bottleneck pada aturan bisnis atau pola akses data.
- (b) Frekuensi Pengecualian: Mengatalogkan kegagalan validasi, penolakan aturan bisnis, dan penolakan persetujuan untuk menampilkan titik friksi proses yang dapat mengindikasikan aturan yang salah konfigurasi atau panduan pengguna yang kurang jelas.
- (c) Anomali Kualitas Data: Mendeteksi pola record yang tidak lengkap, penggunaan nilai default secara berlebihan, atau kesalahan input data yang sistematis yang mengindikasikan perlunya redesain formulir atau penyesuaian field wajib.
- (d) Konflik Izin: Mengidentifikasi kombinasi peran/izin yang menciptakan bottleneck persetujuan yang tidak perlu atau, sebaliknya, celah pemisahan tugas.
- (e) Fitur yang Kurang Dimanfaatkan: Menandai modul atau fitur yang diaktifkan tetapi tidak digunakan dalam skenario pengujian realistis, yang mengindikasikan potensi kesenjangan pelatihan atau biaya lisensi yang tidak perlu.
5.9.3 Penyampaian Rekomendasi
Rekomendasi optimisasi proses adalah:
- Dikompilasi: Ke dalam Laporan Optimasi Proses terstruktur setelah setiap siklus pengujian utama (Rilis Sprint atau Upgrade).
- Diklasifikasikan: Berdasarkan dampak (Tinggi/Sedang/Rendah), upaya (perubahan konfigurasi, pengembangan minor, pengembangan besar), dan risiko (tanpa risiko, risiko rendah, memerlukan UAT).
- Disampaikan: Kepada Customer selama Quarterly Service Review (§3.9) oleh Service Delivery Manager.
- Dilacak: Sebagai item tindakan dalam Continuous Service Improvement (CSI) register (§4.10) dengan jadwal waktu dan penanggung jawab yang disepakati.
5.9.4 Batasan Ruang Lingkup
Advisory Optimisasi Proses diberikan sebagai informasi. Implementasi rekomendasi apa pun merupakan perubahan konfigurasi atau permintaan pengembangan yang diatur oleh proses manajemen perubahan dan perencanaan sprint yang berlaku (§4.6, §4.7). Provider tidak boleh menerapkan perubahan optimisasi tanpa persetujuan Customer dan, jika berlaku, Formal Scope Change Request (§2.7).
5.10 Tata Kelola & Pelaporan Pengujian
5.10.1 Repositori Bukti Pengujian
Provider harus memelihara repositori bukti pengujian terpusat dan tidak dapat diubah untuk setiap Customer, yang berisi:
- Rencana pengujian dan spesifikasi kasus uji untuk setiap deployment.
- Log eksekusi agen AI (trace interaksi API lengkap, timestamp, hasil asersi).
- Laporan integritas data (§5.7.3).
- Laporan optimisasi proses (§5.9.3).
- Paket bukti UAT (hasil kasus uji, log defect, dokumen persetujuan).
- Riwayat evolusi rangkaian regresi (kasus uji yang ditambahkan/dimodifikasi/didepresiasi).
Bukti pengujian disimpan selama Framework berlaku ditambah dua belas (12) bulan, atau selama diwajibkan oleh regulasi perlindungan data yang berlaku (GDPR Art. 5(1)(e); UAE PDPL Art. 5), mana yang lebih lama.
5.10.2 Metrik Kualitas
Provider harus melacak dan melaporkan metrik kualitas berikut, yang disertakan dalam Quarterly Service Review (§3.9):
| Metrik | Definisi | Target |
|---|---|---|
| Tingkat Lolos Defect | Jumlah defect yang ditemukan di Production yang seharusnya tertangkap dalam pengujian, sebagai persentase dari total defect deployment | < 2% |
| Cakupan Pengujian | Persentase proses bisnis yang dikonfigurasi yang dicakup oleh skenario pengujian agen AI otomatis | ≥ 90% |
| Tingkat Lolos Regresi | Persentase kasus uji regresi yang lulus tanpa modifikasi pada setiap build baru | ≥ 98% |
| Rata-rata Waktu Penyelesaian Defect | Rata-rata waktu berlalu dari identifikasi defect (L1–L4) hingga perbaikan terverifikasi | ≤ 4 jam (P1/P2); ≤ 2 Hari Kerja (P3) |
| Skor Integritas Data | Persentase asersi integritas (§5.7.2) yang lulus pada setiap siklus pengujian | 100% |
| Tingkat Lulus Pertama UAT | Persentase rilis yang mencapai persetujuan UAT Customer tanpa pengajuan ulang | ≥ 85% |
| Wawasan Optimisasi per Siklus | Jumlah rekomendasi optimasi proses yang dapat ditindaklanjuti yang dihasilkan per siklus pengujian utama | ≥ 3 |
5.10.3 Perbaikan Berkelanjutan
Kerangka SQT tunduk pada perbaikan berkelanjutan sejalan dengan Siklus Deming (Plan-Do-Check-Act):
- (a) Plan: Strategi pengujian dan konfigurasi AI-agent ditinjau dan diperbarui pada awal setiap kuartal berdasarkan tren metrik kualitas dan masukan Customer.
- (b) Do: Rangkaian pengujian yang diperbarui dan konfigurasi agent diterapkan ke lingkungan Staging Customer.
- (c) Check: Metrik kualitas (§5.10.2) dievaluasi terhadap target; analisis akar masalah dilakukan atas setiap target yang tidak tercapai.
- (d) Act: Tindakan korektif dan preventif dicatat dalam register CSI (§4.10) dan dilaksanakan pada siklus sprint berikutnya.
5.11 Keamanan & Kepatuhan
5.11.1 Perlindungan Data Pengujian
Semua data pengujian yang digunakan dalam proses SQT tunduk pada kewajiban perlindungan data dalam Kerangka ini (Bab [Perlindungan Data — referensi bab mendatang]). Secara khusus:
- Data produksi harus dianonimkan atau dipseudonimkan sebelum digunakan di lingkungan nonproduksi, sesuai dengan GDPR Pasal 89(1) dan UAE PDPL Pasal 5.
- AI agents tidak menyimpan data Customer setelah sesi pengujian. Semua data yang diproses oleh AI Testing Agents bersifat sementara dan dihapus setelah sesi berakhir.
- Token API dibatasi pada izin minimum yang diperlukan, dibatasi waktunya, dan dicabut secara otomatis pada akhir sesi.
- Log bukti pengujian dienkripsi saat tersimpan (AES-256) dan saat dikirim (TLS 1.3).
5.11.2 Tata Kelola Agent
Penggunaan AI agents oleh Provider dalam kerangka SQT diatur oleh:
- Kepatuhan EU AI Act: AI agents yang digunakan untuk pengujian perangkat lunak diklasifikasikan sebagai berisiko minimal di bawah EU AI Act (Regulation (EU) 2024/1689), karena beroperasi pada data nonproduksi dalam lingkungan terkendali dan tidak membuat keputusan otonom yang berdampak pada orang perseorangan.
- NIST AI RMF: Metodologi pengujian AI milik Provider selaras dengan prinsip validity, reliability, dan accountability dalam NIST AI Risk Management Framework (AI RMF 1.0).
- Pengawasan Manusia: AI agents beroperasi di bawah pengawasan manusia. Semua hasil pengujian, rekomendasi optimasi, dan keputusan penerapan memerlukan peninjauan dan persetujuan manusia sebelum tindakan diambil.
- Transparansi: Atas permintaan Customer, Provider harus menyediakan dokumentasi konfigurasi AI-agent, logika pengambilan keputusan, dan log interaksi untuk setiap siklus pengujian.
EU AI Act — Regulation (EU) 2024/1689 NIST AI Risk Management Framework 1.0
5.12 Register Proses
5.12.1 Registri Proses
| Ref | Proses | Pemicu | Penanggung Jawab | Penyetuju | Hasil yang Diharapkan | Cross-Ref |
|---|---|---|---|---|---|---|
| P-5.01 | Konfigurasi AI Agent | Onboarding Customer baru atau aktivasi modul | Pemimpin QA Provider | SDM | AI agent spesifik Customer dikonfigurasi, diuji, dan dikendalikan versinya | §2.4, §5.3.2 |
| P-5.02 | Simulasi Aliran Data End-to-End | Build baru siap untuk pengujian L2/L3 | AI Testing Agent | Pemimpin QA Provider | Semua skenario simulasi lulus; bukti dicatat ke repositori pengujian | §5.5, §4.7 |
| P-5.03 | Simulasi Interaksi Pengguna | Build baru siap untuk pengujian L3 | AI Testing Agent | Pemimpin QA Provider | Semua skrip interaksi berbasis persona lulus; defect diklasifikasikan | §5.6, §4.3 |
| P-5.04 | Validasi Integritas Data | Penyelesaian run pengujian L2/L3 | AI Testing Agent | Pemimpin QA Provider | 100% assertasi integritas lulus; Laporan Integritas Data dihasilkan | §5.7 |
| P-5.05 | Eksekusi Rangkaian Regresi | Perubahan kode digabung ke branch Client | AI Testing Agent | Pemimpin QA Provider | Seluruh rangkaian regresi lulus; tidak ada regresi yang terdeteksi | §5.4.1 L4, §4.7.2 |
| P-5.06 | Persiapan & Serah Terima UAT | Pengujian L1–L4 selesai tanpa P1/P2 | Pemimpin QA Provider | SDM | Lingkungan Staging disegarkan; kasus uji dan data disiapkan; Customer diberi pemberitahuan | §5.8.1, §2.5.1 |
| P-5.07 | Penyelesaian Defect UAT | Customer mencatat defect selama UAT | Tim Dev Provider | Pemimpin QA Provider | Defect diselesaikan sesuai SLA tingkat keparahan; perbaikan diverifikasi dan dipresentasikan ulang | §5.8.4, §4.3 |
| P-5.08 | Persetujuan UAT | Customer menyelesaikan UAT | Pemimpin UAT Customer | Perwakilan Resmi Customer | Persetujuan tertulis diterima; deployment ke Production diotorisasi | §5.8.3, §4.7.3 |
| P-5.09 | Analisis Optimasi Proses | Penyelesaian siklus pengujian utama | AI Testing Agent | SDM | Laporan Optimasi Proses dihasilkan dengan rekomendasi yang diklasifikasikan | §5.9, §3.9 |
| P-5.10 | Tinjauan Tata Kelola Pengujian | Siklus kuartalan | Pemimpin QA Provider | SC | Metrik kualitas ditinjau; strategi pengujian diperbarui; tindakan CSI dicatat | §5.10, §4.10 |
5.12.2 Matriks RACI
R = Responsible | A = Accountable | C = Consulted | I = Informed
| Proses | QA Provider | AI Agent | Tim Dev | Customer | SDM |
|---|---|---|---|---|---|
| P-5.01 Konfigurasi AI Agent | R | — | C | I | A |
| P-5.02 Simulasi Aliran Data | A | R | C | I | I |
| P-5.03 Simulasi Interaksi Pengguna | A | R | C | I | I |
| P-5.04 Validasi Integritas Data | A | R | I | I | I |
| P-5.05 Eksekusi Rangkaian Regresi | A | R | C | I | I |
| P-5.06 Persiapan & Serah Terima UAT | R | C | C | I | A |
| P-5.07 Penyelesaian Defect UAT | A | C | R | I | I |
| P-5.08 Persetujuan UAT | I | — | I | R/A | I |
| P-5.09 Optimasi Proses | C | R | C | I | A |
| P-5.10 Tinjauan Tata Kelola Pengujian | R | I | C | C | A |
5.12.3 Alur Proses — Siklus Hidup Kualitas & Pengujian Perangkat Lunak
| Tahap | Aktivitas | Peran | Keluaran |
|---|---|---|---|
| ① Konfigurasi | Sediakan AI agent per-Client dengan konfigurasi modul, aturan bisnis, skema data, taksonomi peran, dan peta integrasi | Pemimpin QA Provider | Konfigurasi AI Agent yang diversion kontrol di Git |
| ② Simulasi | Jalankan simulasi aliran data end-to-end dan interaksi pengguna melalui lapisan integrasi API aman terhadap Dev/Sandbox | AI Testing Agent | Log eksekusi pengujian + hasil assertasi |
| ③ Validasi | Jalankan assertasi integritas data (referensial, komputasional, temporal) di seluruh skema | AI Testing Agent | Laporan Integritas Data |
| ④ Regresi | Jalankan seluruh rangkaian regresi terhadap konfigurasi Customer untuk memastikan tidak ada regresi | AI Testing Agent | Laporan Lulus/Gagal Regresi |
| ⑤ Optimasi | Analisis data pengujian untuk menghasilkan wawasan dan rekomendasi optimasi proses | AI Testing Agent | Laporan Optimasi Proses |
| ⑥ Persiapan | Segarkan Staging, siapkan kasus uji, isi data UAT, beri pemberitahuan kepada Customer | Pemimpin QA Provider + SDM | Paket bukti UAT + pemberitahuan Customer |
| ⑦ Penerimaan | Customer menjalankan UAT terhadap kriteria penerimaan; mencatat defect jika ada | Pemimpin UAT Customer | Hasil pengujian UAT + tiket defect |
| ⑧ Otorisasi | Customer memberikan persetujuan UAT tertulis; Provider mempromosikan build ke Production | Perwakilan Resmi Customer + Provider | Dokumen UAT yang ditandatangani + deployment Production |
