Selama dua tahun terakhir, strategi AI enterprise hanya digerakkan oleh satu dorongan utama: menjadi yang tercepat dalam mencapai garda terdepan teknologi. Jalur yang paling umum dipilih hampir selalu sama: akun public cloud, API key dari OpenAI, atau Anthropic, dan kesiapan menanggung biaya demi mengejar kecepatan. Insting ini memicu gelombang eksperimentasi yang luar biasa, namun kini mulai mulai membentur dinding pembatas.
Gartner memperkirakan belanja AI global akan mencapai USD2,52 triliun pada 2026, naik 44% dibandingkan tahun sebelumnya, dengan USD1,37 triliun di antaranya dialokasikan khusus untuk infrastruktur AI. Di Asia Tenggara, investasi AI mengalami pertumbuhan tahunan sebesar 25%, dengan total investasi AI akan melampaui USD110 miliar pada 2028.
Bahkan, pada pertengahan 2025, Gartner menyatakan bahwa AI untuk pengadaan telah memasuki fase “Trough of Disillusionment”, sebuah fase di mana scaling akan ditentukan oleh kepastian laba atas investasi yang terukur, bukan lagi sekadar proyek percontohan yang bersifat visioner. Fokus tekanan kini telah bergeser, bukan lagi tentang seberapa cepat korporasi dapat meluncurkan uji coba sistem AI, melainkan apakah mereka mampu menjaga keberlanjutannya, punya tata kelola, serta memitigasi risiko di fase produksi.
Dari akses ke model-model tercanggih menuju ekonomi inferensi
Kita sedang bergerak dari era AI 1.0. Akses ke model-model paling mutakhir menjadi faktor pembeda yang utama, menuju era AI 2.0, di mana aspek ekonomi inferensi, data gravity, latensi, dan kontrol menjadi penentu hasil akhir.
Meski harga token telah merosot sekitar sepuluh kali lipat setiap tahun sejak 2021, tetapi total pengeluaran AI di sebagian besar perusahaan justru meningkat, bukan menurun, karena model yang semakin canggih mendorong munculnya alur kerja yang lebih ambisius.
Anthropic, OpenAI, dan Mistral kini mulai membedakan penawaran mereka, memisahkan model penalaran kelas flagship dan model utilitas berbiaya rendah, karena pelanggan enggan membayar harga premium untuk setiap tugas.
Survei McKinsey State of AI 2025 mengonfirmasi pola ini — meski adopsi AI semakin meluas, tetapi dampak transformatif dalam skala besar masih sulit diwujudkan oleh sebagian besar organisasi. Pertanyaan yang kini diajukan para CIO bukan lagi model mana yang terbaik, melainkan beban kerja mana yang harus dieksekusi di platform mana, dengan biaya berapa, dan di bawah otoritas kebijakan siapa.
Ujian “Next Best Action”
Ambil contoh kasus perusahaan yang sudah sangat familiar: sebuah bank yang mengeksekusi the next best action, baik melalui aplikasi, interaksi di kantor cabang, atau rekomendasi call center yang disajikan dalam hitungan milidetik berdasarkan konteks pelanggan secara real-time.
Bank-bank terbaik yang bekerja sama membuktikan bahwa personalisasi pada layer ini dapat meningkatkan pendapatan sebesar 5–15%. Salah satu bank global yang bekerja sama dengan meluncurkan asisten AI yang telah menyelesaikan lebih dari 1,5 juta pertanyaan pelanggan hanya dalam tahun pertama operasionalnya.
Namun, perhitungan matematis dalam inferensi tidak kenal kompromi. Satu keputusan mandiri yang diambil oleh sistem berbasis agen dapat memicu lima hingga dua puluh panggilan model, masing-masing mengusung beban context window sendiri.
Selisih harga antara USD0,50 dan USD3,30 per satu juta input token — yang tampak sangat sepele dalam demo satu kali interaksi — menjadi faktor penentu apakah fitur tersebut akan menghasilkan margin positif atau diam-diam menguras modal di tengah ratusan juta interaksi pelanggan.
