Perbedaan nyata antara chatbot dan agen

Yang satu menjawab pertanyaan. Yang lain memutuskan apa yang harus dilakukan, melakukannya, memeriksa pekerjaannya sendiri, lalu lanjut ke langkah berikutnya — tanpa menunggu Anda bertanya. Perbedaan itu bukan urusan akademis. Ia mengubah apa yang bisa salah, dan siapa yang seharusnya menangkapnya.

Chatbot mengambil apa yang Anda ketik, menghasilkan respons, lalu berhenti. Agen mengambil apa yang Anda ketik, memutuskan apa yang perlu terjadi, mengambil tindakan, memeriksa apakah itu berhasil, lalu memutuskan langkah selanjutnya — secara mandiri, sering kali melalui banyak langkah — sebelum ada manusia yang melihat salah satunya. Itulah seluruh pembedaan. Segala hal yang diperdebatkan orang ketika mereka berdebat tentang “agen AI” — risikonya, pengawasan yang dibutuhkan sebuah sistem, dan sebagian besar kebingungan pemasaran — bersumber dari satu perbedaan itu.

Apa yang sebenarnya dilakukan chatbot

Chatbot adalah sistem sekali jalan (single-pass). Anda memberinya teks, ia menghasilkan teks balik, dan interaksi berakhir di situ. Bahkan chatbot dengan ingatan panjang tentang percakapan Anda tetap melakukan satu hal per giliran: membaca semua yang sudah dikatakan sejauh ini dan memprediksi pesan berikutnya. Ia tidak pernah melakukan kueri ke basis data untuk memeriksa fakta, tidak pernah mengirim apa pun atas nama Anda, dan tidak pernah kembali lagi nanti untuk melihat apakah jawabannya bertahan. Jika ia salah, kerusakannya adalah kalimat yang dibaca seseorang — dan, dalam kondisi normal, orang itu bisa menyadarinya sebelum bertindak berdasarkan kalimat itu.

Sebagian besar yang diminta orang kepada chatbot cocok dengan bentuk ini tanpa ada yang menyadarinya: ringkas dokumen ini, buat draf pesan ulang tahun, jelaskan kebijakan pengembalian dana kami, tulis tiga pilihan judul. Tidak satu pun menuntut sistem memeriksa sesuatu terhadap dunia nyata atau mengambil tindakan di luar jendela obrolan. Itu tetap benar ketika antarmuka diberi merek “asisten AI” atau “copilot” alih-alih “chatbot” — label pada kotak tidak mengubah apa yang terjadi di dalamnya.

Apa yang sebenarnya dilakukan agen

Agen menjalankan siklus berulang (loop), bukan sekali jalan: merencanakan satu langkah, mengambil tindakan dengan memanggil alat sungguhan — mencari basis data, mengirim pesan, menyunting berkas, memanggil API — melihat apa yang sebenarnya dikembalikan tindakan itu, lalu memakai hasil itu untuk memutuskan langkah berikutnya. Ia mengulang ini sampai tugas selesai, ia macet, atau ia dirancang untuk berkonsultasi dengan seseorang. Bagian pentingnya: tidak ada orang yang menyetujui tiap langkah di sepanjang prosesnya. Sistem memutuskan sendiri apa yang dicoba berikutnya berdasarkan apa yang benar-benar terjadi terakhir kali ia bertindak — dan ia bisa salah di setiap titik keputusan itu, bukan hanya pada jawaban akhir.

Siklus ini bukan hal baru ataupun eksotis. Para peneliti telah menggambarkan versinya — menalar apa yang harus dilakukan, bertindak, mengamati hasilnya, menalar lagi — selama bertahun-tahun, dan itulah yang sebenarnya berjalan di bawah produk yang menyebut dirinya agen, dari perangkat lunak yang mengajukan laporan pengeluaran sampai alat pemrograman yang membuka terminal lalu menjalankan perintahnya sendiri. Yang membuat sesuatu menjadi agen, bukan chatbot yang sangat banyak bicara, adalah ia bertindak di dunia nyata, mengamati apa yang terjadi, dan menyesuaikan diri — berulang kali, tanpa manusia menyetujui setiap gerakan.

Permintaan yang sama, dijalankan dua cara

Begini rupa perbedaan itu ketika dua sistem menerima instruksi yang terdengar mirip.

Tanyakan pertanyaan kedua kepada chatbot, dan ia tetap akan menyerahkan sesuatu yang tampak seperti jawaban: tiga email pengingat yang terdengar masuk akal, dihasilkan dari apa pun yang kebetulan Anda tempel ke percakapan. Yang tidak akan ia lakukan adalah menanyakan sistem faktur Anda yang sebenarnya, memverifikasi jumlahnya, atau menaruh apa pun di folder draf yang sungguhan. Keluarannya bisa terlihat mirip. Apa yang sebenarnya dilakukan sistem, tidak.

Mengapa ini bukan sekadar perdebatan semantik

Pembedaan itu penting karena ia mengubah apa yang bisa salah, dan siapa yang menangkapnya. Kasus terburuk chatbot adalah jawaban yang salah. Seseorang membacanya, dan pada umumnya entah menyadari kesalahan itu atau memutuskan untuk tidak bertindak berdasarkan jawaban tersebut — kesalahan tidak pernah meninggalkan percakapan. Kasus terburuk agen adalah tindakan yang salah yang sudah dilakukan di dunia nyata: pengingat yang pergi ke pelanggan yang salah dengan saldo yang salah, catatan yang diperbarui dengan nilai yang salah, pengembalian dana yang diterbitkan dua kali — sebelum siapa pun meninjau apa pun. Kesalahannya bukan lagi sebuah kalimat. Itu sebuah peristiwa, dan peristiwa tidak bisa dibuat tidak terjadi.

Itulah mengapa agen membutuhkan jenis pengawasan yang berbeda dari chatbot. Chatbot sebagian besar membutuhkan seseorang yang memeriksa jawabannya, kapan pun orang itu sempat. Agen membutuhkan perancangnya sudah memutuskan, sebelum ia pernah berjalan, tindakan mana yang boleh ia ambil tanpa bertanya, tindakan mana yang menuntut seseorang melihat rencana lebih dulu, dan apa yang terjadi ketika ia macet. Jika baru memikirkannya setelah kejadian, Anda akan tahu apa yang sudah dilakukan agen dengan cara yang menyakitkan.

Anda hanya bisa memercayai apa yang bisa Anda lihat

Ini gagasan yang sama di balik konsep Kejelasan FabricLoop: Anda hanya bisa mengatur akses, dan perilaku, yang benar-benar bisa Anda lihat. Bagi chatbot, itu hampir otomatis — seluruh keluarannya adalah pesan yang dibaca seseorang, jadi tindakan dan catatan tindakan adalah hal yang sama. Bagi agen, tidak. Tindakannya terjadi di dalam sistem lain — CRM, kotak masuk, basis data, berkas — dan kecuali ada yang mencatat apa yang ia sentuh, ubah, atau kirim, tidak ada cara meninjaunya setelah kejadian, apalagi menghentikannya sebelumnya. Kejelasan bukan tambahan kepatuhan yang ditumpuk di atas agen. Bagi agen, itu seluruh pertanyaannya, karena “jawabannya” bukan kalimat yang bisa Anda baca ulang — itu serangkaian tindakan yang mungkin tidak pernah Anda ketahui terjadi, kecuali sistem dibangun untuk menunjukkannya kepada Anda.

Itulah kaitan praktis antara kedua gagasan: agen menanggung lebih banyak risiko, dan risiko yang berbeda, dibanding chatbot, dan itulah persis mengapa ia membutuhkan jejak yang terlihat dari apa yang ia lakukan dan, pada kasus dengan taruhan lebih tinggi, sebuah titik pemeriksaan sebelum ia bertindak — apa yang konsep Tingkat Intervensi Manusia FabricLoop perlakukan sebagai angka yang Anda rancang dan ukur, bukan tambalan yang baru dipasang setelah sesuatu telanjur salah.

Pasar terus-menerus menilai hal ini secara terbalik

Begitu Anda punya ujian yang nyata, jelas betapa sering label berbohong ke dua arah. Banyak produk yang dipasarkan keras sebagai “agen AI” — kata itu di judul utama, di jenjang harga — di bawahnya hanyalah satu prompt yang disetel baik: baca masukan, hasilkan keluaran, selesai. Tidak ada panggilan alat yang mandiri, tidak ada putaran, tidak ada keputusan yang diambil tanpa manusia menyetujui klik berikutnya. Sementara itu, banyak perangkat lunak yang tidak pernah memakai kata “agen” — alur kerja penagihan otomatis, sistem pemantauan yang mengalihkan lalu lintas sendiri, skrip operasi yang memulai ulang layanan yang gagal lalu memeriksa apakah itu memperbaikinya — diam-diam menjalankan persis putaran yang dijelaskan di atas. Kata pada label tidak memberi tahu Anda apa pun yang andal tentang mesin mana yang sebenarnya Anda pakai.

Tidak satu pun dari ini menuntut latar belakang teknis untuk diterapkan. Kali berikutnya vendor, atau rekan, menyebut sesuatu sebagai agen, tanyakan apa yang sebenarnya ia lakukan antara instruksi Anda dan hasilnya — dan berapa banyak dari langkah-langkah itu yang ia putuskan sendiri.