Perbezaan sebenar antara chatbot dan ejen

Satu daripadanya menjawab soalan. Yang satu lagi memutuskan apa yang perlu dilakukan, melakukannya, menyemak kerja sendiri, lalu bergerak ke langkah seterusnya — tanpa menunggu anda bertanya. Perbezaan itu bukan soal akademik. Ia mengubah apa yang boleh menjadi salah, dan siapa yang sepatutnya mengesannya.

Chatbot mengambil apa yang anda taip, menjana respons, lalu berhenti. Ejen mengambil apa yang anda taip, memutuskan apa yang perlu berlaku, melakukan sesuatu tentangnya, menyemak sama ada itu berjaya, lalu memutuskan apa yang perlu dilakukan seterusnya — sendiri, sering kali merentas banyak langkah — sebelum sesiapa melihat mana-mana bahagiannya. Itulah seluruh perbezaan. Segala yang orang perdebatkan apabila mereka berdebat tentang "ejen AI" — risiko, pengawasan yang diperlukan sistem, dan sebahagian besar kekeliruan pemasaran — berpunca daripada satu perbezaan itu.

Apa yang chatbot sebenarnya lakukan

Chatbot ialah sistem satu laluan. Anda memberinya teks, ia menjana teks sebagai balasan, dan interaksi tamat di situ. Chatbot yang mempunyai ingatan panjang tentang perbualan anda pun masih melakukan satu perkara setiap giliran: membaca segala yang telah diperkatakan setakat ini dan meramalkan mesej seterusnya. Ia tidak pernah membuat pertanyaan kepada pangkalan data untuk menyemak fakta, tidak pernah menghantar apa-apa bagi pihak anda, dan tidak pernah kembali kemudian untuk melihat sama ada jawapannya kekal tepat. Jika ia salah, kerosakannya ialah ayat yang dibaca seseorang — dan, lazimnya, orang itu boleh mengesannya sebelum bertindak atas ayat itu.

Kebanyakan yang orang minta chatbot lakukan sesuai dengan corak ini tanpa disedari sesiapa: ringkaskan dokumen ini, draf ucapan hari jadi, terangkan dasar bayaran balik kami, tulis tiga pilihan tajuk. Tiada satu pun menuntut sistem menyemak sesuatu terhadap dunia sebenar atau mengambil tindakan di luar tetingkap sembang. Itu tetap benar apabila antara muka dijenamakan "pembantu AI" atau "copilot" dan bukannya "chatbot" — label pada kotak tidak mengubah apa yang berlaku di dalamnya.

Apa yang ejen sebenarnya lakukan

Ejen menjalankan gelung, bukan satu laluan: merancang satu langkah, mengambil tindakan dengan memanggil alat sebenar — mencari pangkalan data, menghantar mesej, menyunting fail, memanggil API — melihat apa yang tindakan itu sebenarnya kembalikan, lalu menggunakan hasil itu untuk memutuskan langkah seterusnya. Ia mengulang ini sehingga tugas selesai, ia tersekat, atau ia dibina supaya merujuk kepada seseorang. Bahagian penting: tiada siapa meluluskan setiap langkah satu per satu sepanjang jalan. Sistem memutuskan sendiri apa yang hendak dicuba seterusnya berdasarkan apa yang sebenarnya berlaku kali terakhir ia bertindak — dan ia boleh salah pada setiap titik keputusan itu, bukan hanya pada jawapan akhir.

Gelung ini bukan baharu dan bukan eksotik. Penyelidik telah menghuraikan versi-versinya — menaakul apa yang perlu dilakukan, bertindak, memerhati hasil, menaakul semula — selama bertahun-tahun, dan itulah yang sebenarnya berjalan di bawah produk yang memanggil diri mereka ejen, daripada perisian yang memfailkan laporan perbelanjaan hingga alat pengekodan yang membuka terminal lalu menjalankan arahan sendiri. Apa yang menjadikan sesuatu ejen dan bukannya chatbot yang sangat peramah ialah ia bertindak ke atas dunia, memerhati apa yang berlaku, dan menyesuaikan diri — berulang kali, tanpa manusia meluluskan setiap gerakan.

Permintaan yang sama, dijalankan dua cara

Beginilah rupa perbezaan itu apabila dua sistem menerima arahan yang kedengaran serupa.

Jika anda mengemukakan soalan kedua kepada chatbot, ia tetap akan menyerahkan sesuatu yang kelihatan seperti jawapan: tiga e-mel peringatan yang kedengaran munasabah, dijana daripada apa sahaja yang kebetulan anda tampal ke dalam perbualan. Apa yang tidak akan dilakukannya ialah membuat pertanyaan kepada sistem invois anda yang sebenar, mengesahkan bilangan, atau meletakkan apa-apa dalam folder draf yang sebenar. Output boleh kelihatan serupa. Tetapi apa yang sebenarnya dilakukan oleh sistem itu tidak sama.

Mengapa ini bukan sekadar perdebatan semantik

Perbezaan itu penting kerana ia mengubah apa yang boleh menjadi salah, dan siapa yang mengesannya. Kes terburuk chatbot ialah jawapan yang salah. Seseorang membacanya, dan lazimnya dia sama ada mengesan ralat itu atau memutuskan untuk tidak bertindak atasnya — kesilapan tidak pernah meninggalkan perbualan. Kes terburuk ejen ialah tindakan yang salah yang sudah diambil di dunia sebenar: peringatan yang dihantar kepada pelanggan yang salah dengan baki yang salah, rekod yang dikemas kini dengan nilai yang salah, bayaran balik yang dikeluarkan dua kali — sebelum sesiapa menyemak apa-apa. Kesilapan itu bukan lagi ayat. Ia satu peristiwa, dan sesuatu peristiwa tidak boleh dijadikan tidak pernah berlaku.

Itulah sebabnya ejen memerlukan jenis pengawasan yang berbeza daripada chatbot. Chatbot kebanyakannya memerlukan seseorang yang menyemak jawapannya, pada bila-bila masa orang itu berkesempatan. Ejen memerlukan pereka bentuknya memutuskan, sebelum ia pernah dijalankan, tindakan mana yang boleh diambilnya tanpa bertanya, tindakan mana yang menuntut seseorang melihat pelan dahulu, dan apa yang berlaku apabila ia tersekat. Jika anda menyelesaikannya selepas kejadian, anda akan mengetahui apa yang telah dilakukan ejen itu dengan cara yang pahit.

Anda hanya boleh percaya apa yang anda boleh lihat

Ini idea yang sama di sebalik konsep Keterbacaan FabricLoop: anda hanya boleh mentadbir akses, dan tingkah laku, yang anda benar-benar boleh lihat. Bagi chatbot, itu hampir automatik — seluruh outputnya ialah mesej yang dibaca seseorang, jadi tindakan dan rekod tindakan ialah perkara yang sama. Bagi ejen, tidak. Tindakannya berlaku di dalam sistem lain — CRM, peti masuk, pangkalan data, fail — dan melainkan sesuatu merekod apa yang disentuh, diubah, atau dihantarnya, tiada cara untuk menyemaknya selepas kejadian, apatah lagi menghentikannya sebelum itu. Keterbacaan bukan tambahan pematuhan yang dilapis di atas ejen. Bagi ejen, itulah seluruh soalan, kerana "jawapan"nya bukan ayat yang boleh anda semak dengan membacanya — ia satu set tindakan yang mungkin anda tidak pernah tahu berlaku, melainkan sistem dibina untuk menunjukkannya kepada anda.

Itulah pautan praktikal antara dua idea: ejen menanggung risiko yang lebih besar, dan berbeza, daripada chatbot, dan itulah tepat sebabnya ia memerlukan jejak yang kelihatan tentang apa yang dilakukannya dan, dalam kes pertaruhan lebih tinggi, satu titik semak sebelum ia bertindak — apa yang konsep Kadar Campur Tangan Manusia FabricLoop anggap sebagai nombor yang anda reka bentuk dan ukur, bukan fikiran terkemudian yang ditambah setelah sesuatu sudah menjadi salah.

Pasaran sentiasa menilai perkara ini secara songsang

Setelah anda mempunyai ujian yang sebenar, jelaslah betapa kerap label berbohong dalam kedua-dua arah. Banyak produk yang dipasarkan dengan gencar sebagai "ejen AI" — perkataan itu dalam tajuk utama, dalam peringkat harga — pada hakikatnya hanyalah satu gesaan yang ditala dengan baik: baca input, jana output, siap. Tiada panggilan alat bebas, tiada gelung, tiada keputusan yang dibuat tanpa manusia meluluskan klik seterusnya. Sementara itu, banyak perisian yang tidak pernah menggunakan perkataan "ejen" — aliran kerja invois automatik, sistem pemantauan yang mengalihkan trafik dengan sendirinya, skrip operasi yang memulakan semula perkhidmatan yang gagal lalu menyemak sama ada itu membaikinya — secara senyap menjalankan gelung yang sama seperti yang diterangkan di atas. Perkataan pada label tidak memberitahu anda apa-apa yang boleh dipercayai tentang mesin mana yang anda sebenarnya gunakan.

Tiada satu pun daripada ini menuntut latar belakang teknikal untuk digunakan. Pada kali seterusnya vendor atau rakan sekerja menggelar sesuatu sebagai ejen, tanyalah apa yang sebenarnya dilakukannya antara arahan anda dan hasilnya — dan berapa banyak langkah itu yang diputuskannya sendiri.