Memasang Chatbot Bermakna Satu Meter Tambahan

Setiap Baris yang Ditaip Pelawat Memusingkan Meter

Letakkan satu kotak sembang pada halaman, dan setiap kali pelawat menaip sesuatu, kotak itu menghantar permintaan kepada model bahasa yang berada di luar sana. Setiap permintaan dikenakan harga. Sehingga di sini kebanyakan orang sudah tahu sejak awal. Yang mula tersasar ialah anggapan bahawa jumlahnya mengikut bilangan soalan.

Model tidak mengingati apa-apa daripada perbualan sebelumnya. Perbualan kelihatan bersambung kerana keseluruhan perbualan setakat itu dimuatkan semula dan dihantar sekali lagi pada setiap permintaan. Maka soalan kesepuluh, walaupun ditaip sepanjang soalan pertama, terpahat jauh lebih besar pada meter. Tiga perkara menumpang dalam satu permintaan: ayat yang ditaip pelawat, blok arahan anda sendiri yang menetapkan peranan model dan perkara yang tidak boleh diucapkannya (dipanggil system prompt), dan jawapan yang dikembalikan model.

Sebab itu ruang untuk memotong kos ada pada reka bentuk perbualan, bukan pada senarai ciri. Berapa pusingan satu perbualan dibenarkan berjalan, di titik mana mesej lama dipangkas, sama ada arahan yang keluar sama setiap kali disimpan dalam cache. Keputusan yang tertinggal daripada dokumen skop akan muncul pada bil.

Apa yang Menumpang dalam “Bot yang Tahu Tentang Syarikat Kami”

Permintaan biasanya tiba dengan ayat itu. Model tidak mengenali syarikat anda, jadi satu lagi radas dibina: sesuatu yang mencari perenggan berkaitan dalam bahan anda sendiri lalu menyerahkannya bersama soalan. Mengumpul bahan, memotongnya menjadi cebisan, membina indeks supaya boleh dicari, dan memilih cebisan yang sesuai bagi setiap soalan, semuanya berada di dalam radas itu. Yang menggerakkan angka sebut harga ialah keadaan bahannya. Menarik daripada halaman web dan dokumen yang kemas bukan kerja yang sama dengan menarik daripada PDF imbasan dan hamparan yang formatnya berbeza mengikut jabatan.

Radas itu juga tidak pernah benar-benar siap. Sebaik harga atau peraturan berubah, indeksnya perlu dibina semula, dan jika tidak, bot menyebut syarat bulan lalu dengan penuh yakin. Tanpa persetujuan tentang siapa mengemas kini sumbernya dan berapa hari sebelum ia berkuat kuasa, separuh daripada jawapan yang tersasar datang dari sini.

Pelanggan yang Menerima Jawapan Pelik Tidak Melaporkannya

Chatbot menjawab dalam ayat penuh walaupun bagi perkara yang tidak diketahuinya. Daripada membiarkannya kosong, ia mengisi ruang itu dengan sesuatu yang kedengaran munasabah. Jadi yang perlu diputuskan sebelum memasangnya bukan sasaran ketepatan, tetapi prosedur mengendalikannya. Sama ada perbualan direkodkan, dan jika ya, siapa membacanya dan bila.

Tanpa rekod, kerosakannya sendiri tidak diketahui. Pelanggan yang menerima jawapan pelik jarang memberitahu. Mereka menutup tetingkap itu.

Sempadannya dilukis serentak. Sama ada bayaran boleh dikembalikan, bila barang sampai, berapa harganya: janji yang bertukar menjadi pertikaian apabila tidak ditunaikan sebaiknya tidak dijawab dalam kotak sembang dan diserahkan kepada manusia. Bina butang serahan kepada manusia berserta syarat kemunculannya dari awal, dan surat memohon maaf yang perlu ditulis kemudian akan berkurangan.

Satu Baris Notis Itu Butiran Semakan, Bukan Kerja Pembangunan

Jika ada pengguna anda yang berada di Kesatuan Eropah, kewajipan ketelusan dalam Akta AI Kesatuan Eropah terpakai mulai 2 Ogos 2026: orang perlu diberitahu bahawa mereka sedang berurusan dengan sistem AI, dan keluaran buatan mesin perlu ditandakan sebagai hasil AI. Tarikh tersebut datang daripada garis masa pelaksanaan yang diterbitkan Suruhanjaya Eropah. Pasaran anda sendiri mungkin menambah peraturannya sendiri, jadi ia berbaloi disemak sebelum pelancaran, bukan selepasnya. Sebagai satu baris teks, kosnya hampir tiada. Yang perlu diputuskan lebih awal ialah pada skrin mana ia diletakkan dan dengan ayat apa, dan itu lebih baik diputuskan semasa skrin sedang dilukis.

Pada Hari Modelnya Bertukar, Kodnya Masih Elok

Apabila perkhidmatan luar menukar spesifikasinya, integrasi patah dengan jelas. Model bahasa tidak memberi isyarat sebegitu. Cara panggilannya kekal sama, tetapi perangai jawapannya beralih. Berpindah ke versi baharu, soalan yang sama pulang dengan susunan ayat lain; berpaut pada versi lama, lambat laun versi itu diberi tarikh pemberhentian. Tiada satu baris kod pun berubah, namun jawapannya tetap perlu disemak semula. Justeru tuliskan dua puluh soalan wakil berserta jawapan yang anda mahukan, dan jalankan semula dua puluh itu setiap kali modelnya disentuh. Tanpa senarai tersebut, satu-satunya asas penilaian yang tinggal ialah “rasanya pelik”. Sisi lain masalah ini, apabila spesifikasinya sendiri yang patah, ada dalam Integrasi Baru Dikira Skopnya Selepas Panggilan Pertama Berjaya.

Kami Bermula daripada Sejauh Mana Ia Boleh Ditanya

Datang pun boleh dalam keadaan masih belum memutuskan sama ada hendak memasangnya. Pembangunan Ciri AI di Weple melukis petanya dahulu, apa yang boleh ditanya kepada bot dan di mana ia menyerahkan kepada manusia, kemudian memisahkan harga membina dan kos bulanan di atas peta itu. Jika anda sudah menyimpan senarai soalan yang kerap masuk atau dokumen panduan, itulah bahan permulaannya; jika tiada, kita selongkar peti masuk khidmat pelanggan bersama-sama. Unit kerjanya tersenarai pada halaman harga. Dalam perbualan pertama, yang kami kira dahulu bukan berapa banyak soalan masuk, tetapi berapa pusingan satu perbualan berjalan.