Chatbot, ami tényleg ismeri a céged

A chatbotoknak rossz hírük van, és jó okkal. A legtöbben olyannal találkoztak, ami három kérdés után kiírta, hogy „ezt nem értem”, vagy egy menürendszert tálalt fel, amiben nem szerepelt az, amit kerestek. Ez a bot nem gondolkodott: kulcsszavakat keresett egy előre megírt listában.

Az elmúlt években viszont megváltozott, hogy mit lehet egy ilyen rendszertől várni. A különbség nem az, hogy „okosabb lett a technológia”, hanem az, hogy honnan veszi a választ.

A lényeg röviden

• A kulcsszavas bot előre megírt válaszokat párosít. A tudásbázisra épülő bot a céged saját dokumentumaiból keresi ki a választ, és abból fogalmaz.
• A minőség nem a modelltől függ elsősorban, hanem attól, hogy a dokumentumaid rendezettek-e.
• Jó bot megmondja, ha nem tudja a választ, és átadja az ügyet embernek.
• Akkor éri meg, ha sok az ismétlődő kérdés. Havi néhány tucat megkeresésnél a válaszsablon olcsóbb.
• Mérni kell: hány kérdésre válaszolt önállóan, és hányszor kellett ember. E nélkül nem tudod, megérte-e.

A két fajta bot közti valódi különbség

A kulcsszavas megoldás

Ebben az esetben valaki előre megír ötven kérdést és ötven választ. A bot megnézi, hogy a beírt szöveg melyik kérdéshez hasonlít a leginkább, és elküldi a hozzá tartozó választ.

Ez akkor működik, ha a felhasználó nagyjából úgy kérdez, ahogy a készítő elképzelte. Amint másképp fogalmaz, vagy két dolgot kérdez egyszerre, a rendszer megáll. És minden új információnál kézzel kell bővíteni a listát.

A tudásbázisra épülő megoldás

Itt a bot nem előre megírt válaszokból dolgozik, hanem a cég saját anyagaiból: árlistákból, szerződésmintákból, folyamatleírásokból, korábbi ügyfélválaszokból, termékdokumentációból.

Amikor kérdés érkezik, a rendszer először kikeresi a releváns részleteket ezekből a dokumentumokból, majd ezek alapján megfogalmazza a választ. A szakma ezt a módszert visszakereséssel támogatott generálásnak hívja, angolul retrieval augmented generation, rövidítve RAG.

A gyakorlati különbség három dologban látszik:

• Nem kell minden kérdést előre kitalálni. Ha az információ szerepel valamelyik dokumentumban, a bot meg tudja találni.
• Frissíthető. Ha változik egy ár, a dokumentumot írod át, nem a botot.
• Forrást tud adni. Meg tudja mondani, melyik dokumentum melyik részéből dolgozott.

Amit a legtöbben alábecsülnek: a dokumentumok állapota

Itt van az a pont, ahol a chatbotos projektek többsége eldől, még mielőtt bármi technikai történne.

A bot csak abból tud dolgozni, amit odaadsz neki. Ha a cég tudása három ember fejében, egy 2019-es Word-fájlban és egy hosszú levelezésben él, akkor nincs miből válaszolni. Ha viszont van rendezett, naprakész anyag, akkor a rendszer meglepően gyorsan használhatóvá válik.

Ez általában így néz ki a gyakorlatban:

• Leltár. Mi van meg egyáltalán, és hol.
• Válogatás. Mi az, ami még érvényes. A rossz válasz gyakran nem kitaláció, hanem egy régi, már nem igaz dokumentum.
• Rendezés. Egy téma egy helyen legyen. A tíz helyen szereplő, egymásnak ellentmondó árlista a legnagyobb hibaforrás.
• Hiánypótlás. Ami csak a fejekben van, azt le kell írni. Ez a legtöbb munka, és ez hozza a legtöbb hasznot, mert a bot nélkül is értékes.

Ezt a munkát nem lehet megspórolni, és nem is érdemes, mert a végén akkor is jobban jársz, ha a bot sosem készül el: lesz egy rendezett tudásbázisod.

A hallucináció kezelése

A nyelvi modellek időnként magabiztosan írnak le valótlan dolgokat. Ezt nem lehet teljesen kiiktatni, de üzleti környezetben kezelhető szintre lehet szorítani.

Kösd forráshoz a választ. Ha a rendszer csak a megadott dokumentumokból dolgozhat, jelentősen csökken a kitalálás esélye. Ez nem ugyanaz, mint egy általános beszélgető modellt megkérdezni.

Engedd meg neki, hogy ne tudja. Ez ellentmondásosnak hangzik, de a legfontosabb beállítás. Egy jó bot kimondja, hogy „erre nincs információm”, és átadja az ügyet. Egy rossz bot mindenáron válaszol.

Mutasd a forrást. Ha a válasz mellett ott a hivatkozás arra a dokumentumra, amiből készült, az ügyfél és a kolléga is ellenőrizni tudja.

Húzz határt. Vannak témák, amikre a botnak nem szabad válaszolnia: egyedi árazás, szerződésmódosítás, jogi kérdés, panaszkezelés. Ezeket érdemes eleve emberhez irányítani.

Mikor éri meg, és mikor nem?

Egy chatbot bevezetése nem csak fejlesztési költség, hanem folyamatos gondozás is. Ezért érdemes megnézni, van-e mit vele megoldani.

Megéri, ha havonta sok, egymáshoz hasonló kérdés érkezik. Ha a csapat idejének érdemi része megy el ugyanannak a magyarázatára, az mérhető veszteség. Szintén megéri, ha a kérdések munkaidőn kívül érkeznek, vagy ha a belső tudás nehezen kereshető, és a kollégák egymást kérdezgetik.

Nem éri meg, ha kevés a megkeresés. Havi néhány tucat kérdésnél egy jól megírt gyakori kérdések oldal és néhány levélsablon többet ad, olcsóbban. Szintén nem éri meg, ha minden ügy egyedi, vagy ha a tudásbázis nem létezik és nincs szándék felépíteni.

Van egy köztes megoldás is, amiről ritkán esik szó: a bot belső használatra. Nem az ügyfelekkel beszél, hanem a kollégáknak válaszol a cég saját anyagaiból. Alacsonyabb a kockázat, mert a hibás választ egy munkatárs észreveszi, és gyakran nagyobb a haszon.

Hogyan mérd, hogy működik-e?

Ha nem méred, csak érzésed lesz róla. Négy szám elég:

• Megoldási arány. A beszélgetések hány százaléka zárult le anélkül, hogy emberhez kellett volna fordulni.
• Átadási arány. Hányszor adta át az ügyet, és milyen témákban. Ez a lista mutatja meg, hol hiányos a tudásbázis.
• Válaszidő és elérhetőség. Mennyivel hamarabb kap választ az ügyfél, mint korábban.
• Visszajelzés. Egy egyszerű „hasznos volt?” kérdés a válasz alján meglepően sokat elárul.

Az első hónap adatai alapján szinte mindig kiderül, hogy két-három témakör adja a kérdések többségét. Ezeket érdemes először rendbe tenni.

Adatvédelem: mielőtt bármit feltöltesz

Ha a cég dokumentumai bekerülnek egy rendszerbe, néhány kérdést előre tisztázni kell.

Hol tárolódik az adat? Európai adatközpontban, vagy azon kívül. Ez GDPR szempontból számít.

Mi kerül be egyáltalán? Az ügyfelek személyes adatai jellemzően nem valók a tudásbázisba. Ott az általános tudás a helyes tartalom: árak, folyamatok, feltételek.

Használják-e tanításra? Üzleti szolgáltatásoknál ez jellemzően kikapcsolható vagy alapból ki van kapcsolva, de érdemes a szerződésben látni.

Ki férhet hozzá, és mit lát? Belső botnál fontos, hogy a bot ne mondjon el olyasmit egy kollégának, amihez amúgy nem lenne jogosultsága.

Gyakori kérdések

Mennyibe kerül egy vállalati chatbot?

• Két tételből áll: egyszeri fejlesztés és folyamatos üzemeltetés. A fejlesztés nagy részét nem a technológia viszi el, hanem a tudásbázis rendbe tétele. Az üzemeltetésnél a használat mennyisége szerint fizetsz a nyelvi modellért, plusz a rendszer karbantartása.

Mennyi idő alatt készül el?

• Ha a dokumentumok rendezettek, néhány hét. Ha nincs tudásbázis, akkor annak az összeállítása lesz a projekt nagyobbik fele, és ez a cég méretétől függ.

Honnan tudja a bot, ha valami megváltozik?

• A forrásdokumentumot frissíted, a rendszer pedig újraolvassa. Nem kell hozzá a bot beállításait módosítani.

Mi van, ha rosszat válaszol egy ügyfélnek?

• Ezért fontos a forrásmegjelölés, az átadás emberhez, és a tiltott témák meghatározása. Árajánlatot, szerződésmódosítást és panaszkezelést nem bot intéz.

Kell hozzá saját nyelvi modell?

• Kisvállalkozásnál szinte soha. A meglévő szolgáltatások elég jók, és sokkal olcsóbbak. A különbség a cég saját tudásbázisából jön, nem a modellből.

Mi a különbség a chatbot és az AI-ügynök között?

• A chatbot válaszol. Az ügynök feladatot is elvégez: kikeres egy adatot, előkészít egy levelet, kitölt egy űrlapot. Ugyanaz a technológiai alap, de az ügynöknél nagyobb a hibázás tétje, ezért szűkebb feladatra érdemes hangolni.

Összefoglalva

Egy chatbot annyit ér, amennyit a mögötte lévő tudás. A technológia ma már ritkán a szűk keresztmetszet, a rendezett, naprakész dokumentum annál inkább.

Ha azon gondolkodsz, hogy belevágj-e, kezdd egy egyszerű méréssel: gyűjtsd össze egy hónapig a beérkező kérdéseket. Ha a lista végén azt látod, hogy három téma adja a megkeresések felét, akkor van miből dolgozni. Ha minden kérdés más, akkor egyelőre nem a bot a helyes válasz.