Sociální umělá inteligence

Pokud chce firma používat při styku se zákazníky umělou inteligenci=AI, může se stát, že ji AI přivede „na buben“. Běžný programátor nezná a nemůže znát, jak AI vlastně funguje.
Pokud se zákazník v AI vyzná, může AI „ukecat“ nebo bude prostě to zkoušet tak dlouho, až náhodou nějakou slabinu AI odhalí. Napadá mě,  zákazník bude AI tvrdit, že je chudý, že mu zemřela manželka, dítě, možná AI na to „sociálně“ zareaguje a dá zákazníkovi slevu či něco zadarmo.
Tedy se musí hlídat doba komunikace se zákazníkem (dlouhé ukecávání) a musí se hlídat konečná cena, tedy brát AI pouze jako „poradní“ bez oprávnění uzavírat smlouvy.