Поскольку у нейросетки нет четкого 2+2=4 или истина и ложь равно ложь, а логика примерное уровня а и б вероятней всего приведут к с, то они подвержены частым галлюцинациям, для уменьшения которых требуются долгое обучение и значительные ресурсы. И даже с этим нельзя защититься от совета в стиле не работают звонки - подогрейте телефон в микроволновке.
Т.е. в техподдержке операторов нейросетевым может быть лишь определение формулировки запроса от клиента, а ответ четко прописан по ключевым фразам. Но все варианты предусмотреть скриптами сложно - отсюда и ограничение.

Не забывайте, что нейросетевые ассистенты поставляются абонентам без всякой ответственности, т.е. в договоре поставки (не путать с маркетинговыми лозунгами) прописано, что если Алиса посоветует вам поджечь газовый баллон вы должны отнестись к ответу критически и перепроверить его.
А в техподдержка оператора - как раз уровень перепроверки, а не генерации предположений.