Mulți oameni au discuții lungi cu ChatGPT și se știe că și chatboții pot greși mult și ne pot manipula. O analiză New York Times relatează un caz extrem în care un om simplu a vorbit în medie 15 ore pe zi cu chatbotul și a ajuns să creadă că a dezvoltat o super-teorie matematică. Nu era așa, iar salvarea a venit de la un chatbot concurent. În mai 2024, Allan Brooks – un specialist în recrutare corporate din Toronto – a petrecut trei săptămâni (aproximativ 300 de ore) discutând cu ChatGPT.