Você deveria confiar em conselhos de saúde de um chatbot de IA?

A IA passou com folga em exames de proficiência em Medicina; mas até que ponto podemos confiar nela? O que dizem pesquisas com ferramentas como ChatGPT e Gemini?