Introdução: a Inteligência Artificial (IA) contempla sistemas compostos por ferramentas computacionais e estatísticas, que simulam e modelam processos de tomadas de decisão, apresentando resultados potencialmente promissores no âmbito da saúde, no que tange à eficácia, segurança e custo-benefício no diagnóstico e terapêutica de doenças. Nesse processo, destacam-se desafios e questões éticas referentes ao uso dos dados, confidencialidade, consentimento informado e direito de decisão. Objetivo: apresentar reflexão sobre uso da IA nas práticas clínicas em saúde. Método: ensaio teórico reflexivo, construído a partir de busca ordenada na literatura científica, junto à percepção e experiência da autora na temática. Foram incluídos no presente estudo 21 artigos. Resultados: os sistemas de IA disponíveis ainda não possuem confiabilidade cientificamente comprovada para substituir o componente humano no processo de tomada de decisão clínica, conferindo riscos de erros associados à utilização acrítica da tecnologia, além do risco de vieses humanos e consequências de efeitos não previstos. Assim, a incorporação dos algoritmos de IA deve ocorrer ao mesmo em tempo que é articulada uma estrutura regulatória capaz de assegurar que seu uso seja impreterivelmente em benefício dos seres humanos no cenário de práticas clínicas, emergindo sinais de alarme aos sistemas jurídicos e órgãos de regulação em saúde. Nesse sentido, a judicialização em saúde, especialmente no território nacional, trata-se de temática lacunosa na literatura, pois muitas vezes, os instrumentos normativos e regulatórios são escassos, concentrando-se apenas na privacidade dos dados, sem direcionamento claro aos algoritmos de IA. Atenta-se, então, ao estabelecimento de padrões e diretrizes para o uso responsável dos dados, a partir de protocolos de segurança, aliado a obtenção de consentimento informado e uso de dados para fins legítimos, definindo claramente a responsabilidade dos sujeitos envolvidos, no que tange ao direito de decisão e ocasionais falhas ou danos. Considerações finais: a incorporação dos sistemas de IA fomentam discursos sobre questões ético-legais do cuidado e incorporação de tecnologias em saúde, no que tange à privacidade, confidencialidade, responsabilidade profissional, consentimento informado e direito à decisão, atentando-se, em vista disso, a dispositivos jurídicos e uso de dados, com ênfase à preservação dos direitos individuais.