Ferramentas de modelo de linguagem geradas por inteligência artificial (IA) incluem plataformas de expansão rápida, como ChatGPT, Bard, Bert, entre outras. A tecnologia que imita a compreensão, o processamento e a produção da comunicação humana, tem se expandido de maneira significativa. O crescente uso para fins relacionados à saúde despertou um alerta da Organização Mundial da Saúde (OMS).
Em um comunicado, a OMS pede cautela no uso dos dispositivos, destacando a necessidade de examinar os riscos e os usos apropriados das tecnologias.
Segundo a agência das Nações Unidas (ONU) para a saúde, há uma preocupação de que o cuidado que, normalmente, seria exercido para a adoção de qualquer nova tecnologia não esteja sendo feito de forma consistente com os modelos de linguagem, como mecanismos de controle. Isso inclui adesão das plataformas de inteligência artificial a valores como transparência, inclusão, engajamento público, supervisão especializada e avaliação rigorosa.
A OMS argumenta que a adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, atrasar os potenciais benefícios e usos de longo prazo das ferramentas.
Os dados usados para treinar a inteligência artificial podem ser tendenciosos, gerando informações enganosas ou imprecisas que podem representar riscos à saúde, à equidade e à inclusão, alerta a OMS.
Entre as considerações descritas pela OMS estão a geração de respostas que podem parecer confiáveis e plausíveis para o usuário final, mas que podem conter erros graves, especialmente no contexto da saúde.
No comunicado, a OMS afirma também que modelo de linguagem por IA podem ser treinados em dados para os quais o consentimento pode não ter sido fornecido anteriormente. Além disso, essas ferramentas não necessariamente protegem dados confidenciais, incluindo de saúde, que um usuário fornece para gerar uma resposta, aponta a entidade.
Por fim, a OMS destaca que a tecnologia pode ser utilizada para gerar e disseminar desinformação na forma de texto, áudio ou vídeo, tornando difícil para o público diferenciar conteúdo falso de conteúdo confiável.
A OMS reconhece que o uso apropriado das tecnologias pode contribuir para apoiar profissionais de saúde, pacientes, pesquisadores e cientistas. A abordagem pode servir de apoio às decisões médicas e aumentar a capacidade de diagnóstico em ambientes com poucos recursos.
No entanto, a OMS propõe que essas preocupações sejam abordadas com base em evidências, e que uma análise de riscos e benefícios deve preceder o uso generalizado em cuidados de saúde e medicina de rotina, seja por indivíduos, prestadores de serviços e formuladores de políticas.
