Entrelacos

27 DE MAIO DE 2023

TECNOLOGIA

OMS FAZ ALERTA SOBRE INTELIGÊNCIA ARTIFICIAL

ORGANIZAÇÃO TEME ERROS MÉDICOS E DANOS A PACIENTES COM ADOÇÃO PRECIPITADA DA IA

A Organização Mundial da Saúde (OMS) lançou recentemente um comunicado que pede cautela no uso de inteligência artificial (IA) "para proteger e promover o bem-estar, a segurança e a autonomia humanas e preservar a saúde pública". Na avaliação da OMS, falta a preocupação comum à inserção de tecnologias em saúde.

"A adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, minar (ou atrasar) os potenciais benefícios e usos de longo prazo de tais tecnologias em todo o mundo", diz o comunicado.

No mesmo dia, Sam Altman, diretor-executivo da OpenAI, criadora do programa ChatGPT, disse no Senado dos EUA que regular a inteligência artificial é "crucial" para limitar os riscos do uso dessa tecnologia.

A OMS preocupa-se com a possibilidade de treinamento das IAs com dados tendenciosos, geração de respostas incorretas que parecem verdadeiras e possível estímulo à desinformação. A organização recomendou que formuladores de políticas se dediquem a garantir a segurança e a proteção do paciente enquanto as empresas de tecnologia trabalham na comercialização.

Segundo a OMS, os modelos de linguagem (LLMs, em inglês) gerados por inteligência artificial, como a que compõe o ChatGPT, tentam imitar a compreensão, o processamento e a produção da comunicação humana. A "difusão pública meteórica" e o "crescente uso experimental para fins relacionados à saúde estão gerando um entusiasmo significativo", avalia.

A OMS também se diz "entusiasmada" com o uso apropriado de tecnologias, incluindo LLMs, para apoiar profissionais de saúde, mas diz estar preocupada "de que o cuidado que normalmente seria exercido para qualquer nova tecnologia não esteja sendo exercido de forma consistente com as LLMs". É "imperativo" que os riscos da adesão dessas tecnologias sejam "cuidadosamente" avaliados.