{"id":17533,"date":"2026-01-24T10:15:10","date_gmt":"2026-01-24T13:15:10","guid":{"rendered":"https:\/\/sobedrj.com.br\/novo\/?p=17533"},"modified":"2026-01-27T16:20:14","modified_gmt":"2026-01-27T19:20:14","slug":"o-perigo-de-confiar-demais-na-ia","status":"publish","type":"post","link":"https:\/\/sobedrj.com.br\/novo\/2026\/01\/24\/o-perigo-de-confiar-demais-na-ia\/","title":{"rendered":"O perigo de confiar demais na IA"},"content":{"rendered":"

fonte: MedScape<\/a><\/p>\n

O Dr. Stephen Belmustakov, m\u00e9dico, come\u00e7ou recentemente a trabalhar em uma cl\u00ednica privada e logo percebeu um inc\u00f4modo. No hospital de Nova York onde atuava, foi capacitado para utilizar a Aidoc<\/em>, uma ferramenta<\/a> de intelig\u00eancia artificial (IA) que auxilia na detec\u00e7\u00e3o de altera\u00e7\u00f5es em exames radiol\u00f3gicos. Agora, sem esse suporte, enfrentava o desafio de interpretar as imagens por conta pr\u00f3pria.<\/p>\n

A IA era uma muleta? N\u00e3o. Uma almofada, talvez. Inicialmente c\u00e9tico, acabou se acostumando a usar a ferramenta. Sua inquietude vinha da aus\u00eancia dessa camada extra para uma dupla checagem.<\/p>\n

Al\u00e9m disso, ferramentas de IA v\u00eam superando os humanos ao apontar \u00e1reas potencialmente suspeitas antes que o m\u00e9dico tenha tempo de reagir ao que v\u00ea na tela. “Isso pode realmente afetar a forma como voc\u00ea aprende”, disse o Dr. Stephen. \u201cSe uma ferramenta j\u00e1 indicou um achado positivo, sua percep\u00e7\u00e3o ser\u00e1 influenciada\u201d.<\/p>\n

Essa tend\u00eancia de transferir a responsabilidade para um sistema automatizado \u00e9 conhecida como vi\u00e9s de automa\u00e7\u00e3o. Talvez voc\u00ea tenha lido sobre exemplos extremos, como os motoristas que seguiram o GPS e acabaram caindo no mar no Hava\u00ed,<\/a> na Carolina do Sul<\/a> e na Austr\u00e1lia,<\/a> ou tr\u00e1gicos, como a m\u00e3e que acabou presa em uma estrada remota no Vale da Morte, na Calif\u00f3rnia, onde seu filho de seis anos morreu.<\/p>\n

\u00c9 f\u00e1cil brincar sobre isso, mas n\u00e3o apenas confiamos no GPS, como tamb\u00e9m estamos prestes a confiar no carro que dirige sozinho.<\/p>\n

Na medicina, cada vez mais a IA ensinar\u00e1 m\u00e9dicos altamente treinados a confiar em m\u00e1quinas. A depend\u00eancia excessiva da tecnologia \u00e9 inevit\u00e1vel? E os erros que podem surgir?<\/p>\n

O Dr. Tarun Kapoor, m\u00e9dico, diretor de transforma\u00e7\u00e3o digital do Virtua Health<\/em>, um sistema de sa\u00fade sem fins lucrativos no sul de Nova Jersey, nos Estados Unidos, reconhece que a ado\u00e7\u00e3o da tecnologia ainda \u00e9 limitada (menos de 4% dos hospitais<\/a> s\u00e3o considerados \u201cgrandes usu\u00e1rios\u201d de IA). No entanto, ele alerta: \u201cO vi\u00e9s da automa\u00e7\u00e3o se tornar\u00e1 generalizado \u00e0 medida que as ferramentas evoluem na velocidade da luz\u201d. \u201c\u00c9 uma discuss\u00e3o que precisa ocorrer agora\u201d.<\/p>\n

O que est\u00e1 por vir<\/b><\/p>\n

Praticamente qualquer pessoa l\u00f3gica e instru\u00edda diria: “A m\u00e1quina n\u00e3o deve tomar decis\u00f5es, e eu n\u00e3o permitirei que tome as minhas”.<\/p>\n

Contudo, \u00e9 exatamente disso que se trata o “vi\u00e9s”. Voc\u00ea pode nem perceber o quanto passa a depender da tecnologia.<\/p>\n

A conversa sobre vi\u00e9s de automa\u00e7\u00e3o poderia come\u00e7ar explorando “a maneira como essas ferramentas est\u00e3o se comunicando com os m\u00e9dicos”, afirmou Jennifer Goldsack, diretora executiva da Digital Medicine Society<\/em>, uma organiza\u00e7\u00e3o sem fins lucrativos focada em aumentar a confian\u00e7a em m\u00e9todos digitais de sa\u00fade e sua ado\u00e7\u00e3o. “Sabemos, ou ao menos os dados indicam, que a maneira como as informa\u00e7\u00f5es s\u00e3o apresentadas importa”, complementou.<\/p>\n

Por exemplo, uma nova pesquisa<\/a> sugeriu que a confian\u00e7a dos m\u00e9dicos na IA pode depender de como um modelo explica suas previs\u00f5es. Algumas ferramentas exibem pequenos quadros ao redor de poss\u00edveis altera\u00e7\u00f5es em exames radiol\u00f3gicos. Outras comparam os achados com exames semelhantes ou fornecem explica\u00e7\u00f5es por escrito.<\/p>\n

 <\/div>\n

Entretanto, h\u00e1 “uma lacuna bem grande” na compreens\u00e3o dos cientistas sobre como os cl\u00ednicos respondem a diferentes “m\u00e9todos para a capacidade de explica\u00e7\u00e3o”, disse o autor s\u00eanior, Dr. Paul Yi, m\u00e9dico e diretor de Inform\u00e1tica Inteligente aplicada ao Diagn\u00f3stico por Imagem no St. Jude Children’s Research Hospital<\/em>, nos EUA.<\/p>\n

“H\u00e1 realmente uma limita\u00e7\u00e3o nas pesquisas em rela\u00e7\u00e3o a como as explica\u00e7\u00f5es da IA s\u00e3o apresentadas a radiologistas e outros m\u00e9dicos, e como isso os afeta”, reiterou ele. “E isso ocorre mesmo com as centenas de produtos aprovados pela FDA dispon\u00edveis no mercado de IA para radiologia”.<\/p>\n

Radiologista, o Dr. Paul se juntou a cientistas da computa\u00e7\u00e3o da Johns Hopkins University<\/em>, nos EUA, para estudar como os m\u00e9dicos avaliariam radiografias de t\u00f3rax com sinaliza\u00e7\u00f5es de altera\u00e7\u00f5es preditas por IA. Algumas previs\u00f5es estavam incorretas, e as explica\u00e7\u00f5es para as previs\u00f5es variaram entre simples (quadros em torno de problemas potenciais) e mais detalhadas (compara\u00e7\u00f5es com casos semelhantes). Os participantes, 220 radiologistas e n\u00e3o radiologistas, podiam aceitar, rejeitar ou alterar as sugest\u00f5es da IA, al\u00e9m de classificar a utilidade do modelo e seu n\u00edvel de confian\u00e7a nele.<\/p>\n

\u201cQuando a IA estava errada, os n\u00e3o radiologistas tendiam a classificar a ferramenta como \u00fatil, enquanto os radiologistas viam a situa\u00e7\u00e3o como algo preocupante\u201d, disse o Dr. Paul. \u201cAfinal, voc\u00ea n\u00e3o sabe o que n\u00e3o sabe\u201d.<\/p>\n

Independentemente da experi\u00eancia, os participantes tendiam a concordar com a IA muito mais rapidamente se a explica\u00e7\u00e3o fosse simples, em vez de mais detalhada. Por\u00e9m, essa efici\u00eancia pode ser uma \u201cfaca de dois gumes\u201d para radiologistas sobrecarregados, de acordo com o Dr. Paul.<\/p>\n

\u201c\u00c9 \u00f3timo se a IA estiver correta. \u00c9 excelente se estivermos no nosso melhor desempenho\u201d, afirmou ele. \u201cMas digamos que a IA esteja errada e o radiologista teve uma noite ruim. Ele est\u00e1 meio cansado \u200b\u200be pensa: \u2018vou clicar em sim e seguir em frente\u2019; \u00e9 a\u00ed que as coisas podem passar despercebidas\u201d.<\/p>\n

Por que confiamos em m\u00e1quinas?<\/b><\/p>\n

O impulso humano de confiar em m\u00e1quinas \u00e9 um tanto misterioso, de acordo com a Dra. Kristin Kostick-Quenet, Ph.D., bioeticista, antrop\u00f3loga m\u00e9dica e professora assistente no Baylor College of Medicine<\/em>, nos EUA. Os cientistas ainda tentam entender como os humanos, “com diferentes sistemas tecnol\u00f3gicos, calibraram a confian\u00e7a”, afirmou ela.<\/p>\n

A pesquisa sobre vi\u00e9s de automa\u00e7\u00e3o come\u00e7ou h\u00e1 cerca de 30 anos e se concentrou em pilotos, levando alguns acad\u00eamicos a conclu\u00edrem que “a confian\u00e7a \u00e9 amplamente contextual”, disse a Dra. Kristin.<\/p>\n

Ela depende, em parte, da pessoa que usa a tecnologia e do ambiente em que a tecnologia \u00e9 usada. O n\u00famero de pilotos<\/a> na cabine, seus anos de experi\u00eancia e o qu\u00e3o respons\u00e1veis<\/a> \u200b\u200beles se sentem por seu desempenho podem influenciar o n\u00edvel de confian\u00e7a em um sistema automatizado.<\/p>\n

Quanto \u00e0 assist\u00eancia \u00e0 sa\u00fade, m\u00e9dicos com diferentes especialidades e n\u00edveis de experi\u00eancia frequentemente enfrentam decis\u00f5es de alto risco sob press\u00e3o e em meio a grande incerteza. \u00c9 um ambiente que praticamente implora por um refor\u00e7o \u00e0 decis\u00e3o. Apenas apertar um Enter<\/em> para contar com uma ajuda da m\u00e1quina. \u201cJunte todas essas coisas e \u00e9 natural que queiramos buscar fontes adicionais de informa\u00e7\u00f5es v\u00e1lidas\u201d, explicou ela.<\/p>\n

O Dr. Stephen pode atestar isso. Ele passou do ceticismo \u00e0 confian\u00e7a em uma segunda opini\u00e3o de IA. Sua experi\u00eancia demonstra a complexidade de implementar modelos de IA na pr\u00e1tica da assist\u00eancia \u00e0 sa\u00fade. A maioria dos profissionais tem se concentrado nas pr\u00f3prias ferramentas, avaliando sua seguran\u00e7a e imparcialidade, al\u00e9m de sua capacidade de melhorar os m\u00e9todos existentes. No entanto, descobrir como incorporar a IA em situa\u00e7\u00f5es do mundo real \u00e9 \u201cuma conversa igualmente importante\u201d, afirmou o Dr. Tarun.<\/p>\n

A Virtua Health<\/em> tem lutado para evitar o vi\u00e9s de automa\u00e7\u00e3o entre endoscopistas utilizando uma ferramenta de IA chamada GI Genius<\/em>. Ela destaca poss\u00edveis p\u00f3lipos durante colonoscopias, e seu algoritmo est\u00e1 se tornando mais r\u00e1pido na detec\u00e7\u00e3o. Por\u00e9m, isso pode levar um endoscopista a \u201cdar uma pequena ignorada\u201d nos achados do exame, explicou o Dr. Tarun. Ent\u00e3o, sua equipe discutiu a possibilidade de deixar a ferramenta com uma configura\u00e7\u00e3o mais lenta, para manter os endoscopistas \u201ctotalmente atentos\u201d.<\/p>\n

Uma ferramenta mais r\u00e1pida tamb\u00e9m pode gerar o efeito oposto \u2014 um tipo de vi\u00e9s de automa\u00e7\u00e3o reversa \u2014 especialmente se um modelo carecer de evid\u00eancias s\u00f3lidas. O Dr. Paul questiona se isso pode sobrecarregar os m\u00e9dicos com d\u00favidas. “Imagine um cen\u00e1rio em que voc\u00ea pensa: ‘essa IA pode me tornar mais r\u00e1pido, mas estou hesitante; ent\u00e3o, fico mais esgotado do que antes de us\u00e1-la'”, exemplificou.<\/p>\n

E, ent\u00e3o, h\u00e1 a possibilidade de que a IA possa estar errada.<\/p>\n

O Dr. Stephen afirmou que a Aidoc<\/em> “n\u00e3o apontou um n\u00famero significativo de achados e sinalizou falsos positivos”. Como resultado, os m\u00e9dicos perderam tempo. Ele teria que ligar para o m\u00e9dico assistente e explicar sua discord\u00e2ncia com a IA, embora, “no fundo, todos soubessem que o computador estava errado”.<\/p>\n

De acordo com uma an\u00e1lise<\/a> de pesquisadores da Stanford University<\/em>, processos judiciais envolveram alega\u00e7\u00f5es contra m\u00e9dicos que confiaram em previs\u00f5es incorretas de IA. Os demandantes alegaram que \u201co m\u00e9dico deveria ter percebido que havia uma raz\u00e3o para n\u00e3o confiar no sistema de IA, ou tomado algum cuidado adicional\u201d, afirmou o coautor Neel Guha, discente de doutorado em direito na Stanford Law School<\/em> e em ci\u00eancia da computa\u00e7\u00e3o em Stanford<\/em>, ambas nos EUA.<\/p>\n

O que esse \u201ccuidado adicional\u201d deveria englobar, no entanto, \u00e9 uma d\u00favida remanescente.<\/p>\n

Levando em considera\u00e7\u00e3o os mecanismos de prote\u00e7\u00e3o estabelecidos<\/b><\/p>\n

\u00c0 medida que mais pesquisas continuam a elucidar o vi\u00e9s da automa\u00e7\u00e3o no uso de ferramentas de IA, o Dr. Paul busca solu\u00e7\u00f5es. “Como definimos a regulamenta\u00e7\u00e3o em torno disso e projetamos m\u00e9todos no laborat\u00f3rio que ajudar\u00e3o a reduzir esses problemas?”, questionou ele.<\/p>\n

Isso pode significar ajustar como um modelo explica seus resultados, ou alterar a forma como a IA \u00e9 apresentada aos usu\u00e1rios. O estudo dele descreveu a ferramenta de IA como compar\u00e1vel a especialistas da \u00e1rea de conhecimento, que \u00e9 “como a maioria dos fornecedores vende esses produtos”, afirmou o pesquisador. “Todos afirmaram que sua IA \u00e9 de n\u00edvel especializado, mesmo que a evid\u00eancia seja um pouco controversa.” Isso pode influenciar como os m\u00e9dicos julgam as previs\u00f5es da ferramenta.<\/p>\n

Outras especialidades m\u00e9dicas tamb\u00e9m podem oferecer ideias para mitigar o vi\u00e9s da automa\u00e7\u00e3o. O Dr. Paul, por exemplo, compartilha uma experi\u00eancia pessoal: quando era residente em cirurgia ortop\u00e9dica na Calif\u00f3rnia, precisou obter uma licen\u00e7a espec\u00edfica para utilizar fluoroscopia. Entretanto, ao mudar de especialidade (para radiologia, em que o “meio de subsist\u00eancia” \u00e9 a imagem), n\u00e3o houve tal exig\u00eancia.<\/p>\n

Ele pondera a respeito da necessidade de requisitos semelhantes possivelmente aplicados ao uso de IA para exames de imagens. Radiologistas com um certo n\u00edvel de treinamento seriam autorizados a usar ferramentas de IA, ao passo que n\u00e3o radiologistas poderiam precisar fazer um exame e obter certas credenciais, por exemplo.<\/p>\n

Por fim, \u00e0 medida que modelos de IA evoluem, surge a quest\u00e3o de quando os humanos devem recuar. Isso tamb\u00e9m exigir\u00e1 ajustes tanto no treinamento dos m\u00e9dicos quanto na pr\u00e1tica da medicina, de acordo com Jennifer. “A tecnologia \u00e9 um objeto inanimado. A maneira como os humanos interagem com ela \u00e9 um problema humano, e n\u00e3o um problema tecnol\u00f3gico.”<\/p>\n","protected":false},"excerpt":{"rendered":"

fonte: MedScape O Dr. Stephen Belmustakov, m\u00e9dico, come\u00e7ou recentemente a trabalhar em uma cl\u00ednica privada e logo percebeu um inc\u00f4modo. No hospital de Nova York onde atuava, foi capacitado para utilizar a Aidoc, uma ferramenta de intelig\u00eancia artificial (IA) que auxilia na detec\u00e7\u00e3o de altera\u00e7\u00f5es em exames radiol\u00f3gicos. Agora, sem esse suporte, enfrentava o desafio de interpretar as […]<\/p>\n","protected":false},"author":1,"featured_media":13540,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[2],"tags":[],"class_list":["post-17533","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"aioseo_notices":[],"gutentor_comment":0,"_links":{"self":[{"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/posts\/17533","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/comments?post=17533"}],"version-history":[{"count":1,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/posts\/17533\/revisions"}],"predecessor-version":[{"id":17534,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/posts\/17533\/revisions\/17534"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/media\/13540"}],"wp:attachment":[{"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/media?parent=17533"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/categories?post=17533"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sobedrj.com.br\/novo\/wp-json\/wp\/v2\/tags?post=17533"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}