Uma matéria publicada na última quinta-feira na revista Science analisa como um algoritmo utilizado em vários hospitais americanos discriminava pacientes se baseando na etnia. 

O estudo em questão descobriu que o algoritmo priorizava de forma consistente pacientes brancos que não sofriam de doenças graves e eliminava pacientes negros de um programa destinado a ajudar pessoas que precisavam mais de cuidado intensivo em diversos hospitais nos Estados Unidos.

De acordo com software de Inteligência Artificial, cerca de apenas 18% dos pacientes que mereciam estar nesses programas seriam negros; mas os autores do estudo estimaram que o número real deveria estar mais próximo de 47%.

Mesmo afirmando que o algoritmo deveria ser neutro em relação às questões raciais, uma das variáveis chave estudadas seria quanto dinheiro os pacientes investiram em sua saúde nos últimos anos  (quanto mais dinheiro investido, maior a atenção recebida).

Foi comprovado no estudo que os pacientes negros vão menos a consultas e recebem menos cuidados médicos em comparação a pacientes brancos, muitas vezes porque são mais pobres.  Vale ressaltar que nos Estados Unidos não existe um sistema de saúde pública como o SUS brasileiro e muitas pessoas não têm dinheiro para custear tratamentos.

O acesso desigual à saúde significa que foi gasto menos dinheiro cuidando de pacientes negros do que de pacientes brancos.

O dilema do viés na inteligência  artificial é conhecido, mas nem sempre facilmente detectável. É por isso  que a existência de agências reguladoras, como a FDA (Food and Drug Administration –  equivalente à Anvisa), é importante.

Essas agências devem aplicar proativamente um treinamento aprimorado desses algoritmos e exigir o compartilhamento transparente de dados das empresas que os produzem, assim evitando qualquer tipo de viés. 


Esta matéria foi dica do Juliano Spyer, Head of Human Insights na behup.


Juliano estudou em seu doutorado o que motivou o pobre brasileiro a investir na própria inclusão digital. Além de doutor e mestre em antropologia pela University College London, ele é um veterano da industria da internet e é autor do primeiro livro brasileiro sobre mídias sociais.


FONTE

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *