O cientista da computação Julio Cesar Soares dos Reis, pesquisador do INCT em Inteligência Artificial Responsável (Tildiar) da UFMG, participou do evento Café com IA no dia 25 de setembro. Especialista em aprendizado de máquina e processamento de linguagem natural, ele discutiu os limites da tecnologia e a importância da supervisão humana.
De acordo com Julio dos Reis, a inteligência artificial não é nova. O conceito remonta aos anos 1950, com o teste de Turing, e evoluiu com o aumento do poder computacional. Atualmente, a IA apoia setores como saúde, direito e educação, mas exige discussões sobre limites e responsabilidades.
Vieses e riscos sociais
Julio dos Reis explica que sistemas de IA podem reproduzir e ampliar vieses presentes nos dados de treinamento. Casos como o COMPAS, usado no sistema judiciário dos EUA, e erros em reconhecimento facial mostram como resultados tecnicamente corretos podem causar danos sociais.
“O risco não está centrado em uma ‘máquina maligna’, mas em falhas de direcionamento, supervisão e alinhamento”, afirma o pesquisador. Ele cita ainda os perigos da desinformação, como imagens falsas geradas por IA que podem ser compartilhadas como reais.
Supervisão humana e proteção de dados
Segundo o especialista, a autonomia irrestrita da IA não levará a cenários catastróficos como nos filmes, mas pode resultar em decisões contrárias a valores humanos. Por isso, defende um sistema híbrido (human-in-the-loop) onde pessoas mantenham o controle.
Sobre proteção de dados, Julio dos Reis alerta para a importância de entender os termos ao fornecer informações pessoais. Desenvolvedores, por sua vez, devem considerar privacidade, segurança e formas de minimizar vieses em seus sistemas.