O viés algorítmico e a inteligência artificial, que tampouco é artificial, tampouco é inteligência!

Denominar "Inteligência Artificial" o modelo de linguagem desenvolvido pela OpenAI e outros players da indústria de hardware e software (Alphabet Inc., Apple, Amazon, Microsoft, Samsung Group, Tencent Holdings, Meta Platforms), foi uma baita jogada de marketing. É um nome que adere ao senso comum, à historia da ficção científica e povoa com maestria nosso imaginário.

Não há como ficar maravilhado quando ao primeiro contato com as linguagens gerativas produzidas pelo aprendizado de máquina, pelo armazéns de dados e pelos algoritmos modernos.

Mas é fundamental entender a lógica e os fundamentos que permitem a "inteligência artificial" funcionar tão bem e, ao mesmo tempo, saber seus limites e atuais defeitos, como por exemplo o viés algorítmico.

O termo "viés algorítmico" refere-se aos preconceitos ou desigualdades que podem ser introduzidos nos sistemas de IA devido a fatores como dados de treinamento tendenciosos ou falhas no design do algoritmo. Não há um indivíduo específico que tenha formulado esse termo em particular, pois é uma expressão que se desenvolveu no campo da ética e da governança da IA ao longo do tempo.

No entanto, pesquisadores e acadêmicos têm contribuído significativamente para a compreensão e a identificação do viés algorítmico. Estudos e trabalhos acadêmicos exploraram a existência desse viés em várias aplicações de IA, como recrutamento, reconhecimento facial, análise de crédito e justiça criminal, entre outros.

Um exemplo notável é o trabalho de Joy Buolamwini, uma pesquisadora do MIT Media Lab, que conduziu pesquisas pioneiras sobre o viés algorítmico em sistemas de reconhecimento facial. Ela demonstrou como esses sistemas podem apresentar taxas de erro mais altas para pessoas de determinados grupos étnicos e de gênero, devido a dados de treinamento desproporcionalmente representativos desses grupos.

Joy Foi protagonista de documentário Code Bias, produzido por Shalini Kantayya e disponível na Netflix. Importante assistir.

Esses esforços e pesquisas contribuíram para aumentar a conscientização sobre o viés algorítmico e destacaram a importância de mitigar e enfrentar esses preconceitos nos sistemas de IA, a fim de promover a equidade e a justiça em seu desenvolvimento e implementação.