Ética e IA: reflexões e iniciativas

A relação entre ética e IA já levanta alguns questionamentos quanto ao desenvolvimento e à utilização adequada dos dados que respeite a privacidade dos usuários e as regulamentações já existentes.

De acordo com o dicionário Michaelis, ética é o “conjunto de princípios, valores e normas morais e de conduta de um indivíduo ou de grupo social ou de uma sociedade”. Ou seja, para o bom funcionamento da vida em sociedade, é importante o estabelecimento de limites em todas as suas esferas.

O avanço tecnológico promete diversas facilidades à sociedade. Ele está à frente de mudanças estruturais nas empresas, na política e no modo em que as pessoas socializam. A tecnologia é uma área muito recente do desenvolvimento humano, por isso ela está em constante mudança e atualização. Além disso, ainda estudam-se os impactos deste avanço acelerado, e pode levar algum tempo para percebê-los no dia a dia dos usuários e clientes. 

Atualmente, ainda não existem legislações que tratem da maior parte das frentes tecnológicas. A legislação mais relevante já em vigor no Brasil é a LGPD (Lei Geral de Proteção de Dados), aprovada apenas há alguns anos, em 2018. Entretanto, há iniciativas que empresas podem adotar para tornar a relação entre ética e IA mais harmônica, do desenvolvimento de aplicações à implementação de tecnologias para a sociedade. Confira alguns exemplos.

Promover maior diversidade dentro dos times de desenvolvimento

Não é incomum notícias sobre como Inteligências Artificiais que reconhecem rostos e movimentos têm um alto número de falhas quando se trata de pessoas não-brancas, mulheres; agravando-se ainda mais quando se trata de mulheres não-brancas. Isso costuma ocorrer quando os exemplos mostrados para a IA não abrangem a variedade etnográfica que temos dentro de uma sociedade. Esta preocupação deve estar presente dentro dos times de desenvolvimento e nos times de recrutamento das empresas. Um time mais diverso traz diferentes visões, problemáticas e ângulos para tratar dos mais variados problemas. Assim, contribui para tornar as aplicações livres dos preconceitos velados.

Atualmente, os times de desenvolvimento não são um representativo da sociedade e as vagas e oportunidades para esse setor que traz inovações e mudanças que afetam todos os setores e níveis sociais acaba se centralizando em camadas mais privilegiadas da sociedade.

Confira mais sobre o perfil demográfico e social do setor tecnológico focado na realidade brasileira neste texto.

Responsabilidade com o uso de dados dos usuários e clientes

Com a LGPD ativa, a preocupação com a regularidade do uso dos dados tem um incentivo a mais, considerando a fiscalização externa à organização que a Lei causa. Todavia, essa preocupação deveria nascer naturalmente dentro de cada empresa, ao preparar seu colaborador quanto ao que se deve ou não compartilhar, com a anonimização de dados sensíveis, rastreabilidade dos canais que têm acesso aos dados de usuários, e com o respeito à privacidade de dados de seus colaboradores e clientes.

Prezar pelo consentimento de uso de dados 

Outra preocupação que está atrelada à LGPD é o respeito ao consentimento do usuário para a coleta de dados ou à comunicação das empresas. Um caso recente de desrespeito ao consentimento do uso de dados foi com a empresa Clearview AI, que mapeou rostos de mídias sociais sem consentimento. A empresa foi condenada a pagar quase US$10 milhões e excluir todos os dados que possuía sobre os cidadãos britânicos. É importante perceber como o respeito às regras de privacidade e proteção de dados vêm sendo cobradas por fontes externas, governos e justiça. Entretanto, a preocupação pode e deve começar internamente dentro das empresas, promovendo discussões sobre o tema, sempre buscando se adequar às necessidades e respeitando a privacidade do usuário.

Conclusão – Ética e IA

Conforme vimos, apesar de ser uma área relativamente nova, as questões e preocupações que relacionam uso adequado de dados, ética e IA já fazem parte da nossa realidade, e em alguns casos já ocorreram punições pelo mal uso desses recursos. Além disso, provavelmente muitos outros tópicos de discussão serão levantados no futuro conforme surgem novas aplicações e sua utilização se torne mais frequente em nosso dia a dia.

Os tópicos acima são apenas alguns exemplos de iniciativas que as empresas já podem adotar para tornar o desenvolvimento de aplicações e implementação de tecnologias mais adequados para toda a sociedade. Entretanto, tudo começa a partir da responsabilidade social dentro das empresas de tecnologia, a partir da conscientização de cada indivíduo. Assim, é possível pensar nas possíveis implicações dos diferentes avanços tecnológicos, evitar os reflexos negativos da tecnologia e tirar o melhor dela, contribuindo para construir um mundo mais inteligente, responsável e ético. 

Gostou do assunto?
Leia também sobre a DALL-E 2, a IA que cria imagens a partir de pedidos do usuário e seu impacto na área do design.

Autora