Ética do cuidado e transparência são inegociáveis para a construção de uma Inteligência Artificial responsável.
Nos dias 11 a 14 de Novembro, estive presente no maior evento de tecnologia do mundo, o Web Summit, que ocorreu em Lisboa. Dessa vez, o tema central não foi se a Inteligência Artificial veio para ficar em nossas vidas, mas como veio, qual é o seu impacto, desafios e riscos para implementação dessa tecnologia na vida de toda sociedade.
Como uma pessoa que estuda profundamente direitos humanos e gênero, eu estava lá para entender de perto como isso impacta as pessoas e seus direitos, sobretudo grupos sub representados em espaços de poder em nossa sociedade.
Infelizmente, os debates sobre justiça climática, viés de gênero e raça em algoritmos, diversidade e inclusão na tecnologia, aconteceram, mas ainda de forma marginalizada dos palcos de destaque.
Nesse artigo, reúno 6 principais reflexões que obtive nos três dias de conferência:
Equilíbrio entre regulação e inovação da IA
Muitos painéis trouxeram a ambivalência de que é preciso fomentar a inovação, porém com responsabilidade. E que para criar um ecossistema responsável é necessária a criação de regras claras de transparência de como essa tecnologia está sendo implementada. Governos têm um papel fundamental nesse equilíbrio e podem ajudar quando a inclusão e a justiça são vistas como fundação da IA para evitar a colonização digital e a exploração de dados e pessoas.
Para isso, é vital a transparência em como os dados estão sendo usados. Transparência não é fraqueza, é o oposto. Transparência constrói confiança. Políticos e líderes precisam explicar o que eles estão fazendo com a tecnologia. E que quando a tecnologia é realizada de maneira colaborativa, ela sempre terá mais impacto.
No fundo estamos falando de uma crise de valores morais: quando não há transparência, honestidade e princípios éticos em jogo na criação e implementação de uma tecnologia, instaura-se medo, insegurança e desconfiança nas pessoas.
Direitos digitais são direitos humanos
Como as tecnologias podem fortalecer e não erodir as democracias criando ainda mais polarização e divisão digital?
Qual o papel dos jornalistas frente à IA?
Como os jornalistas podem educar a população sobre deepfake entregando notícias de contexto e não necessariamente treinando a audiência no uso de IA?
Como a tecnologia pode apoiar a humanidade?
Ao mesmo tempo que temos o aumento de informações falsas nas redes sociais, também tivemos denúncias sendo realizadas mostrando, por exemplo, a brutalidade policial contra pessoas negras.
São dois lados da mesma moeda. Nesse sentido, existe um papel enorme dos governos em conter informações falsas e como regular as mídias sociais. Ainda há uma busca por modelos e melhores práticas de regulação. Além disso, como avançamos na tecnologia sem deixar ninguém para trás?
São 2.6 bilhões de pessoas que não possuem acesso à Internet. Há uma enorme divisão digital pela exclusão digital. Quais são as vozes que estão sendo incluídas e excluídas na criação e implementação da tecnologia?
Por fim, precisamos letrar criticamente as pessoas sobre o uso da tecnologia, ajudando-as a entender as nuances dela, caso contrário a polarização aumentará.
As big techs estão matando a confiança?
Nesse painel comandado pela presidente do Signal, Meredith Whittaker, ela aponta a necessidade de três mudanças para as big techs:
- Descentralizar as plataformas sociais;
- Democratizar as conexões sociais;
- Tratar humanos como humanos.
As big techs precisam desenvolver uma ética de maior cuidado com os usuários. Ainda, foi apontado o uso da IA como pretexto para a vulnerabilização de contratos de trabalho. As organizações já estão precarizando o trabalho por meio de contratos que retiram direitos trabalhistas e aumentam a informalização.
Logo, uma jurisdição pode modelar muito uma tecnologia. Quais ferramentas nós temos para frear isso? Nos organizamos uns aos outros. Comunidades regulam melhor as big techs.
Efeito de Rede (Network Effect)
No “Diverse Minds, Disruptive Technology” (Mentes Diversas e Tecnologias Disruptivas), foi demonstrado que quando há diversidade no quadro societário de uma organização, a diversidade se dá em efeito cascata por meio de indicações.
Em outras palavras, quando mudamos a diversidade da governança de C-level, mais rápida a diversidade acontece em todo o pipeline. Na mesma linha, quanto antes a liderança for diversa, mais inovação e impacto a organização terá.
Foi mencionado ainda, a contratação de talentos não óbvios como refugiados, que são altamente qualificados e podem trazer um olhar diferenciado para os negócios. Outro ponto mencionado foi a necessidade de democratizar o acesso de venture capital, ou seja, ensinar como investir desde o início para uma startup.
O futuro da longevidade
Antes existia um estigma sobre longevidade onde a expectativa de vida era de 40 anos. Hoje é de 80 anos. Nesse sentido, há uma mudança de narrativa: iremos viver bem e melhor? Antes o foco era tratar doenças como importante. Hoje o foco está na prevenção, na detecção antecipada das doenças e no envolvimento do paciente em todo o tratamento.
Foi abordado também como a IA Generativa pode empoderar de forma customizada os médicos.
Outro dado interessante mencionado, foi que a falta de conexão social é mais fator de risco para morte do que cigarro e bebida. A ausência de conexões sociais aumentam o declínio cognitivo e doenças cardiovasculares. Em outras palavras, estar em comunidade e ter bons amigos é um ótimo preventivo para a saúde mental.
6) O viés de raça em IA e suas consequências reais
Nesta masterclass, Oyidiyo Oji, Conselheira de Política e Defesa dos Direitos Digitais na Rede Europeia Contra o Racismo (ENAR), explicou como o viés de raça na IA tem impactado comunidades racializadas em três frentes:
- vulnerabilizando grupos marginalizados;
- histórias que não são acreditadas e
- promovendo a retraumatização das comunidades.
Isto é, o cuidado precisa estar no processo de cocriação da tecnologia para a construção de confiança, a criação de um vocabulário comum e conectar o conhecimento da comunidade e experiência no processo de construção da tecnologia.
Para isso, é preciso começar questionando o status quo.
Quem está no centro da tomada de decisão da IA?
Os direitos fundamentais estão no centro da criação da tecnologia?
Assim como é preciso que os empregadores invistam criticamente sobre a IA e aumente a legislação contra a dscriminação racial. É possível criar futuros alternativos que promovam a conexão e o pertencimento em comunidades racializadas.
Por Carine Roos, CEO e fundadora da Newa Consultoria empresa de impacto social que prepara organizações para serem inclusivas por meio de sensibilizações, workshops, treinamentos e consultoria de diversidade. Ela é especialista em Diversidade, Equidade e Inclusão há 10 anos.
Ouça o episódio 143 do RH Pra Você Cast, “Inclusão 50+, bom para o presente e para o futuro (de todos nós)“. Como você se enxerga daqui a cinco ou dez anos? O questionamento, que já deve ter sido feito a muitos de vocês durante algum processo seletivo ao longo da carreira, nem sempre traz consigo uma resposta fácil. Especialmente para um público que, diante de tantos estereótipos e preconceitos, sequer sabe como será o dia de amanhã em sua vida profissional. A cada nova geração que entra no mercado, uma anterior se vê diante do dilema de ficar para trás e ver cada vez menos portas se abrirem.
O panorama, todavia, não só precisa como deve ser mudado. Pesquisas revelam que o tão falado “choque geracional” é extremamente benéfico não só a profissionais de todas as idades, mas também às empresas. E, afinal, se não olharmos para o público 50+ com atenção, como será quando chegar a nossa vez de lutar por espaço com os mais jovens? Para falar sobre as vantagens de mesclar gerações e como desenvolver mecanismos de inclusão, o RH Pra Você Cast traz Mórris Litvak, Fundador e CEO da Maturi. Confira o papo clicando no app abaixo:
Não se esqueça de seguir nosso podcast e interagir em nossas redes sociais:
Facebook
Instagram
LinkedIn
YouTube
Capa: Depositphotos
