A ética na inteligência artificial

A inteligência artificial é, sem margem para dúvidas, uma das maiores revoluções que já vivemos, responsável por drásticas transformações na forma como nos relacionamos, como trabalhamos e até como pensamos. Por mais vantagens que traga para o desenvolvimento das diferentes atividades económicas, para a inovação e eficiência em áreas como a ciência ou a saúde e enquanto elemento de valorização do trabalho humano, a inteligência artificial é, desde o início, alvo de enorme desconfiança. Entre as previsões mais pessimistas estão a de que o Homem se torne obsoleto em muitas áreas, resultando na ausência de empregos suficientes para todos, ou a de que as máquinas vão passar a controlar-nos.

Independentemente do maior ou menor dramatismo inerente a estes prognósticos, o certo é que existem motivos para alguma preocupação e para que se atue por forma a que os inúmeros benefícios que a automação e a inteligência artificial trazem não se percam no desrespeito pela privacidade, transparência e liberdade dos indivíduos.

À medida que a inteligência artificial se vai “infiltrando” na vida dos indivíduos e das instituições e que se vai percebendo o que tem de ser melhorado, surgem as respostas institucionais. Seja sob a forma de regulamentação ou de recomendações, o cerco vai começar a apertar para quem opera na área ou recorre à inteligência artificial para a sua atividade.

Entre as principais preocupações em cima da mesa relacionadas com o uso da inteligência artificial está o tema da privacidade e segurança dos dados. Com o mundo a ficar crescentemente digital, a inteligência artificial potencia as possibilidades de recolha e análise de dados. Algumas empresas e outras entidades estão já a ser proativas na adoção de medidas de maior proteção da privacidade dos seus clientes e outros stakeholders, até porque a maior consciência da opinião pública quanto a estes riscos faz com que quem se posicione nessa área consiga uma potencial vantagem competitiva.

Mas, num mundo cada vez mais digital, controlar que informação nossa está na mão de terceiros, de que forma é utilizada e por quem é uma missão muito mais difícil do que no “velho” mundo analógico.

Outra grande questão está relacionada com a potencial manipulação do comportamento dos indivíduos, graças à informação que conseguem retirar dos dados dos mesmos. A forma como a recolha e análise de dados pode ser utilizada, com a ajuda da inteligência artificial, para potencialmente influenciar a atenção, o comportamento e a formação de ideias pelos consumidores, eleitores e tantos outros agentes sociais e económicos levanta questões éticas delicadas.

Estes e vários riscos associados à inteligência artificial estão a levar à movimentação das autoridades no sentido de “pôr ordem à mesa” e evitar o descontrolo total e a consequente desproteção dos indivíduos face ao que são os seus direitos e liberdades.

 

 

As recomendações da UNESCO

As últimas démarches vieram da UNESCO, que em novembro conseguiu que os seus 193 estados-membros aprovassem um conjunto de recomendações para a promoção de uma utilização da inteligência artificial segura, confiável e centrada no ser humano.

As orientações são dirigidas a governos, empresas, educação, academia, comunicação social e outros para que se promova as vantagens da inteligência artificial ao mesmo tempo que se mitiga os riscos de falta de responsabilidade, violação da privacidade e desproteção dos dados e se salvaguarda os direitos humanos e liberdades fundamentais, assim como o respeito pelos objetivos de desenvolvimento sustentável.

É necessário aguardar para perceber até que ponto estas recomendações, materializadas em princípios e políticas em diversas áreas, resultam numa alteração de políticas e tomada de consciência.

 

União Europeia prestes a avançar com medidas

Com uma abrangência menor, circunscrita ao espaço europeu, mas com caráter vinculativo, a União Europeia tem em curso medidas para uma abordagem europeia da inteligência artificial.

A Comissão Europeia pretende que se consiga uma maior proteção dos direitos fundamentais dos cidadãos dos vários estados-membros – aliada à promoção do desenvolvimento desta tecnologia – com um quadro jurídico exigente. Propõe-se um controlo apertado da inteligência artificial considerada de alto risco, com elevadas sanções associadas em caso de incumprimento. Os destinatários são quase todos os intervenientes da cadeia de produção da inteligência artificial, incluindo os fornecedores da tecnologia e as entidades utilizadoras destes sistemas.

Há utilizações potenciais dadas à inteligência artificial expressamente proibidas, como o ‘social scoring’ ou o uso de sistemas de inteligência artificial para atingir, de forma prejudicial, as fragilidades de um grupo específico. São depois identificadas várias utilizações da inteligência artificial consideradas de alto risco e sobre estas recaem obrigações e limites a cumprir.

Faltam ainda alguns passos até que tais medidas produzam efeitos e comecem a ser aplicadas, mas é já um dado adquirido nesta altura que vão afetar, em maior ou menor escala, a forma de atuar de muitos agentes económicos, nomeadamente das empresas que operam no digital. Estas terão, a breve trecho, de viver com maiores restrições à obtenção e utilização de dados de clientes e outros stakeholders, sendo importante que se comecem já a posicionar na defesa e proteção dos direitos e privacidade dos seus clientes em vez de serem depois meramente reativos e em desvantagem provável face à concorrência.