Os principais desafios da Inteligência Artificial

Há alguns dias, estava dirigindo e pensando no assunto do último post, não saía da minha cabeça como é empolgante a Era Pós-Digital. A tecnologia está criando soluções que vão nos trazer maior conforto, eficiência e, quem diria, mais tempo para fazermos as coisas que mais gostamos. Afinal, a grande promessa é que as atividades mais rotineiras e entediantes sejam feitas por máquinas dotadas de Inteligência Artificial.

Foi então que passei a observar algumas crianças em sua desastrada tentativa de fazer malabarismo com três ou quatro limões em troca de alguns centavos. Por algum tempo, procurei alguma oportunidade de curto prazo, que pessoas nessa situação pudessem ter com a Revolução Digital. Mas não consegui encontrar nada além de algumas iniciativas isoladas que, apesar de bem intencionadas, pouco podem fazer para resolver essa questão. O fato é que as pessoas que estão à margem da sociedade correm o risco de serem ainda mais marginalizadas.

Essa reflexão nos leva a uma discussão que iniciamos em um post de março deste ano, questionando o papel de cada indivíduo em um mundo hiperconectado. O texto nos convida à reflexão sobre quem ganha e quem perde nessa nova realidade: “…a tecnologia deve servir à sociedade, não o contrário. O lucro de poucos não pode custar a liberdade de muitos”.

Esse risco à nossa liberdade vai além das esferas política e econômica, o impacto da Inteligência Artificial (IA) pode ser muito mais profundo. Precisamos, portanto, nos preparar para os possíveis riscos que máquinas inteligentes podem trazer para cada ator da nossa economia, das grandes corporações aos malabaristas do semáforo.

Questões Éticas da Inteligência Artificial

Em um texto para o World Economic Forum, Julia Bossmann afirmou que o avanço da IA é “tanto uma nova fronteira para Ética, quanto é para as tecnologias emergentes”,  e complementou dizendo que vivemos no melhor momento para discutir o assunto.

Por isso, Julia compilou as principais questões éticas relacionadas ao tema, que estão tirando o sono de empresas e especialistas como Stephen Hawking e Elon Musk e fazem o seriado Black Mirror ficar cada vez mais angustiante:

• Desemprego. O que acontece se os empregos acabarem?

Enquanto inventamos maneiras de automatizar algumas funções, criamos espaço para as pessoas assumirem atividades mais complexas, trocando trabalhos manuais que dominaram o mundo pré-industrial por funções cognitivas.

É consenso, no entanto, que milhões de pessoas não estarão preparadas para tais atividades mais complexas, não apenas por falta de interesse, mas por falta de oportunidade. Certamente essa não é a principal preocupação da Tesla, por exemplo, que promete criar caminhões autônomos muito mais seguros e eficientes à custa de milhões de empregos.

Esta é uma grande questão ética, a responsabilidade de garantir o pleno emprego não é das empresas privadas, mas será que estamos fazendo a coisa certa para a nossa sociedade?

Não precisamos entrar em um embate filosófico sobre o que é certo e errado agora. Mas, está mais do que na hora de começarmos a criar alternativas para que o futuro não sirva para deleite de poucos afortunados.  Ensinar apenas noções básicas de matemática nas escolas, por exemplo, enquanto o mundo fala de Programação e Robótica não me parece o caminho ideal.

• Desigualdade. Como distribuiremos a riqueza criada pelas máquinas?

O dinheiro que entra em uma empresa, antes de ir para o bolso dos acionistas, é destinado para pagar os custos envolvidos em toda a sua operação. Um desses custos é o salário dos funcionários. Esses trabalhadores, por sua vez, utilizam essa renda para comprar bens ou serviços de outras empresas e o ciclo continua, movimentando a economia.

Porém, ao utilizar IA uma empresa pode diminuir drasticamente a dependência dos trabalhadores em sua operação e, consequentemente, os custos com folha de pagamento.

Dessa forma, a riqueza gerada por essa organização vai para um número muito menor de pessoas. Além disso, a empresa capaz de investir em IA pode oferecer muito mais valor para o cliente final, gerando mercados monopolizados.

O baixo poder de compra dos consumidores e a pouca concorrência podem fazer a desigualdade aumentar drasticamente.

• Humanidade. Como as máquinas irão afetar nosso comportamento e interação?

Programas de computador artificialmente inteligentes estão ficando cada vez melhores em simular conversas e relacionamentos humanos. Em 2014, um desses programas, conhecido como Eugene Goostman, passou no Teste de Turing pela primeira vez. Ele conseguiu enganar muitas pessoas ao se passar por um garoto de 13 anos.

Iremos interagir cada vez mais com máquinas como se elas fossem humanas. Isso vai servir para atendimento aos clientes, vendas, consultas e muitas outras atividades. Com a vantagem de que, diferente dos humanos, as máquinas são capazes de direcionar recursos de maneira praticamente ilimitada para construir relacionamentos.

A grande questão é que tais recursos não se resumem à atenção e gentileza, algoritmos persuasivos e armadilhas psicológicas podem ser criados para ativar comportamentos humanos e nos atrair. “O vício tecnológico é uma nova fronteira para a dependência”.

Quando usados de forma ética, esses softwares podem nos trazer benefícios. No entanto, nas mãos erradas, podem criar um grande problema para nossa sociedade, como o aumento do consumismo, por exemplo.

• Estupidez Artificial: Como podemos nos proteger dos erros?

A inteligência vem com o aprendizado, tanto para os humanos quanto para as máquinas. Sistemas de IA, normalmente, passam por longos períodos de treinamento, para aprenderem a detectar padrões e serem capazes de agir de acordo com sua programação.

Esses treinamentos, no entanto, não são capazes de “ensinar” ou prever todas as variáveis possíveis para que um software possa lidar com o mundo em sua totalidade. Tais sistemas podem não saber como agir diante de alguns dilemas.

Um bom exemplo é o caso dos carros autônomos. Qual seria a decisão da IA que conduz o carro ao se deparar com a possibilidade eminente de acidente e ter apenas duas escolhas: colisão direta com um muro, que seria potencialmente mais perigosa para o passageiro ou desviar do obstáculo e atropelar um grupo de pedestres?

Essa falta de capacidade de tomar decisões, que não foi ensinada às máquinas, pode permitir que outras pessoas manipulem a IA de uma forma que qualquer ser humano poderia facilmente evitar.

Isso traz precedentes preocupantes, afinal, uma máquina que não é capaz de “improvisar” ou de detectar ameaças pode representar um sério risco se passarmos a confiar nelas para atividades mais complexas, como segurança, medicina, finanças, etc.

• Robôs Racistas: Como eliminamos esse viés da Inteligência Artificial?

Embora a velocidade de processamento das máquinas seja muito maior do que a dos humanos, ela não pode ser considerada 100% confiável e neutra.

Não podemos esquecer que os sistemas de IA são criados por humanos, algumas pessoas podem até conseguir esconder opiniões racistas de outros humanos, mas acabam influenciando as respostas das máquinas aos estímulos e padrões aprendidos. Um software criado para identificar criminosos potenciais, por exemplo, mostrou viés racial aos fazer suas predições.

• Segurança. Como mantemos a Inteligência Artificial a salvo de ameaças?

Quanto mais poderosa uma tecnologia se torna, mais dano ela pode causar se for usada de maneira mal intencionada. Isso não se aplica apenas para robôs soldados ou armas autônomas, mas para grande parte dos sistemas de IA.

Como essa luta não acontecerá, efetivamente, no campo de batalha, a cibersegurança se torna ainda mais importante. “Afinal, estamos lidando com um sistema que é mais rápido e mais capaz do que nós em questão de magnitude”.

• Gênios do Mal. Como nos protegemos das consequências não intencionais?

As ameaças não são exclusivas apenas de pessoas mal intencionadas, as próprias máquinas poderiam se voltar contra nós. Mas isso não significa que ela se torne um grande vilão que quer destruir a humanidade, como em um filme de Hollywood.

Considere que máquinas não possuem a nossa capacidade de fazer julgamentos. Isso significa que se uma máquina não entender o contexto mais amplo de um comando dado por seus programadores, podemos observar terríveis consequências.

Imagine, por exemplo, que seja dado o comando para uma máquina erradicar do planeta algum novo e terrível vírus. Após muitos cálculos e tentativas em vão de criar uma cura, a máquina chega à conclusão de que a maneira mais eficiente de acabar com a doença é matando todos os infectados. Se ela encontrar uma maneira e não tiver alguma programação que a impeça de fazer isso, ela não vai hesitar.

• Singularidade. Como mantemos o controle sobre um sistema inteligente tão complexo?

A razão do homem estar no topo da cadeia alimentar não são dentes afiados ou músculos. A dominância do homem foi motivada por nossa inteligência e capacidade de adaptação. Conseguimos levar a melhor sobre animais maiores, mais rápidos e mais fortes porque conseguimos encontrar meios e ferramentas para controlá-los.

A pergunta é: como as máquinas vão se comportar quando nos superarem intelectualmente? “Isso é o que chamamos de ‘singularidade’: o momento em que os seres humanos não serão mais os seres mais inteligentes do planeta”.

• Direitos Robóticos. Como definimos o tratamento humanitário da Inteligência Artificial?

A partir do momento que uma máquina adquire consciência e é capaz de sentir emoções, como iremos tratá-las? Como pessoas? Como máquinas? Como animais? Como Turcos Mecânicos?

Essa pode ser a discussão ética mais acalorada que já tivemos. Hoje, ainda não somos capazes de explicar muito bem sequer a nossa própria consciência, mas a partir do momento que máquinas forem capazes de pensar, sofrer e até se voltar contra nós, teremos que repensar tudo o que acreditamos saber.

 Para Finalizar

O principal perigo de tudo isso é acreditar que tais preocupações estão em um futuro muito distante de nós, a ponto de serem irrelevantes. Considere a citação abaixo sobre a evolução recente da tecnologia:

“Eis um dilema ético interessante. Graças ao avanço da ciência e tecnologia conseguimos produzir alimentos em solo até pouco tempo considerado infértil. Conseguimos produzir legumes e frutas cada vez maiores. E, se por um lado, cada vez mais aumentamos nossa capacidade de produção de alimentos, por outro, mais o mundo parece encarar a fome. Então, de que adiantaria todo esse aparato tecnológico se nós, os criadores e aplicadores dessa tecnologia, continuamos os mesmos seres mesquinhos?”

Júlio Pompeu

A Inteligência Artificial vai afetar nosso cotidiano, nosso trabalho, nossas relações e qualquer aspecto de nossas vidas mais rápido do que imaginamos. O que parecia tema exclusivo de filmes de ficção há alguns anos, já aparece em relatórios de tendências, feiras de tecnologia, palestras sobre carreira, jornais periódicos e nas revistas conceituadas de segmentos diversos.

Precisamos refletir sobre isso agora, encarar essas inquietações angustiantes com a mente aberta. Quem sabe assim, consigamos criar um futuro em que possamos aproveitar, igualmente e livre de ameaças, a capacidade de produção das máquinas.

Uma Era em que cada indivíduo, finalmente, terá tempo suficiente para encontrar novas e valorosas maneiras de utilizar a inteligência natural para contribuir com o bem estar coletivo. Que o malabarismo com limões seja uma escolha, não uma questão de sobrevivência.

“Se tivermos sucesso nessa transição, um dia poderemos olhar para trás e pensar quão cruel era fazer com que as pessoas vendessem a maior parte de seu tempo para poderem sobreviver”.

Julia Bossmann

Referências Inteligência Artificial: Top 9 Ethical Issues in Artificial Intelligence, weforum.com, (link). Machine Bias, Propublica.com (link). Somos Todos Canalhas, Clóvis de Barros Filho e Júlio Pompeu, 2015.