Hora de regular interfaces cérebro-máquina

As interfaces neurais e cérebro-computador podem desafiar a própria essência do que é ser humano. Determinar como, e mesmo se queremos usá-los, requer um debate aberto e inclusivo, com muitas vozes e todos os setores da sociedade.

Além de posicionar bem o Reino Unido nesse mercado, que ganhou as manchetes por conta dos anúncios da Neuralink e do Facebook, um relatório recente da Royal Society propõe que o público tenha voz ativa na definição de como a tecnologia será usada e regulada nos próximos anos. 

O estudo “iHuman - Blurring lines between mind and machine” reconhece que essas interfaces já são muito mais usadas do costumamos supor e podem ser extremamente benéficas, especialmente na medicina. Implantes cocleares já ajudam 400 mil pessoas com deficiência auditiva. Eletrodos estão sendo implantados no cérebro de milhares de pacientes com doença de Parkinson, para ajuda-los a recuperar seus movimentos. Também podem ser usadas para ajudar a tratar a epilepsia, depressão e dor.

Por outro lado, as interfaces neurais têm levantado preocupações éticas relacionadas a privacidade, autonomia, direitos humanos e igualdade de acesso. “Quando nos tornamos ciborgues, iHumans, e começamos a nos fundir com máquinas, incorporando diretamente o poder computacional na cognição humana, que impactos isso terá na nossa identidade?” _ questiona Sarah Chan, pesquisadora em ética da Universidade de Edimburgo que contribuiu para o relatório da Royal Society.  

Para responder a esses desafios, Marcello Ienca, professor de bioética na ETH de Zurique, defende uma espécie de “jurisprudência da mente”, embasada em ao menos quatro direitos legais que precisam ser consagrados:

1. A liberdade cognitiva deve nos proteger do exame indesejado da mente;
2. Os direitos de privacidade mental devem garantir que os dados do cérebro não sejam registrados ou usados ​​sem o conhecimento de alguém ou compartilhados sem o consentimento;
3. A integridade mental deve ser preservada;
4. E a identidade pessoal não deve ser comprometida. 

Parecem ideias sensatas para iniciar o debate público.

Sim, você está sob vigilância da IA

Pelo menos 75 entre 176 países no mundo, incluindo o Brasil, estão implantando ferramentas avançadas de vigilância da IA ​​para monitorar, rastrear e vigiar os cidadãos com diferentes finalidades políticas - alguns legais, outros que violam os direitos humanos e muitos deles caem em um meio-termo obscuro, segundo um novo relatório do Carnegie Endowment for International Peace.

As democracias liberais são as principais usuárias de soluções de IA para vigilância. Mas, como esperado, governos em países autocráticos e semi-autocráticos são mais propensos a abusar da tecnologia. De modo geral, as aplicações mais comuns são plataformas de cidades inteligentes/cidades seguras (56 países), sistemas de reconhecimento facial (64 países) e policiamento inteligente (52 países).

A China é um dos principais impulsionadores da vigilância feita por soluções de IA ​​em todo o mundo. A tecnologia vinculada às empresas chinesas - particularmente Huawei, Hikvision, Dahua e ZTE - equipa mecanismos de vigilância com IA em 63 países.

Somente a Huawei é responsável por fornecer a tecnologia de vigilância de inteligência artificial a pelo menos cinquenta países em todo o mundo.  Pequim subsidia compras governamentais de tecnologia de vigilância, particularmente na África, onde concorre com os EUA por influência, e no norte da Ásia, onde concorre com a Rússia e os EUA.

Apostas certeiras para IA corporativa 

Como acertar na sua estratégia de Inteligência Artificial corporativa? Escolher as tecnologias certas em que investir é um pedaço da equação, claro. E com esse ponto de vista, David Pereira, Head de Data & Intelligence para a Europa da everis, resolveu dissecar a edição 2019 do estudo anual Hype Cycle for Emerging Technologies, do Gartner.

O lado interessante do artigo é que David escolhe falar primeiro das tecnologias de IA que NÃO estão no mapa de 2019. Sair do mapa, como explica o executivo, nem sempre quer dizer que não "pegaram", mas sim que pegaram tanto que engataram no que o Gartner chama de platô da produtividade e não podem mais ser consideradas emergentes porque viraram commodities, e precisam ser usadas pelas empresas se quiserem continuar no jogo.

Nessa categoria estão as Deep neural networks (DNNs), as plataformas conversacionais de IA, e os assistentes virtuais digitais, por exemplo. "Adotar tecnologias de base da IA, como as DNN não é mais uma iniciativa de inovação, mas sim parte do núcleo da estratégia corporativa. As empresas já deveriam estar saindo das provas de conceito (PoC) para ações escaláveis de IA, incluindo organizar os talentos de IA, aplicar metodologias e implementar plataformas comuns por toda a companhia", escreve.

E do que está no mapa do Gartner, o que merece atenção mais imediata, por estar indicado como maduro em 2 a 4 anos? A primeira tecnologia é a Inteligência Aumentada (Augmented Intelligence), como chave para o desenho de novas aplicações de negócios que combinem automatização de curto prazo de determinadas tarefas para, a longo prazo, prover recursos que ampliem o talento humano.

A segunda é a Edge AI (ou IA de borda) que é o processamento local de dados por algoritmos de IA instalados em dispositivos de hardware, resultado da combinação da IA com IoT. Mas é preciso "avisar aos russos", lembra David: o uso de Edge AI implica que a empresa fez outras lições de casa, como por exemplo implantação de tecnologias de IA, como Deep Learning, e de infraestrutura de IoT para coletar os dados, obviamente.

Como será o futuro sem motoristas?

Digitalizando microempresas na AL

Como uma empresa estrangeira vê o cenário de dados da América Latina? Com muita desconfiança e extremo cuidado, já que muito do mercado local não está mapeado ou digitalizado. E tem gente transformando essa dificuldade em negócio.

Caso da startup Dataplor, de Los Angeles, cujo core business é coletar dados sobre micro e pequenos comerciantes locais, que praticamente não possuem pegada digital, usando uma força-tarefa humana de 100 mil pessoas, que ela chama de Explorers. Começou fazendo esse trabalho no México, em 2016, "bootstrapou" para o Brasil e acaba de levantar US$ 2 milhões em investimentos para acelerar.

A Dataplor fornece dados qualitativos e quantitativos, coletados porta-a-porta pelos Explorers nesse "senso privado", para companhias que queiram fazer negócios com comerciantes locais - leia-se PayPal, iFood, Rappi e até a Google. A ideia é que a Dataplor forneça dados únicos como localização (endereço, latitude e longitude), fotos, nomes dos proprietários, uso de meios de pagamento, etc..

No México ajudou a colocar no Google 150 mil pequenos negócios que não tinham presença online. E paga aos Explorers a média de R$ 168 reais/dia pela coleta. No Brasil está procurando Explorers de Norte a Sul do país, e oferecendo até R$ 20 por cadastro capturado. Basta ter um smartphone.

Os trabalhadores fantasmas da IA

Enquanto isso, na Venezuela, empresas que fornecem serviços de treinamento de Inteligência Artificial para carros autônomos, recrutam pessoas de classe média, empobrecidas pela gigantesca crise do país, para trabalhar remotamente em tarefas de "data-label" de imagens, garantindo que cada pixel seja identificado e portanto usado para treinar as habilidades visuais dos carros autônomos.

O movimento começou em 2018 e foi identificado  pelo Dr. Florian Alexander Schmidt, professor de design conceitual na University of Applied Sciences HTW Dresden e especialista em crowdsourcing e crowdwork. Schmidt publicou um paper no ano passado, que acaba de sair em inglês, sobre o uso de seres humanos no treinamento de veículos autônomos, executando tarefas bem menos nobres que a programação, e muito mais escondidas pelas empresas.

"Como mostra o estudo, 2018 teve um grande fluxo de centenas de milhares de crowdworkers da Venezuela se especializando nessas tarefas. Em algumas plataformas, esse grupo chega a representar 75% da força de trabalho". A lista de empresas que atuam no uso de crowdsource humano para treinar IA inclui companhias como Mighty AI, Playment, Hive e Scale.

O professor Florian expõe novamente um dos lados obscuros da IA, que é o de explorar intensivamente mão de obra barata (ou muito mal paga e sem acesso a direitos básicos trabalhistas), para treinar plataformas e algoritmos. Um contingente de trabalhadores invisíveis que chega a 20 milhões no mundo todo.

São chamados de "ghost workers" (trabalhadores fantasmas)  pela antropóloga Mary L. Gray, do Microsoft Research, que, em parceria com o cientista da computação Siddharth Suri, escreveu o livro Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass e abriu a discussão sobre esse lado perverso das tecnologias disruptivas que envolve não só a IA mas também as empresas da chamada gig economy (economia do bico), como Uber, Rappi, iFood e por aí vai. Que precisa continuar e esquentar.

Preparando o time para a chegada dos robôs

Guia global para a IA Ética

Um debate sobre o que constitui 'IA ética' e quais requisitos mínimos, padrões técnicos e melhores práticas são necessários para sua realização ganhou corpo nos últimos anos.

Uma equipe da ETH Zurich, na Suíça, decidiu traçar um panorama das diretrizes éticas para a IA ​​em todo o mundo, incluindo regiões ricas, como EUA, UE e Japão (com maior peso) e regiões mais pobres, como África, Ásia Central e América Latina.

Os resultados foram publicados pela Nature Machine Learning e revelam uma convergência global emergindo em torno de cinco princípios éticos,com divergência substantiva em relação à forma como são interpretados, por que são considerados importantes e como devem ser implementados. São eles:

• transparência
• não maleficência
• justiça nas inferências
• responsabilidade
• privacidade

DeepPrivacy. Solução ou mais problemas?

Uma nova técnica, batizada de DeepPrivacy, usa Redes Generativas Adversárias (GANs), mesma tecnologia por trás do deepfakes, para anonimizar pessoas em uma foto ou vídeo. O algoritmo extrai informações sobre a expressão facial da pessoa encontrando a posição dos olhos, ouvidos, ombros e nariz.

Cria, então, um rosto totalmente novo com a mesma expressão e o sobrepõe à imagem original, mantendo o mesmo fundo. Funciona em muitos tipos de fotos e rostos, mas ainda falha quando o rosto está parcialmente ocluso ou gira em ângulos específicos.

A anonimização do rosto é usada hoje para proteger a identidade de alguém em situação adversa, como um denunciante, em fotos e filmagens. Porém, técnicas tradicionais, como desfoque e pixelização, correm o risco de serem ineficientes (deixando que a identidade da pessoa possa ser descoberta) ou de removerem completamente a emoção (ao comprometerem as expressões faciais).  

A técnica proposta resolve essas e outras questões. Usos nobres para uma tecnologia tão atacada por facilitar a produção convincente de desinformação?  Ou um novo problema, já que é possível usá-la para esconder a presença de alguém por motivos escusos? Será realmente possível garantir o anonimato total?

• A implementação do DeepPrivacy é de código aberto e está disponível no Github . 
• O artigo que explica o método com mais detalhes está disponível no Arxiv.
• E a explicação do que é uma GAN está nesse vídeo.

O garimpo da semana

• Visualização de dados elegante? Membros da Data Visualization Society compartilham suas opiniões a respeito.
   
• A automação afetou muito a interação humana, à medida que mais e mais tarefas são executadas pelas máquinas. A comunicação interpessoal e a compaixão foram as primeiras baixas.
   
• Crianças precisam saber como a IA funciona. Um novo currículo as ajuda a entender como os algoritmos são projetados.  Os sistemas de aprendizado de máquina são caixas-pretas até para os pesquisadores que os constroem. Isso dificulta a avaliação dos resultados por outras pessoas.
   
• A alfabetização estatística fortalece a cidadania, já que certos números costumam ser usados por governos para convencer ao invés de informar.
   
• Um Linux completamente autônomo foi a novidade da Oracle no OpenWorld , que acontece esta semana em San Francisco. O serviço é muito semelhante ao do banco de dados autônomo da companhia.
   
• O Pentágono quer que um especialista em ética supervisione a IA militar. Calma! É mais provável que ele lide com questões de coleta de dados e privacidade, do que com o uso de armas automatizadas.
   
• A startup Quantum Circuits está conectando mini dispositivos quânticos em rede para criar computadores que, segundo eles, serão mais fáceis de expandir do que as máquinas rivais.
   
• Edward Snowden alerta mais uma vez que dispositivos digitais, como telefones celulares, estão usando metadados e algoritmos para rastrear a vida cotidiana das pessoas, e que as informações podem ser coletadas, interceptadas e usadas tanto por empresas quanto por governos.
   
• Seis principais erros a serem evitados ao executar uma Prova de Conceito (PoC) de Ciência de Dados.