Compreendendo as políticas, quest?es éticas e regulatórias que sustentam a nova tecnologia

Palavras do Dr. Joshua Ellul, Presidente do MDIA e Diretor do DLT da Universidade de Malta. Converse com ele ainda este ano na edi??o de outono da Block Magazine

Nos últimos anos, vimos um aumento no interesse (e exagero) em torno da Inteligência Artificial (IA), Blockchain, Computa??o em nuvem, Ciência de dados e computa??o e comunica??o quantica. Essas (e outras) tecnologias est?o ajudando a moldar um novo mundo. Um mundo que poderia: (A) permitir mais automa??o de tarefas que normalmente requerem humanos; (B) fornecer mais transparência e garantias; (C) com custos iniciais mínimos; (D) para vários domínios diferentes; (Q) a velocidades e distancias sem precedentes; para finalmente (Y) beneficiar VOCê.

Esses benefícios s?o frequentemente divulgados, mas qual será o seu lugar neste novo mundo n?o é discutido o suficiente. A seguir, uma série de quest?es que impactar?o a sociedade ser?o discutidas.

Se você é um técnico, provavelmente tem uma boa no??o do que está por vir. Se você vai trabalhar no desenvolvimento central de tais tecnologias, exigindo que você realize pesquisas para se familiarizar com os fundamentos teóricos, ou se vai desenvolver aplicativos usando essas tecnologias, você provavelmente está esperando (ou já usa) novas estruturas e bibliotecas que se escondem afastar as complexidades das tecnologias, permitindo que você se concentre no aplicativo em quest?o.

No entanto, um novo aspecto que será exigido dos técnicos cada vez mais é o engajamento com profissionais de outras disciplinas. Quer seja para discutir problemas específicos relativos ao respectivo domínio de negócios, ou debater com profissionais jurídicos em rela??o às op??es e decis?es de arquitetura técnica que podem exigir que vários requisitos regulatórios e de conformidade sejam seguidos (ou desafiados), ou mesmo especialistas em ética e diferentes partes interessadas com respeito às op??es de implementa??o quando se trata de domínios de aplicativos que requerem inerentemente considera??es éticas.

Além dos técnicos, que trabalham incessantemente na implementa??o de várias solu??es para automatizar e melhorar várias tarefas e prestar novos tipos de servi?o, est?o os vários profissionais. Esses profissionais desempenham um papel fundamental para garantir que tais produtos e servi?os sejam de natureza sólida, relevantes para as várias partes interessadas, que o produto e servi?o seja realmente comercializável e honesto.

Seja trabalhando diretamente com uma empresa inovadora relacionada à tecnologia ou em qualquer outro setor, essas tecnologias emergentes ter?o um impacto nos profissionais em todos os setores. Quer seja necessário treinamento para entender os produtos e servi?os que sua empresa oferece a fim de aplicar efetivamente suas habilidades, ou se seu trabalho é totalmente alheio, em algum momento, essas tecnologias ter?o impacto sobre como os processos que você segue ser?o alterados.

Ferramentas de IA para ajudar a implementar uma primeira linha de suporte ao cliente; entender quais processos se tornaram completamente transparentes usando Blockchain; mudan?a para servi?os em nuvem que fornecem facilidade de acesso e uso; ou se os processos computacionais e a comunica??o d?o um salto Quantum em velocidade.

O exposto acima destaca a necessidade de multidisciplinaridade. Onde profissionais de várias origens — especializados em sua disciplina s?o conhecedores ou alfabetizados nas outras disciplinas, permitindo-lhes se envolver em discuss?es e pensamento crítico em rela??o às várias perspectivas, incluindo técnicas, jurídicas, comerciais e éticas.

N?o apenas aqueles que trabalham direta ou indiretamente com tecnologias emergentes ser?o afetados. Essas tecnologias trazem mais digitaliza??o e automa??o, permitindo que muitas tarefas sejam realizadas com mais eficiência e eficácia do que antes. Isso significa que certos tipos de trabalhos podem ser automatizados, o que n?o exigiria mais um humano totalmente informado. Algumas tarefas podem ser totalmente automatizadas, enquanto outras ainda podem exigir supervis?o humana até certo ponto.

Na verdade, isso significa que alguns empregos que atualmente desempenhamos um papel essencial em várias indústrias podem n?o ser mais necessários. Devemos considerar como isso afetará as pessoas afetadas e como isso afetará a sociedade e quais políticas podem ser implementadas para minimizar os efeitos negativos sobre o indivíduo e a sociedade em geral. As pessoas afetadas conseguir?o encontrar empregos semelhantes em outro lugar? Eles exigir?o qualifica??o ou requalifica??o? Quais s?o as responsabilidades dos empregadores? Governos semelhantes? E mesmo indivíduos?

Vamos supor por um segundo que, através da automa??o, a quantidade acumulativa de trabalho que deve ser realizada dentro de uma sociedade pode ser minimizada. A sociedade seria capaz de se beneficiar diretamente disso, permitindo que todos se beneficiassem de mais tempo livre? Ou isso só beneficiará os que est?o no topo da piramide? No entanto, é improvável que esta situa??o aconte?a como foi demonstrado desde que os esfor?os de automa??o foram introduzidos durante a revolu??o industrial. Na verdade, certos tipos de tarefas que podem ser automatizadas usando IA e ciência de dados exigem que imagens e outros tipos de dados sejam rotulados ou verificados por operadores humanos. Essa necessidade deu origem a um novo setor, o de rotulagem de IA, no qual muitas “fazendas de IA” têm surgido em todo o mundo. Pode muito bem ser que a equipe anterior de garantia de qualidade de fabrica??o possa ser requalificada para trabalhar na indústria de rotulagem de IA, o que alguns podem considerar uma oportunidade de aumentar a qualidade das condi??es de trabalho para essa equipe (de empregos de ch?o de fábrica a empregos de escritório).

Blockchain, Distributed Ledger Technology (DLT) e Smart Contracts permitem a desintermedia??o — remo??o de “intermediários” de vários servi?os e processos, o que também traz consigo maior transparência, garantias e mecanismos à prova de falsifica??o que garantem que os participantes dos servi?os n?o trapaceiem.

No entanto, essas garantias existem apenas nos servi?os e processos codificados no próprio Blockchain. Isso significa que se um servi?o requer uma entrada externa. Por exemplo, se Blockchain é usado para fornecer transparência dentro de uma cadeia de abastecimento para garantir que nenhum trabalho escravo seja usado, enquanto todos os dados relativos à equipe que trabalha dentro da cadeia de abastecimento e sua produtividade est?o disponíveis para todos verem e n?o podem ser manipulados, alguém tem que inserir os dados.

Se a equipe receber credenciais exclusivas (ou melhor, pares de chaves privadas / públicas), podemos garantir que s?o de fato os dados de entrada individuais específicos. No entanto, eles poderiam ser coagidos a inserir dados incorretos, por exemplo, a quantidade de trabalho realizado? Será que parte de sua produtividade n?o pode ser registrada no sistema? Embora seja possível otimizar o processo para ser o mais transparente e infalível possível, em última análise, o processo depende da entrada de dados e as várias partes interessadas que inserem os dados s?o consideradas partes confiáveis, cujos relatórios corretos dos objetivos gerais do sistema dependem.

A equipe é confiável? Seus gerentes s?o confiáveis? A política da empresa é confiável? Nesses casos, novos tipos de trabalhos de auditoria / verifica??o física est?o sendo criados. Podemos n?o ser capazes de confiar na própria empresa, mas talvez um auditor independente terceirizado também seja confiável. Como podemos ver, essas tecnologias inovadoras est?o mudando o local de trabalho e os modos de opera??o e, potencialmente, eliminando alguns tipos de empregos, mas também criam novos.

N?o se trata apenas da tecnologia e dos empregos afetados. A introdu??o dessas tecnologias emergentes levanta dilemas éticos (além daqueles de automa??o de empregos). Um desses clichês é: o que um veículo automatizado deveria fazer caso acabasse em uma situa??o em que n?o tivesse outra saída a n?o ser atingir uma de duas pessoas, qual deveria escolher? Quando os veículos automatizados se tornam onipresentes, podemos ter mais envolvimento nesta decis?o do que gostaríamos. Nossos veículos automatizados aprender?o algumas de suas habilidades ou padr?es de dire??o com base em como às vezes podemos dirigir manualmente? Eles aprender?o como os outros motoristas da regi?o dirigem e / ou como os pedestres interagem nessas situa??es para desenvolver uma estratégia caso esse cenário se torne realidade? Ou o carro vai exigir aten??o imediata do motorista para tomar uma decis?o e / ou pedir a cada passageiro para votar na estratégia que deve seguir? Em caso afirmativo, em tal cenário ou em cenários completamente diferentes, estaremos equipados para tomar essas decis?es difíceis?

Na verdade, muita conversa e política em torno das estruturas éticas de IA receberam ampla cobertura nos últimos anos. Mas, realmente, n?o se trata de IA, e as discuss?es n?o devem ser focadas em estruturas éticas de IA (apenas). Pode ser mais sobre automa??o (que pode ser habilitada para AI ou n?o). E esse debate ético e considera??es n?o devem ser focados na automa??o nem no software. Mesmo assim, devemos nos concentrar nas principais quest?es éticas que s?o independentes da tecnologia.

Outro clichê aqui é: devemos permitir que a IA decida quem tem direito a uma apólice de seguro e / ou conta bancária, dependendo da demografia e dos dados históricos para aqueles com características semelhantes? Bem, o fato de que essa decis?o pode ser tomada por um software habilitado para IA é irrelevante. A quest?o que permanece é se a demografia é um critério ético de inclus?o / exclus?o. Essa decis?o seria diferente se fosse tomada por um humano? Claro que n?o.

Dito isso, é prática comum que tais decis?es sejam baseadas no apetite de risco e na discri??o da própria institui??o para decidir se embarca ou presta um servi?o a um cliente. Como isso é diferente? Portanto, é importante que, como sociedade, nos concentremos menos na tecnologia emergente específica e mais nas políticas, quest?es éticas e regulatórias que sustentam tais quest?es. A menos, claro, que a própria tecnologia apresente riscos diretos. Uma vez que a política, a regulamenta??o e as diretrizes éticas estejam claras, é importante que elas sejam seguidas (sejam implementadas manualmente ou por meio de tecnologia).

Talvez, a única considera??o ética específica da tecnologia de IA em que devemos pensar é como devemos lidar com IA senciente. Você pode se preocupar com a IA dominar o mundo. No entanto, avan?os em dire??o a tal realidade n?o foram feitos. Existem duas generaliza??es de IA. Artificial General Intelligence (AGI), capaz de fazer “qualquer coisa” — o tipo de IA retratado em filmes. E Artificial Narrow Intelligence (ANI), capaz de fazer / aprender uma tarefa muito bem — o tipo de IA que podemos implementar hoje. Embora n?o pare?a que a AGI esteja perto (embora possa muito bem ser que uma única descoberta possa trazê-la), talvez a única considera??o ética específica da IA ??que deveríamos promover é: se você conseguir descobrir como implementar o AGI, você deve evitar implantá-lo até que a sociedade e o mundo tenham descoberto a melhor forma de regulá-lo.

A computa??o quantica, por outro lado, uma vez desenvolvida, pode representar riscos à seguran?a cibernética. Nossa infraestrutura de Internet existente, e acima de tudo, realmente, toda a infraestrutura moderna depende da criptografia – um mecanismo que garante que a comunica??o segura possa ocorrer e os dados secretos n?o possam ser vistos por olhos curiosos. Isso é conseguido usando algoritmos que garantem que é impossível (ou melhor, inviável) quebrar tais sistemas. Isso só é impossível porque seriam necessários bilh?es a trilh?es de anos para realizar tal ataque.

No entanto, isso ocorre apenas porque nossos computadores s?o t?o rápidos. Se amanh? um computador quantico fosse disponibilizado com velocidades muito (exponencialmente) maiores do que as que temos hoje, alguns aspectos de nossa infraestrutura e sistemas de Internet podem ser suscetíveis a ataques que n?o levariam bilh?es a trilh?es de anos, mas poderiam levar minutos para horas para atacar. Portanto, é importante que como sociedade e como mundo, assim como os tratados foram celebrados para o desenvolvimento de armas nucleares, que acordos semelhantes sejam firmados de forma a garantir que, quando tal poder computacional for disponibilizado, n?o será abusado por nenhuma na??o. Ent?o, novamente, nós já deveríamos ter esses acordos de guerra cibernética em vigor?

Quer você esteja desenvolvendo, interagindo direta ou indiretamente com essa tecnologia emergente ou mesmo se você estiver completamente desconectado dessa tecnologia, é claro que ela está mudando e mudará nossa sociedade e o mundo substancialmente. Portanto, é pertinente que nosso sistema educacional prepare nossas novas gera??es para este novo mundo emocionante. Capaz de n?o apenas trabalhar dentro de uma disciplina específica, mas capaz de ser capaz de apreciar várias disciplinas e perspectivas que se sobrep?em de muitas maneiras, e capaz de pensar criticamente com uma base sólida de princípios que é capaz de fazer nossa espécie avan?ar tanto tecnologicamente quanto lutar eticamente pelo bem comum.