1. Preocupa-se com a evolução da IA

Seria muito difícil – alguns podem dizer impossível – projetar sistemas de IA éticos amplamente adotados. Uma parte dos especialistas que responderam observou que a ética é difícil de definir, implementar e fazer cumprir. Eles disseram que o contexto é importante quando se trata de considerações éticas. Qualquer tentativa de moldar regras éticas gera incontáveis ​​cenários variados nos quais as aplicações dessas regras podem ser confusas. A natureza e o poder relativo dos atores em qualquer cenário também são importantes. Padrões e normas sociais evoluem e podem se tornar totalmente diferentes à medida que as culturas mudam. Poucas pessoas têm muita educação ou treinamento em ética. Além disso, bons e maus atores exploram brechas e áreas cinzentas onde as regras éticas não são nítidas, então soluções alternativas, patches ou outros remédios são frequentemente criados com níveis variados de sucesso.

Os especialistas que expressaram preocupações também invocaram preocupações de governança. Eles perguntaram: Quais sistemas éticos devem ser aplicados? Quem pode tomar essa decisão? Quem tem a responsabilidade de se preocupar com a implementação da IA ​​ética? Quem pode fazer cumprir os regimes éticos uma vez estabelecidos? Como?

Um grande número de entrevistados argumentou que a competição geopolítica e econômica são os principais impulsionadores dos desenvolvedores de IA, enquanto as preocupações morais ficam em segundo plano. Uma parcela desses especialistas disse que os criadores de ferramentas de IA trabalham em grupos que têm pouco ou nenhum incentivo para projetar sistemas que abordem questões éticas.

Alguns entrevistados observaram que, mesmo que requisitos éticos viáveis ​​pudessem ser estabelecidos, eles não poderiam ser aplicados ou governados porque a maior parte do design de IA é proprietário, oculto e complexo. Como os "resultados" prejudiciais da IA ​​podem ser diagnosticados e tratados se a base para as "decisões" da IA ​​não pode ser discernida? Alguns desses especialistas também observam que os sistemas e bancos de dados de IA existentes costumam ser usados ​​para criar novos aplicativos de IA. Isso significa que os preconceitos e os aspectos eticamente problemáticos dos sistemas atuais estão sendo projetados nos novos sistemas. Eles dizem que diagnosticar e resolver os problemas pré-existentes pode ser difícil, se não impossível, de alcançar.

Uma parte desses especialistas infundiu suas respostas com perguntas que equivalem a esta questão abrangente: como os padrões éticos podem ser definidos e aplicados para um universo global, intercultural, em constante evolução e expansão de diversos sistemas de caixa preta em que maus atores e desinformação prosperam?

Uma seleção dos comentários dos entrevistados sobre esse amplo tópico está organizada nas próximas 20 páginas sob os seguintes subtítulos: 1) Pode ser difícil concordar sobre o que constitui comportamento ético. 2) Os humanos são o problema: Ética de quem? Quem decide? Quem se importa? Quem obriga? 3) Como todas as ferramentas, a IA pode ser usada para o bem ou para o mal, o que torna a definição de padrões um desafio. 4) A própria evolução da IA ​​levanta questões e complicações.

Estevão Downes,oficial de pesquisa sênior para tecnologias digitais do Conselho Nacional de Pesquisa do Canadá, observou: "O problema com a aplicação de princípios éticos à inteligência artificial é que não há um acordo comum sobre o que são. Embora seja comum supor que haja algum tipo de unanimidade sobre princípios éticos, essa unanimidade raramente é mais ampla do que uma única cultura, profissão ou grupo social.Isso se manifesta na facilidade com que perpetuamos injustiça, injustiça e até mesmo violência e morte para outras pessoas. Nenhuma nação está imune.

"O problema com a aplicação de princípios éticos à inteligência artificial é que não há um acordo comum sobre o que eles são. Embora seja comum supor que haja algum tipo de unanimidade sobre os princípios éticos, essa unanimidade raramente é mais ampla do que uma única cultura, profissão ou grupo social”.

"Além disso, há o fato de que a inteligência artificial contemporânea não é baseada em princípios ou regras. A IA moderna é baseada na aplicação de funções matemáticas em grandes coleções de dados. Esse tipo de processamento não é facilmente moldado por princípios éticos; não há 'boas ' ou funções matemáticas 'más', e os vieses e preconceitos nos dados não são facilmente identificados nem evitados. Enquanto isso, a aplicação da IA ​​é subdeterminada pelo resultado; a mesma previsão, por exemplo, pode ser usada para fornecer suporte social e assistência a uma pessoa necessitada ou impedir que essa pessoa obtenha emprego, seguro ou serviços financeiros.