Universidades abordam aspectos éticos da tecnologia

Professores e pesquisadores atuam no meio acadêmico para atenuar os danos causados pelo chamado 'lado sombrio da tecnologia'

Natasha Singer, The New York Times
06 Março 2018 

PALO ALTO, Califórnia - A profissão da medicina tem uma ética: antes de qualquer coisa, não causar o mal. O Vale do Silício tem um ethos: inventar primeiro, pedir perdão depois.
Agora, na esteira de problemas como as notícias falsas, entre outros que afetam as empresas de tecnologia, as universidades que ajudaram a produzir alguns dos maiores tecnólogos do Vale do Silício estão correndo para introduzir na ciência da computação uma moralidade mais semelhante à da medicina.

Laura Norén, colaboradora da Universidade de Nova York, disse que um software pode ser corrigido com uma atualização, mas a "reputação de alguém" é mais difícil de recuperar. Foto: Sam Hodgson para The New York Times

Nesse semestre, a Universidade Harvard e o Massachusetts Institute of Technology (MIT) estão oferecendo conjuntamente um novo curso a respeito da ética e da regulamentação da inteligência artificial. A Universidade do Texas, em Austin, acaba de introduzir um curso chamado "Fundamentos éticos da ciência da computação", e a ideia é que a matéria se torne obrigatória para todos os formandos em computação.

Já na Universidade Stanford, em Palo Alto, coração acadêmico da indústria, três professores e um pesquisador estão desenvolvendo um curso de ética da ciência da computação para o ano que vem. A ideia é treinar a próxima geração de tecnólogos e legisladores para que levem em consideração as ramificações das inovações (como armas autônomas e carros que dispensam motorista) antes que tais produtos cheguem ao mercado.
"Trata-se de identificar questões que sabemos que os formandos daqui terão de enfrentar nos próximos dois, três, cinco ou 10 anos", disse Mehran Sahami, professor de ciência da computação em Stanford, que está participando do desenvolvimento do curso. Ele é renomado no campus por ter trazido Mark Zuckerberg para uma aula. “A tecnologia não é neutra", explicou o professor Sahami, que já trabalhou no Google como cientista de pesquisas. 
Os cursos estão surgindo num momento em que as grandes empresas de tecnologia apresentam dificuldades para lidar com os efeitos colaterais da mentalidade da indústria: as notícias falsas no Facebook, os seguidores falsos no Twitter, vídeos infantis inadequados no YouTube. São o equivalente a um desafio aberto a uma atitude comumente observada na tecnologia, que deixa a ética de lado como se fosse uma amarra desnecessária.
"O mínimo que precisamos fazer é ensinar às pessoas que há um lado sombrio na ideia segundo a qual devemos avançar rapidamente e quebrar as coisas no processo", disse Laura Norén, bolsista de pós-doutorado na Universidade de Nova York que está lecionando nesse semestre um novo curso de ética da ciência dos dados. "Um erro de software pode ser facilmente corrigido com uma atualização, mas o estrago feito na reputação de uma pessoa é mais difícil de reparar".
Um dos motivos pelos quais as universidades estão trazendo a ética na tecnologia para a pauta é a ascensão de poderosas ferramentas como o aprendizado de máquina: algoritmos de computador que aprendem tarefas sozinhos por meio da análise de uma imensa quantidade de dados. Como as ferramentas desse tipo têm o potencial de alterar a sociedade humana, as universidades estão se apressando para ajudar os estudantes a entender as possíveis consequências, disse Joi Ito, diretor do Laboratório de Mídia do MIT.
"Conforme vão surgindo coisas como os veículos autônomos, que trazem claramente o potencial de beneficiar as pessoas e também de prejudicá-las, acredito que estão todos correndo para definir um sistema ético", disse ele.
Karen Levy, professora de ciência da informação da Universidade Cornell, em Ithaca, Nova York, está ensinando os alunos a pensarem mais no lado ético das empresas de tecnologia.
"Muitas decisões de grande peso ético estão ligadas àquilo que uma empresa produz: os produtos que deseja desenvolver, as políticas adotadas em relação aos dados dos usuários", disse a professora Levy.
Já segundo Jeremy Weinstein, professor de ciência política de Stanford e um dos envolvidos no curso de ética, "as instituições que estão gerando a próxima geração de líderes no setor da tecnologia precisam embarcar nesse trem em conjunto".