Especialista em IA, Marietje Schaake: 'A maneira como pensamos sobre a tecnologia é moldada pelas próprias empresas de tecnologia' | Inteligência synthetic (IA)

Marietje Schaake é uma ex-membro holandesa do parlamento europeu. Ela agora é diretora de política internacional no Centro de Política Cibernética da Universidade de Stanford e pesquisadora de política internacional no Centro de Políticas Cibernéticas de Stanford. Instituto de Inteligência Artificial Centrada no Ser Humano. Seu novo livro é intitulado O golpe tecnológico: como salvar a democracia do Vale do Silício.

Em termos de poder e influência política, quais são as principais diferenças entre as grandes tecnologias e as encarnações anteriores das grandes empresas?
A diferença é o papel que estas empresas tecnológicas desempenham em tantos aspectos da vida das pessoas: no estado, na economia, na geopolítica. Assim, embora os monopolistas anteriores acumulassem muito capital e posições significativas, geralmente estavam num sector, como o petróleo ou a produção de automóveis. Estas empresas de tecnologia são como polvos com tentáculos em muitas direções diferentes. Têm tantos dados, dados de localização, pesquisa, comunicações, infraestrutura crítica, e agora a IA pode ser construída com base em todo esse poder reunido, o que torna estas empresas animais muito diferentes do que vimos no passado.

Peter Kyle, secretário de tecnologia do Reino Unidosugeriu recentementeed que os governos precisam mostrar uma “senso de humildade” com grandes empresas de tecnologia e tratá-los mais como estados-nação. O que você acha disso?
Penso que é um mal-entendido desconcertante o papel de um líder democraticamente eleito e responsável. Sim, estas empresas tornaram-se incrivelmente poderosas e, como tal, compreendo a comparação com o papel dos Estados, porque cada vez mais estas empresas tomam decisões que costumavam ser do domínio exclusivo do Estado. Mas a resposta, especialmente de um governo que está progressivamente inclinado, deveria ser reforçar a primazia da governação e da supervisão democráticas, e não mostrar humildade. O que é necessário é autoconfiança por parte do governo democrático para garantir que estas empresas, estes serviços, estão a desempenhar o seu papel adequado num sistema baseado no Estado de direito e não o estão a ultrapassar.

Qual você acha que será o impacto da presidência de Donald Trump?
A eleição de Donald Trump muda tudo porque ele aproximou interesses tecnológicos específicos do que qualquer líder político alguma vez o fez, especialmente nos Estados Unidos, que é este poderoso centro geopolítico e tecnológico. Há muito dinheiro criptografado apoiando Trump. Há muitos VCs (capitalistas de risco) apoiando-o e, claro, ele elevou Elon Musk e anunciou uma agenda desregulamentadora. Cada passo dado pela sua administração será informado por estes factores, sejam os interesses pessoais de Elon Musk e das suas empresas, ou as preferências pessoais do presidente e dos seus apoiantes. Por outro lado, Musk critica algumas dinâmicas em torno da IA, nomeadamente o risco existencial. Teremos que ver quanto tempo durará a lua de mel entre ele e Trump e também como outras grandes empresas de tecnologia responderão. Porque eles não ficarão felizes com o fato de Musk decidir sobre a política tecnológica em detrimento de seus concorrentes. Estou pensando em tempos difíceis pela frente.

Por que os políticos têm sido tão brandos diante da revolução tecnológica digital?
As empresas mais poderosas que vemos agora estavam todas enraizadas neste tipo de contracultura progressista e libertária na Califórnia, aquela narrativa romântica de um casal de caras de shorts em um porão ou garagem, codificando e desafiando as grandes potências constituídas: os editores das empresas de comunicação social, as sucursais dos hotéis, as empresas de táxi, os serviços financeiros, todos eles com uma reputação muito má, para começar. E certamente havia espaço para perturbações, mas esse tipo de mentalidade de oprimido period incrivelmente poderoso. As empresas fizeram um trabalho muito inteligente ao enquadrar o que estão a fazer como descentralizador, como a própria Web. Empresas como Google e Facebook têm argumentado consistentemente que qualquer medida regulatória prejudicaria a Web. Portanto, é uma combinação entre querer acreditar na promessa e não apreciar como os interesses corporativos muito restritos venceram às custas do interesse público.

Você vê algum político importante preparado para enfrentar os grandes interesses tecnológicos?
Bem, alguém como (senador dos EUA) Elizabeth Warren tem a visão mais clara sobre o poder excessivo e o abuso de poder por parte das corporações, incluindo o setor de tecnologia. Ela tem sido consistente em tentar resolver isso. Mas, de um modo geral, receio que os líderes políticos não estejam realmente a encarar isto como deveriam. Na Comissão Europeia, não estou realmente a ver uma visão. Já vi eleições, inclusive no meu próprio país, onde a tecnologia nem sequer figurava como tema. E vemos esses comentários do governo do Reino Unido, embora se possa supor que as barreiras democráticas em torno de empresas excessivamente poderosas sejam óbvias.

Os políticos foram impedidos pela sua ignorância tecnológica?
Sim, acho que eles estão intimidados. Mas também penso que o enquadramento contra a agência dos governos é deliberado por parte das empresas de tecnologia. É importante compreender que a forma como somos ensinados a pensar sobre a tecnologia é moldada pelas próprias empresas tecnológicas. E assim temos toda a narrativa de que os governos estão basicamente desqualificados para lidar com tecnologia porque são demasiado estúpidos, demasiado desactualizados e demasiado pobres na prestação de serviços. A mensagem é que, se eles não conseguem nem processar os impostos a tempo, o que você acha que farão com a IA? É uma caricatura do governo, e o governo não deveria adotar essa caricatura.

Você acha que a posição do Reino Unido em relação às grandes tecnologias foi enfraquecida como resultado de sua saída da UE?
Sim e não. A Austrália e o Canadá desenvolveram políticas tecnológicas e são em menor número do que a população do Reino Unido. Não sei se é isso. Acho que na verdade é muito mais uma escolha deliberada querer atrair investimentos. Então talvez seja apenas o interesse próprio que transcende os governos conservadores e trabalhistas, porque não vejo muitas mudanças na política tecnológica, embora eu tivesse previsto mudanças. Eu estava obviamente excessivamente otimista nisso.

Você fala sobre recuperar a soberania. Você acha que a maioria das pessoas reconhecese alguma soberania foi perdida?
Uma das razões pelas quais escrevi este livro é para alcançar os leitores médios de notícias, e não os especialistas em tecnologia. Explicar que este é um problema que preocupa as pessoas é uma tarefa enorme. Estou curioso para ver como o impacto do governo Trump irá suscitar respostas dos líderes europeus, mas também de outros ao redor do mundo que vão simplesmente pensar que não podemos permitir-nos esta dependência das empresas tecnológicas dos EUA. É indesejável. Porque, essencialmente, estamos a enviar os nossos euros ou libras para Silicon Valley, e o que recebemos em troca? Mais dependência. Vai ser incrivelmente desafiador, mas não fazer nada certamente não vai melhorar.