"Estamos numa encruzilhada". É a partir daqui que Chelsea Manning segue caminho na conversa com a SIC. E é na Inteligência Artificial (IA) que está o ponto de partida, este que é assunto que há mais de um ano escalou vários degraus na pirâmide da atualidade.
"Não está ainda claramente definido o que queremos dizer, quando falamos de IA", refere a consultora de segurança, ao serviço da Nym Technologies, empresa focada na privacidade digital, para entrar depois nos algoritmos e nos modelos treinados para desempenharem determinadas funções. Sublinhar, em tudo isto, a importância da ética, os desafios e os riscos.
A cerca de um mês de completar 36 anos de vida, recorda o que fica para trás, quando Chelsea enterrou Bradley, o militar norte-americano que entregou à Wikileaks mais de 700 mil documentos confidenciais, sobre as operações no Iraque e no Afeganistão. Bradley deixou de existir, sem que se apague o que nas paredes da memória.
"Não costumo pensar muito no passado. Penso no que está, imediatamente, à minha frente", diz Chelsea Manning.
À hora marcada, numa das salas mais reservadas e confortáveis da Web Summit, para curtas conversas com os jornalista, a SIC recebe Chelsea Manning. Tem andado pela Europa, entre Alemanha e Países Baixos.
Em Portugal, neste dias que atravessam a cimeira tecnológica, deixa Lisboa e fica na margem sul do tejo. É por lá que quis ficar a conhecer melhor os portugueses. Não sendo a primeira vez que passa por cá, é a estreia neste enorme palco do mundo digital. E foram quatro, os palcos, por onde passou. Coube-lhe a missão de encerrar a edição deste ano, numa intervenção, quase toda ela, dedicada à Inteligência Artificial.
É mulher, transgénero, ativista e também tudo o que foi
Apresenta-se como consultora de segurança. Trabalha para uma empresa com sede na Suíça, a Nym, focada, precisamente, em questões de segurança e privacidade. É mulher, é transgénero, é ativista e é também tudo o que foi. A soma de todas as vidas na vida de Chelsea traduz-se numa pessoa reservada, de discurso cuidado e inteligente, focada no que o presente nos mostra e atenta ao que o futuro nos pode reservar.
Foi militar e analista ao serviço do exército norte-americano; foi denunciante, ao entregar à Wikileaks milhares e milhares de documentos com o carimbo de classificados; esteve sete anos detida, depois de ter sido condenada a 35 anos de prisão; mudou de sexo e é agora Chelsea Elizabeth Manning.
Recorda, nesta conversa com a SIC, o início da década passada, quando rebentou o escândalo da Wikileaks e foi presa. Entre 2010 e 2013, diz, a discussão andava em redor da transparência e do que devia ser mantido em segredo.
"O que temos visto é que estamos na era da transparência radical. A informação circula de forma muito mais acessível", realça Manning, quando a pergunta passa pelo que mudou depois de ter passado toda a documentação para as mãos de Julian Assange.
Sublinha o desafio agora, de se avaliar a veracidade, a própria qualidade, da informação que circular. Sobre se do passado ficam arrependimentos, contorna a pergunta e escolhe as palavras adequadas para a resposta que entender ser a mais acertada: "Estou muito focada no que consigo controlar. Sou otimista, tendo a ser otimista, mas estou preocupado com o estado do mundo, e como as coisas estão a evoluir. E quero enfrentar os desafios que estão à minha frente."
Diz ter como prioridade a segurança, nesta era da IA.
IA, na verdade, já por cá anda há algum tempo
"Os algoritmos e os modelos que são treinados para fazer algo, como modelos de linguagem, ou reconhecimento de imagem, fazer estas tarefas particulares, como condução automática, são novas ferramentas que estamos apenas agora a aprofundar as consequências. E quando se chega à segurança, o meu foco principal é a privacidade das pessoas", refere.
Sublinha o peso e a importância dos dados, recolhidos a partir de testos e imagens. Passa tudo isto por mecanismos como a aprendizagem não estruturada e por métodos como a aprendizagem não supervisionada.
"É basicamente um método que passa por treinar um modelo, mas sem a intervenção humana. Temos de ter cuidado com o tipo de informaçao que colocamos. E infelizmente, alguns danos já foi feitos", defende.
Questiona se quem anda no mundo digital sabe por onde anda e os dados que deixa. Entram no campo da IA e acabam por alimentar máquinas a quem o Ser Humano ensina tarefas, a partir de uma gigante amálgama de algoritmos. É a partir daqui que nascem os modelos de linguagem, como o famoso ChatGPT ou os assistentes virtuais.
A IA, na verdade, já por cá anda há algum tempo. Tem vindo, isso sim, a desenvolver-se e a expandir-se a um enorme ritmo. Está presente na otimização de uma pesquisa, das redes sociais, num programa de navegação, ao serviço de áreas tão distintas como a saúde, a educação, a indústria ou a agricultura. Tem passado de uma simples máquina que executa tarefas definidas pelo homem, para algo muito acima disso. Fala-se em machine learning, ou em inteligência generativa à medida que a máquina avança para se comportar, cada vez mais, como um ser humano.
É o Homem que alimenta a máquina e anda a máquina a a trilhar caminho para se tornar independente do Homem. Em tudo isto, tal como em tudo, há riscos e desafios. Entre eles, os enviesamentos. Os algoritmos podem muitas vezes ser discriminatórios, e isto porque são produzidos a partir de dados humanos e desenhados, precisamente, por humanos.
"Mesmo em modelos mais pequenos, estávamos a usá-los para tomadas de decisões, para a atribuição de risco de crédito, para determinar quem recebe um empréstimo ou que fica em liberdade condicional no sistema criminal, quem é contratado e quem é despedido. Todas estas determinações algorítmicas, penso, não deviam ser utilizadas. Deviam ser feitas por humano e estão muitas veze são feitas de forma particular com impacto nas pessoas," refere.
E há depois o perigo da desinformação. Ainda que Chelsea Manning considere que no caso da IA é algo exagerado.
"Mas penso que existe um risco no facto de que a possibilidade existe. E acho que o mais interessante, a partir do que tenho visto, é a ideia de que algo pode ser deep fake, pode pegar em algo que é real e criar a dúvida sobre a sua autenticidade. As pessoas começam a duvidar da informação. Esse é um perigo maior, mais imediato, com a capacidade da Inteligência Artificial Generativa de gerar estas declarações convicentes, vídeos, imagens."
Já depois da entrevista à SIC, no palco principal da Web Summit, Chelsea Manning defendeu a criptografia, uma fechadura na porta, para garantir a veracidade dos dados e a privacidade de quem anda no mundo online.