A inteligência artificial precisa aprender com o mundo real

Não basta criar um computador inteligente, é preciso ensinar a ele as coisas certas.

Nos últimos três anos, vinte e poucos futuros cientistas da computação foram à Universidade de Stanford para aprender sobre inteligência artificial com algumas das mentes mais brilhantes da área. Os participantes, selecionados entre centenas de candidatos, fazem visitas às empresas de tecnologia da região, interagem com robôs sociais e hexacópteros e aprendem sobre a linguística computacional (o que as máquinas fazem quando as palavras têm vários significados, por assim dizer) e a importância do gerenciamento de tempo (que é enorme). Eles também jogam frisbee. Mas se você pensa que a IA é só um grupo de caras criando inimigos mais espertos para os games favoritos deles… não é por aí. Todos os participantes do programa Stanford Artificial Intelligence Laboratory’s Outreach Summer (Programa de verão para a promoção da inteligência artificial da Universidade de Stanford; SAILORS, na sigla em inglês) são meninas que acabaram de concluir o 9º ano e concentram seus estudos não em aprimorar o currículo, mas sim em melhorar a vida das pessoas. Elas querem saber como usar a IA para evitar colisões de aviões ou garantir que os médicos lavem as mãos antes de entrar na sala de cirurgia. "Nosso objetivo era reformular o ensino da IA para promover a diversidade e estimular a participação de alunos com diferentes históricos de vida", diz Fei-Fei Li, diretora do laboratório de IA de Stanford e fundadora do programa SAILORS. "Quando há diversidade entre os futuros tecnólogos, a prioridade deles é usar a tecnologia para o bem da humanidade".

Quando há diversidade entre os futuros tecnólogos, a prioridade deles é usar a tecnologia para o bem da humanidade.

—Fei-Fei Li, Google e Universidade de Stanford

Fei-Fei Li,

O SAILORS foi criado em 2015 por Li e pela então estudante Olga Russakovsky, que agora é professora assistente da Universidade de Princeton, para aumentar a igualdade de gênero no setor da tecnologia. É uma causa nobre e urgente. De acordo com uma pesquisa recente, o número de mulheres que estudam ciência da computação está caindo. No setor de IA, as mulheres ocupam menos de 20% dos cargos executivos. É uma área muito grande para tão poucas mulheres, especialmente tendo em vista que cada vez mais pessoas usam a IA para facilitar a vida. É com ela que os aplicativos de foto reconhecem o seu rosto, além da praia onde você tirou a foto. É com ela que seus dispositivos sabem o que você quer quando pergunta como será o tempo amanhã. Além disso, a IA tem usos menos conhecidos, como o diagnóstico de retinopatia diabética (que muitas vezes causa cegueira) ou o envio de drones às áreas mais remotas do mundo em missões de resgate.

Com a presença cada vez mais marcante da IA, maior também é a necessidade de igualdade de gênero, já que a própria natureza do aprendizado de máquina exige a diversidade. Um dos objetivos da IA é levar máquinas a fazer o que humanos fariam naturalmente: reconhecer falas, tomar decisões e saber a diferença entre uma feijoada e um caldinho de feijão. Para fazer isso, as máquinas precisam de grandes quantidades de informações (muitas vezes, milhões de palavras, conversas ou imagens) e as processam assim como todos nós absorvemos informações desde o nascimento. Basicamente, isso é o aprendizado de máquina. Quanto mais carros você mostrar para uma máquina, melhor ela os reconhecerá. Mas se esses conjuntos de dados forem limitados ou tendenciosos (por exemplo, se os pesquisadores não incluírem fotos de Brasílias) ou se as pessoas que trabalham com IA não perceberem ou não corrigirem esses limites ou preconceitos (talvez a equipe não saiba nada de carros populares brasileiros das décadas de 70/80), as máquinas e os resultados serão problemáticos. Isso já aconteceu. Uma vez, um software de reconhecimento de imagens determinou que pessoas asiáticas em fotografias estavam de olhos fechados, como se estivessem piscando.

Agora a questão não é mais só a transparência nos dados. Chegou a hora de mudar essas estatísticas para melhor.

—Tracy Chou, Projeto Include

Tracy Chou,

Como criar laboratórios e espaços de trabalho mais inclusivos? Diversas pessoas e projetos estão concentrados nesse desafio. Neste ano, Li, que também é cientista-chefe de IA e aprendizado de máquina no Google Cloud, e outras pessoas ajudaram a lançar o AI4ALL (em inglês). Essa organização nacional sem fins lucrativos tem o objetivo de promover a diversidade na IA e conta com especialistas em genômica, robótica e sustentabilidade como mentores. A organização se baseia no trabalho desenvolvido pelo programa SAILORS, mas também abrange as minorias raciais e os estudantes de baixa renda de todo o país por meio de parcerias com outras universidades além de Stanford, como Princeton, Berkeley e Carnegie Mellon. "Muitos colegas e líderes do setor nos disseram que o SAILORS é ótimo, mas fica restrito a Stanford e só atende algumas dezenas de estudantes por ano, principalmente da área da Baía de São Francisco", declarou Li. "Portanto, o AI4ALL promove a diversidade e inclusão, não só as questões de gênero".

Outras iniciativas semelhantes são o Code Next (em inglês), um projeto do Google na cidade de Oakland que incentiva estudantes latinos e negros a seguirem carreiras na área tecnológica; o DIY Girls (em inglês), um programa de educação e orientação em artes, ciência, tecnologia, engenharia e matemática para comunidades carentes de Los Angeles; e o Project Include (em inglês), que ajuda startups novas e em fase intermediária de desenvolvimento a contratar mais mulheres e pessoas de minorias raciais. Tracy Chou, que trabalhava no Pinterest, fundou o Project Include no ano passado com outras sete mulheres importantes no setor de tecnologia. Em 2013, Chou ficou célebre ao exigir que as empresas de tecnologia revelassem a verdade sobre o número de mulheres na folha de pagamento. O resultado deixou claro algo que todo o Vale do Silício já sabia. O mundo da tecnologia, desde as grandes corporações até as startups de garagem, é um território de homens brancos. Segundo Chou, o Project Include foi uma evolução lógica desse cenário. "Alguns anos se passaram depois desses relatórios e não aconteceu muita coisa, até que a conversa começou a mudar", diz ela. "Agora a questão não é mais só a transparência nos dados. Chegou a hora de mudar essas estatísticas para melhor."

Essa mudança inclui transformar a IA em uma área de atuação mais acessível para a população geral. A IA ainda tem uma força de trabalho relativamente pequena, e mesmo assim já existem robôs que cuidam de pessoas e assistentes pessoais que conseguem prever nossas necessidades. Nessa área, os seres humanos se encarregam dos dados e critérios, e as máquinas fazem o trabalho. Então, quanto maior e melhor for a participação humana, maiores e melhores serão os resultados.

Em vários aspectos, a democratização da IA já começou. Por exemplo, no Japão, um filho de agricultores usou a IA para separar a safra de pepinos da família de acordo com diversas características. Esse é o tipo de história preferido de Li, que se mudou da China para os EUA aos 16 anos sem saber quase nada sobre o novo país, muito menos sobre Nova Jersey, onde acabou por se instalar. Li passou por diversos empregos, como diarista, passeadora de cachorros e operadora de caixa de um restaurante chinês, até chegar na Universidade de Princeton e, mais tarde, na escola de pós-graduação da Caltech.

Como imigrante, mulher e representante de uma minoria racial, Li é uma exceção tripla em um mundo dominado por homens brancos. Isso poderia ser um obstáculo para outras pessoas, mas, para Li, é um estímulo. Ela passa a maior parte do tempo estudando a visão computacional, um componente do aprendizado de máquina que ela chama de "app matador da IA". A visão computacional analisa e identifica dados visuais. Um dia, isso poderá ajudar a criar próteses robóticas mais responsivas ou desvendar enigmas matemáticos, por exemplo. Porém, assim como em toda a IA, a chave dessa tecnologia é ensinar as máquinas a processar um universo de informações de vários lugares e perspectivas diferentes. Basicamente, essas máquinas precisam enxergar o mundo como um todo. Qualquer semelhança com Li não é mera coincidência.

Promover a diversidade entre as pessoas que criam esse mundo é essencial para os problemas técnicos e narrativos que a estrategista de conteúdo Diana Williams enfrenta todos os dias no ILMxLAB, o superlaboratório secreto da Lucasfilm, onde os desenvolvedores criam entretenimento imersivo e interativo com inspiração no vasto universo de Star Wars, como encontros com Darth Vader em realidade virtual, por exemplo. Williams é muito envolvida com organizações em prol da tecnologia, como a Black Girls Code (em inglês), e se lembra da escassez de mulheres de minorias raciais na sua faculdade nos anos 80. "Eu era sempre a única nas minhas turmas de matemática e administração", diz ela. "Com o tempo, isso causa desânimo e insegurança." Ela tem uma solução para aumentar o interesse das mulheres na tecnologia: "Temos que começar cedo e estimular a confiança delas para que, quando elas entrarem em uma sala e forem as únicas meninas, não desistam".

Temos que começar cedo e estimular a confiança delas para que, quando elas entrarem em uma sala e forem as únicas meninas, não desistam.

—Diana Williams, Lucasfilm

Diana Williams,

Maya Gupta, pesquisadora de aprendizado de máquina no Google, tem o trabalho de aperfeiçoar a IA em um aspecto diferente. Em Stanford, ela ajudou uma empresa norueguesa a detectar rachaduras em gasodutos submarinos. "O acesso aos dutos é limitado, então foi preciso usar informações parciais para fazer uma estimativa", ela declarou. Ensinar máquinas a fazer suposições baseadas em sutilezas não é novidade para Gupta. Um dia desses, quando você estiver no YouTube ouvindo "Desafinado" na voz de João Gilberto, e o site emendar com "Águas de Março" na famosa versão com Elis Regina para completar o clima de bossa nova, agradeça a Gupta. A equipe dela ajuda os computadores a ajustar essas recomendações. "O negócio é fazer uma previsão", ela diz, "para adivinhar o que está acontecendo com base em dados limitados".

Hoje, ela lidera uma equipe de pesquisa e desenvolvimento no Google com objetivos como aumentar a precisão do aprendizado de máquina. "Digamos que eu queira ter o mesmo desempenho ao identificar um sotaque de Boston e um sotaque do Texas, mas meu reconhecedor de fala seja um pouco melhor com o sotaque do Texas", diz ela. "Devo prejudicar as pessoas com sotaque do Texas e piorar o reconhecimento até deixá-lo igual ao de Boston só para ser justa? E se, no fim das contas, for mais difícil reconhecer a fala com sotaque de Boston e pronto?"

Gupta e sua equipe também buscam aprimorar sistemas para que eles sejam infinitamente mais transparentes do que seus criadores humanos. Com as máquinas, esperamos eliminar muitos dos preconceitos ou processos subconscientes que afetam o pensamento humano ou, pelo menos, reconhecê-los com mais facilidade quando eles aparecerem. As máquinas não perdem o foco quando estão cansadas, irritadas ou com fome. Um estudo mostrou que os juízes concedem menos pedidos de liberdade condicional no horário antes do almoço, quando estão pensando em sanduíches, não em argumentos legais. "É difícil determinar exatamente o que se passa na mente dos seres humanos", diz Gupta. "Queremos que nossos sistemas de aprendizado de máquina tenham uma lógica razoável e, francamente, muitos deles já são mais razoáveis que os humanos".

Queremos que nossos sistemas de aprendizado de máquina tenham uma lógica razoável e, francamente, muitos deles já são mais razoáveis que os humanos.

—Maya Gupta, Google

Maya Gupta,

A IA está cada vez mais útil e fácil de usar. Agora só falta deixá-la ao alcance de todos. Christine Robson era pesquisadora da IBM antes de vir para o Google. Ela é uma defensora apaixonada dos softwares de código aberto como o TensorFlow, um sistema de aprendizado de máquina que pode ser usado em várias tarefas. Ele pode ajudar na tradução de idiomas, no diagnóstico de doenças ou até mesmo na criação de obras de arte originais.

Para Robson, a inclusão na IA significa fazer com que as ferramentas sejam acessíveis para todos, não só para os nerds da matemática (como ela mesma se intitula). "Quero que o aprendizado de máquina esteja disponível para todo mundo", diz ela. "A democratização do aprendizado de máquina é o assunto do momento, mas eu acredito mesmo nisso. Facilitar o uso das ferramentas e fazer com que todos possam aplicar essas técnicas é essencial."

A literatura de ficção científica e os filmes do gênero exploram há tempos o terror dos acidentes de percurso da IA. O Frankenstein de Mary Shelley chegará ao bicentenário no ano que vem. Hoje em dia, porém, muitos profissionais do setor, incluindo Li, Robson e Chou, não se preocupam tanto com o que a IA pode fazer conosco, e sim com o que podemos fazer com ela. Por exemplo, os programadores dão vozes femininas aos assistentes virtuais porque tanto homens quanto mulheres preferem ouvir essas vozes. "Mas isso perpetua a ideia de que ser assistente é uma função feminina. Então, quando interagimos com esses sistemas, reforçamos esse preconceito", diz Chou. Muitas das melhores cabeças da área se preocupam com o que está sendo ensinado aos sistemas de IA da vida real e, por consequência, qual será o resultado disso. É aí que entra a promoção da diversidade na IA. Não é uma empreitada fácil. Mas os envolvidos são inteligentes, engenhosos e comprometidos com a causa.

Facilitar o uso das ferramentas de IA e fazer com que todos possam aplicar essas técnicas é essencial.

—Christine Robson, Google

Christine Robson,

"Temos que fazer com que todos se sintam em casa", diz Gupta. Ela lembra que, na parede com fotografias dos antigos professores de engenharia elétrica na sua faculdade, "não tinha ninguém parecido comigo". Robson acrescenta: "Temos que mostrar para as meninas que a IA não é mágica. É matemática".

No SAILORS, as alunas estão aprendendo a usar o processamento de linguagem natural para pesquisar em mídias sociais e ajudar na resposta a catástrofes. "Isso ajudaria os socorristas a encontrar pessoas precisando de ajuda em tempo real usando as mensagens delas no Twitter", diz Li. O efeito dessas aulas e projetos dura muito mais que o programa de verão. Algumas alunas criaram seus próprios clubes de robótica na escola, publicaram artigos em revistas científicas e promoveram oficinas em escolas de ensino fundamental com a meta de divulgar as maravilhas da IA para meninas ainda mais jovens. As alunas do programa têm históricos e vivências tão variados quanto os diversos projetos que criam durante o verão. Mesmo assim, todas elas concordam que a IA não é só mais uma tendência, e sim um mecanismo poderoso de mudança social. Antes da sua primeira edição, em 2015, o programa apresentou algumas mensagens dos futuros participantes. Entre elas, uma promessa ambiciosa: "Quero começar agora minha jornada com a IA para mudar o mundo no futuro".

Robert Ito é escritor e vive em Los Angeles. Ele é colaborador do New York Times e das revistas Salon e Los Angeles.

Ilustrações por MVM

Voltar ao início