Grandes perguntas e algumas respostas do AI100 de Stanford sobre IA
Estudo rumo aos 100 anos de Inteligência Artificial (IA), da Universidade de Stanford, levanta questões e discussões mais do que pertinentes sobre o assunto. Um documento para revisitar em alguns anos
Às vezes, para quem atua ou pretende atuar em Data Science, toda essa conversa sobre Inteligência Artificial (IA) pode até parecer interessante, mas distante e desconectada da realidade do dia a dia. Coisa de futurismo e ficção científica, não é?
No meio de tantas tendências, análises e apostas, tende a haver muito mais ruído do que informação, às vezes em tom otimista (principalmente, de quem lucra com o assunto), às vezes em tom catastrofista (sobretudo, de quem milita contra ou é afetado pela IA).
No meio de tanto joio, porém, há trigo — ou no meio de tanta palha, há agulhas afiadas —, como o relatório “Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100)”; em tradução livre, “Compilando forças, compilando tormentas: o estudo de cem anos sobre inteligência artificial (AI100)”.
O documento de 82 páginas, produzido pela Universidade de Stanford e publicado em setembro de 2021, é um apanhado muito completo e ao mesmo tempo crítico, maduro e sensato sobre diagnósticos (passado) e prognósticos (futuro) da IA, de um ponto de vista bastante “pé no chão”, casado com o que acontece atualmente no mundo.
O mais interessante são as questões que norteiam o estudo. Para quem gosta de pensar em hipóteses e formulação de problemas (uma necessidade em Data Science, IA, Engenharia e Tecnologia de modo geral), é quase uma aula de grandes e pertinentes perguntas.
São 14 perguntas ao todo, 12 de âmbito padrão do estudo e as duas últimas decorrentes de workshops, sobre discussões específicas. Neste artigo, faremos um resumo das 14 questões, tanto como forma de tornar o relatório mais acessível à comunidade Awari e interessados, quanto para analisá-lo de forma rápida.
As 14 perguntas são as seguintes (que abordaremos pelos seus tópicos centrais, destacados em negrito, ao longo do artigo):
Quais são alguns exemplos de imagens que refletem avanços importantes na IA e suas influências?
Quais são os avanços mais importantes na IA?
Quais são os problemas mais inspiradores dos grandes desafios em aberto?
Quanto progredimos na compreensão dos principais mistérios da inteligência humana?
Quais são as perspectivas de uma inteligência artificial mais geral?
Como o sentimento público sobre a I evoluiu e como devemos informar/educar o público?
Como os governos devem agir para garantir que a IA seja desenvolvida e usada com responsabilidade?
Quais devem ser os papéis da academia e da indústria, respectivamente, no desenvolvimento e implantação de tecnologias de IA e no estudo dos impactos da IA?
Quais são as oportunidades mais promissoras para a IA?
Quais são os perigos mais urgentes para a IA?
Como a IA impactou as relações socioeconômicas?
Será que “construir o que pensamos” funciona como estratégia de engenharia no longo prazo?
Como previsões baseadas em IA são feitas em contexto públicos de alto risco e quais considerações sociais, organizacionais e práticas os formuladores de políticas devem considerar em sua implementação e governança?
Quais são os desafios mais urgentes e as oportunidades significativas no uso de IA para fornecer cuidados físicos e emocionais a pessoas necessitadas?
Não há jeito. Além de ser uma área ampla e fascinante em que muitos sonham trabalhar, IA é um assunto filosófico por excelência. Vale tentar mantê-lo sempre por perto, mesmo que no dia a dia da Ciência de Dados pareça algo distante, futurista e um tanto fictício.
Afinal, data scientists, no mínimo que seja, além de serem afetados como cidadãos e profissionais pelos avanços da IA, têm responsabilidades maiores por estarem na linha de frente de quem contribui com a criação desta inteligência.
Vamos às grandes questões/tópicos do AI100.
1. Imagens
Diz o ditado que uma “imagem vale mais do que mil palavras”. O relatório tem 12 imagens, entre fotografias, capturas de tela e gráficos, que o ilustram.
Selecionamos três, duas delas geradas por GANs (Generative Adversarial Network), um modelo de deep learning em evidência atualmente:
2. Avanços mais importantes
Em tópicos rápidos e principais termos ou tecnologias relacionados:
Tecnologias profundas/ocultas: deep learning cada vez mais embarcado em nossos dispositivos e interfaces.
Processamento de linguagem: GPT-3.
Visão computacional e processamento de imagens: reconhecimento facial.
Jogos: AlphaZero, IA do Google que aprendeu a jogar sozinha.
Robótica: Cassie, Boston Dynamics e outros.
Mobilidade: carros autônomos enfrentando novos desafios.
Saúde: diagnóstico (principalmente exames), descoberta de medicamentos e pesquisa.
Finanças: scores de crédito e detecção de fraude.
Sistemas de recomendação: Spotify recomendando músicas a partir de IAs que analisam o áudio e os comparam ao gosto dos clientes.
3. Grandes desafios
De tempos em tempos, desde 1998, são formulados grandes desafios em IA. Muitos dos que foram propostos já estão superados, como a máquina vencer humanos no xadrez ou Go. Mesmo assim, as apostas dobram a cada ano.
“Talvez o desafio mais inspirador seja construir máquinas que possam cooperar e colaborar perfeitamente com humanos e que podem tomar decisões alinhadas com valores e preferências humanos. Este desafio não pode ser resolvido sem colaboração entre cientistas da computação, cientistas sociais e humanistas.”
Fora esta meta grandiosa e imprecisa acima, há outras mais imediatas e tangíveis:
Teste de Turing: proposto inicialmente de maneira simples e aprimorado com o tempo, o teste que pretende avaliar se uma máquina pode se passar por um humano em uma conversa/interação, continua em aberto. Apesar de avanços no processamento de linguagem natural, ainda há problemas, imprecisões, sem falar nos vieses (preconceitos) contidos na IA. Mesmo assim, na Europa, por exemplo, já se propõe regulamentar avisos de que humanos estão interagindo com máquinas, para evitar confusões.
RoboCup: montar um time de robôs para vencer a Copa do Mundo de Futebol até 2050. Essa é a proposta da RoboCup. Desde 2007, pesquisadores de 35 países trabalham na iniciativa e já houve até partidas disputadas pelas máquinas em campo aberto e contra humanos. Os resultados ainda são pífios, mas as esperanças (e o trabalho) continuam.
Olimpíada Internacional de Matemática: o desafio, aqui, é criar uma IA capaz de ganhar esta competição, dentro das regras das disputas entre humanos.
The AI Scientist: desenvolver IA que possa produzir, de forma autônoma, pesquisas científicas até 2050. Isso contando design e realização de experimentos e a comunicação de seus resultados e impactos.
Ainda, há três desafios amplos, mais conceituais e sem iniciativas específicas para resolvê-los:
Generalização: capacidade de a IA “generalizar ou transferir a aprendizagem de uma tarefa de treinamento para uma nova”.
Causalidade: o desafio de ensinar a IA a entender relações causais (causa e efeito), o que pode fazer uma IA “pensar” nas consequências de suas ações, por exemplo.
Normatividade: tem a ver com a IA adquirir pressupostos morais e éticos, assim como humanos facilmente os intuem e põem em prática. Tem a ver com a capacidade de a IA responder por seus atos e justificá-los perante as normas humanas.
4. Mistérios da inteligência humana
Durante boa parte da segunda metade do século XX, acreditamos que inteligência humana era não muito mais do que processamento de símbolos ou reconhecimento de padrões.
Se fosse assim, uma IA poderia rapidamente aprender lógica ou fazer cálculos matemáticos e estatísticos para se aproximar da forma como conhecemos e agimos.
Avanços em Ciência Cognitiva no século XXI mostraram que os “buracos” estão muito mais embaixo e, certamente, há mais dúvidas do que certezas se a IA poderá igualar essas capacidades no futuro próximo.
Onde a IA tem feito contribuições é na neurociência cognitiva. O aprendizado por reforço (reinforcement learning) tem oferecido subsídios (o estudo fala em “mina de ouro”) para se estudar mecanismos como recompensa e punição e para se entender a relação em nível celular com aprendizagem, tomada de decisão, motivação, previsão, controle motor, hábitos e vícios.
Entre várias questões que permanecem em aberto, uma das que nos intriga é a inteligência coletiva. Estamos descobrindo que inteligência não é algo independente em indivíduos, mas que existe — talvez só exista — em função do grupo social do qual fazemos parte. É mais ou menos como: “somos um pouco todos os outros juntos”.
A outra, o “estado da arte” (de longa data), é a questão da consciência. Como juntamos todas as capacidades (aprendizagem, decisão, controle motor) para perceber, conhecer e agir, inclusive a nós mesmos?
5. Perspectivas de uma IA geral
A conclusão nesse tópico é que sistemas autônomos ainda estão muito longe de imitar ou superar humanos. Ou seja, a sonhada e temida IA geral ainda não está em vias de ocorrer em breve.
Para chegar nesse patamar, uma IA deve ter:
capacidade de aprender em um ambiente autossupervisionado ou forma automotivada;
capacidade para aprender de forma contínua e resolver problemas em muitos domínios diferentes;
capacidade de generalizar entre tarefas, ou seja, adaptar conhecimentos e habilidades de uma tarefa aprendida para uma nova tarefa, com pouco ou nenhum treinamento adicional.
No entanto, se uma IA ainda não atingiu todos esses pontos, houve avanços recentes em direção a eles.
O aprendizado autossupervisionado com arquitetura de transformers tem reduzido a necessidade de treinamentos em grandes conjuntos de dados. Também são mais facilmente aplicáveis a domínios diferentes.
Avanços em métodos de meta-aprendizagem (“aprender a aprender” ou, em IA, métodos de machine learning para melhorar seu próprio aprendizado) tem permitido atuação multitarefa e contínua.
Aprendizagem por reforço (reinforcement learning), por sua vez, tem contribuído com a noção de recompensas e punições, o que vai ao encontro da questão da automotivação de uma IA em realizar tarefas.
A questão do bom senso, outra longa busca em IA, requer mais estudos e avanços. O campo envolve o chamado “conhecimento do mundo” (conhecimento amplo, implícito, intuitivo), capacidade de fazer relações causais, de preencher lacunas de conhecimento, de fazer analogias, entre outros.
6. Sentimento público e informar/educar o público
Saímos do medo dos robôs dominadores e exterminadores e estamos mais conscientes sobre impactos sociais e econômicos mais tangíveis da IA, especialmente discriminação, vigilância e privacidade e desinformação.
Esse é o sentimento público em relação à IA nos anos recentes. A busca geral é por “IA confiável”, em resumo.
Embora a mídia ainda exacerbe riscos distantes e extremos da IA, como se fosse magia ou algo superpoderoso, tem aumentado a cobertura noticiosa relacionada à IA mais presente e realista.
A pandemia ajudou a destacar não apenas aspectos negativos, mas também contribuições da IA à saúde e no monitoramento do distanciamento social.
A ideia de “determinismo tecnológico” que a IA coloca (como se seremos dominados por máquinas, e não por humanos e sistemas humanos que controlam essas máquinas) é uma que ainda está em alta, alimentada por questões envolvendo segurança nacional de países como EUA, China e Reino Unido.
Uma recomendação é que os pesquisadores e desenvolvedores de IA compareçam mais ao debate público, assim como fizeram os cientistas do clima com o aquecimento global.
Essa participação de especialistas se comunicando com o público pode ajudar a desmistificar os perigos e benefícios da IA e a educar sobre questões mais urgentes que a cercam, como os interesses envolvidos, limitações técnicas e o que é realidade ou fantasia.
7. Governos e responsabilidade
O relatório mostra um cenário de avanços, mesmo que não pareça. Desde a última edição do estudo, há cinco anos, “mais de 60 países se envolveram em iniciativas nacionais de IA” e vários esforços multilaterais ocorreram para facilitar a cooperação internacional no assunto.
A Europa é a região que mais tem avançado em leis, políticas e regulação, a começar pelo GDPR, o regulamento para proteção de dados, além de regulamentos para sistemas de decisões automatizadas.
Quebras de monopólios e supervisão de redes sociais são assuntos em discussão nos EUA, em âmbito governamental.
Mesmo assim, segundo o estudo, governos devem investir, em especial, na educação de novas gerações para lidar com os benefícios e consequências da IA.
No campo da cooperação internacional, a preocupação é com iniciativas isoladas de vigilância e segurança, em especial as polêmicas da China em relação a IA e direitos humanos.
Observa-se, também, um avanço na tentativa de definição de princípios da IA (pelos menos 117 documentos relacionados foram publicados de 2015 a 2020).
Uma necessidade para o futuro é de uma regulação mais dinâmica, que envolva e permita experimentos e testes com a IA.
Isso permitiria avançar além da briga “regulação vs. livre iniciativa”. Uma regulamentação dinâmica, como se viu com os impactos da covid-19 em vários setores, pode facilitar inovações, ao mesmo tempo em que permite monitoramento, controle e transparência das IAs.
8. Academia e da indústria
O cenário, aqui, é de uma migração de talentos da academia para a indústria. Paralelamente, também há crescimento de empresas privadas realizando mais pesquisas em IA, em comparação das universidades.
Estudos mostram que determinados avanços da IA, como o próprio GPT-3, por exemplo, só foram possíveis por causa do alto poder computacional e dados de posse de empresas. Universidades jamais teriam como realizar tais façanhas.
Ao mesmo tempo em que essa predominância das indústrias privadas ocorre, também se observa uma corrida de universidades e estudantes para transformar suas pesquisas em produtos comercializáveis.
Dada essas mudanças, o ensino em IA também está se reconfigurando. Uma necessidade para manter a formação de novos profissionais e pesquisadores, segundo o relatório, é incentivar as próprias empresas a formar novos especialistas na área.
Todo esse cenário obviamente coloca debates importantes sobre ética, segredo industrial/comercial, poder econômico etc.
Um ponto a ser considerado é como indivíduos e comunidades receberão novas soluções, baseadas em IA, sabendo que tanto a parte científica, de pesquisa, como seu desenvolvimento, estão atrelados aos interesses comerciais de uma empresa.
9. Oportunidades mais promissoras
Tópico importante para quem desenvolve ou desenvolverá aplicações de IA generalistas para outras empresas, por exemplo.
As tendências não têm nada de tão mirabolante e já estão tomando forma de várias maneiras.
IA para aumento
Soluções automatizadas para aumentar as capacidades humanas, seja em ambientes de trabalho (principalmente), educacionais, sociais, entre outros. A ideia é que homens e máquinas possam colaborar e realizar mais juntos.
Nesse âmbito, três tendências se destacam:
Descobertas: IA pode vasculhar muitos dados, como em química ou biologia, para revelar possibilidades de novos medicamentos ou tratamentos, o que seria muito custoso ou inviável a humanos.
Tomada de decisões: IA pode ajudar médicos a fornecer diagnósticos mais precisos ou gestores de negócios a prever mudanças de cenários futuros. Também pode auxiliar pessoas em pequenas decisões em seu âmbito pessoal ou profissional.
Assistência: IA pode se tornar um assistente de humanos. Pense no Github Copilot, que já comentamos em um dos nossos artigos, auxiliando programadores na construção de código, por exemplo. Ou pense na IA ajudando cegos a lerem placas de sinalização.
IA autônoma
Sistemas autônomos capazes de desempenhar tarefas específicas sem supervisão ou comando de humanos. Aspiradores-robô já fazem um pouco disso, é claro.
Mas as esperanças concretas para os próximos anos estão em trabalhos perigosos, onde é arriscada a atuação humana, como inspeções de instalações industriais, mergulho, situações que envolvem explosivos, entre várias outras.
10. Perigos mais urgentes
Nada de Exterminador do Futuro ou Singularidade Tecnológica por aqui. A questão mapeia ameaças que estão batendo à porta:
Tecnossolucionismo: achar (ou sermos levados a acreditar) que a IA é uma panaceia (solução para tudo) e não apenas uma ferramenta. Isso pode nos impedir de enxergar que, na verdade, a IA é parte de sistemas de poder construídos por humanos, com suas particularidades.
Justiça estatística: usar decisões automatizadas para julgar e condenar pessoas por crimes que cometeram ou, pior, adotar soluções preditivas para prever os crimes que elas poderão cometer. Como sabemos que os dados carregam toda nossa história, com seus preconceitos e problemas, é nítida a preocupação de que isso se dissemine nesses sistemas automatizados de justiça.
Desinformação e ameaça à democracia: deep fakes, distribuição e impulsionamento massivo de mentiras e informações distorcidas, entre outros, são perigos da IA nesse campo. No extremo, isso pode provocar sérios problemas de perda de confiança e ruptura na sociedade.
Discriminação e risco no ambiente médico: similar à justiça automatizada, soluções de IA na saúde podem levar a riscos desconhecidos a pacientes e à limitação de acesso de pessoas, principalmente pobres, a determinados serviços, por causa de decisões automatizadas baseadas em seus dados.
11. Relações socioeconômicas
Primeira constatação do estudo: apesar das preocupações e pregações catastrofistas, os impactos da IA no trabalho e na economia foram “prematuros”.
Não vimos, nesses últimos dez anos que a IA cresceu exponencialmente, multidões desempregadas e desassistidas por causa da IA. Isso ainda acontece muito mais por problemas tradicionais, como política, desastres, guerras e medidas econômicas, do que por causa da tecnologia.
O estudo faz ainda alguns outros diagnósticos nos seguintes pontos:
IA e desigualdade social: até agora, IA desempenhou um papel muito pequeno nessa questão.
Impactos localizados: a tendência é que algumas categorias profissionais e alguns setores da sociedade sofram mais do que outros os impactos da IA.
“Como dividir a torta”: pode ocorrer de a IA não ter nenhum impacto no crescimento e na produtividade, mas alterar assimetricamente o trabalho e a economia.
Poder de mercado: apesar da preocupação de que o acesso monopolístico a dados aumentaria desproporcionalmente o poder de mercado, até o momento os dados são apenas um fator a mais, entre outros, de poder econômico.
12. Estratégia de engenharia
Esse tópico contém um debate interessante em torno da questão “natureza/genética vs. cultura/criação” (comportamento são herdados ou aprendidos?), que impactam várias ciências sociais.
Do ponto de vista de IA, o estudo pergunta:
“Devemos atacar novos desafios aplicando métodos de resolução de problemas de propósito geral, ou é melhor escrever algoritmos especializados, projetados por especialistas, para cada problema particular?
Grosso modo, são melhores as soluções específicas de IA projetadas com antecedência por pessoas (natureza) ou aquelas em que a máquina aprende a partir dos dados (criação)?”
O amadurecimento no uso de deep learning — principalmente a experiência de que eles são bastante sensíveis a falhas — parece estar nos levando, de algum modo, às soluções especializadas e não às de propósito geral.
Além disso, o tópico lembra sobre os possíveis limites computacionais que estamos atingindo e o próprio limite de tamanho dos modelos (GPT-3, vale lembrar, opera com 175 bilhões de parâmetros), além, é claro, da limitação dos dados disponíveis para treinamento, principalmente em áreas críticas como saúde, por exemplo.
Como produziremos e melhoraremos IA diante dessas limitações?
Pode ser, sugere o estudo, que até vejamos um arrefecimento do hype do aprendizado de máquina, com o tempo, se esses limites se tornarem críticos.
Um último ponto é sobre esperanças para as próximas décadas em torno da área emergente chamada “neurossimbólica”, que une abordagens clássicas da IA simbólica (que dominou o cenário nos primórdios da IA, nos anos 1950 a 1980) com as abordagens neurais orientadas por dados (deep learning, hoje predominante).
13. Previsões baseadas em IA
O ponto central deste tópico é como sistemas preditivos poderão ser melhorados para uso em problemas públicos complexos, como justiça criminal, saúde, segurança e serviços sociais.
O estudo prevê que a questão requer mais qualidade na formulação dos problemas nessas áreas e o que chama de “integração, não implantação”.
Quanto à formulação dos problemas, certamente eles terão de ser discutidos em sociedade e não depender apenas de mentes de negócios ou cabeças técnicas.
Os problemas, por sua vez, provavelmente deverão ser formulados para as situações e circunstâncias específicas em que irão atuar e não de forma generalista, já que políticas, cultura, costumes e outras características podem diferir mesmo dentro de um país ou de uma cidade.
Quanto à “integração, não implantação”, a mensagem é que IA nesses domínios deve ser adaptativa, acompanhada e aprimorada constantemente. Não são soluções que alguém implanta e vai embora.
A covid-19, segundo o estudo, é um dos maiores exemplos dessa necessidade. Do dia para a noite, sistemas preditivos em que confiávamos para prever tráfego nas estradas, monitoramento climático, finanças e, principalmente indicadores de saúde, sofreram grandes distorções e necessitaram de adaptações ao novo contexto.
14. IA para cuidados físicos e emocionais
Cuidadores humanos serão auxiliados por sistemas autônomos no cuidado com outras pessoas?
Ou não, cuidadores humanos não poderão ser substituídos por sistemas autônomos?
Ou, ainda, dado que haverá mais pessoas idosas e necessitando de cuidados do que cuidadores disponíveis em breve, teremos de pensar em soluções 100% autônomas?
Mais: como designers e engenheiros irão projetar sistemas que tocam em pontos extremamente sensíveis e particulares do relacionamento humano: carinho, acolhimento, atenção?
Também: dispositivos para monitorar a saúde de idosos e pessoas necessitadas não são instrumentos de violação de privacidade e controle?
Essas são várias questões que o estudo discute quanto ao tópico.
Há mais perguntas do que respostas até o momento. O tempo, a prática, os erros e acertos é que indicarão quais modelos devem prevalecer.
Uma posição que o estudo defende, no entanto, é que o cuidado não pode ser pensado de uma perspectiva puramente mercadológica. Terá de envolver valores sociais, isto é, envolver comunidades, governos, reguladores, empresas.
Isso porque todas as pessoas, independentemente de classe social, poder aquisitivo ou outras características, provavelmente acabarão tendo de receber algum tipo de cuidado.
É nesse ponto que entram a capacidade de engenheiros e designers de entender a fundo esse rico e desafiante universo, a fim de propor soluções ao mesmo.
Considerações
Este é um resumo bastante condensado e com algumas interpretações do relatório “Gathering Strength, Gathering Storms”.
As 82 páginas do documento fornecem muitos exemplos de avanços e dados, além de discussões sobre benefícios e pontos problemáticos da IA.
A última edição do AI100 é de setembro de 2016, cinco anos atrás. Portanto, vai levar mais alguns anos para termos uma nova edição com os avanços e implicações que vivenciarmos até lá.
Vale a pena guardar diagnósticos e prognósticos assim para acompanhar a evolução da área e ver onde as previsões erram feio ou nos supreendem.
Um diferencial do relatório é seu caráter mais realista e “pé no chão”, como dito, sem cair em futurismos e ficção científica das possibilidades de IA a longo prazo.
Como se vê, a curto prazo, temos um bocado de questões em que pensar, com que nos preocupar e também para admirarmos.
Quem sabe até 2050 — quando a IA como campo completa, oficialmente, 100 anos — não estaremos torcendo ou pelo menos vendo times de robôs, talvez ainda “pernas de ferro” (em alusão a “pernas de pau”), fazendo as primeiras aparições na Copa do Mundo?
Artigo escrito por Rogério Kreidlow, jornalista, que gosta de observar a tecnologia em relação a temas amplos, como política, economia, história e filosofia.
AVISO! A Awari está preparando algumas novidades. Por isso, nas próximas três semanas, não publicaremos novos artigos aqui na Newsletter. Mas, quem sabe, aparecemos com algo mais breve e interativo no período.... Voltaremos com tudo em 12 de novembro! Até lá, aproveite para revisitar ou, se ainda não leu, para ler nossos artigos anteriores. Bons insights!