A IA percepciona e dá sentido ao mundo da mesma forma que os humanos?
A inteligência artificial (IA) está a tornar-se cada vez mais importante e já está presente em muitos aspectos da nossa vida quotidiana - mas será que a IA percebe e pensa no mundo da mesma forma que nós, humanos? Para responder a esta pergunta, os investigadores do Max Planck e membros da Justus-Liebig-Universität Gießen Florian Mahner, Lukas Muttenthaler e Martin Hebart investigaram se a IA reconhece objectos de forma semelhante aos humanos e publicaram os seus resultados na revista Nature Machine Intelligence. Desenvolveram uma nova abordagem que permite identificar e comparar claramente as principais dimensões a que os humanos e a IA prestam atenção quando vêem objectos.
Estas dimensões representam várias propriedades dos objectos, desde aspectos puramente visuais, como "redondo" ou "branco", até propriedades mais semânticas, como "relacionado com animais" ou "relacionado com fogo", sendo que muitas dimensões contêm elementos visuais e semânticos", explica Florian Mahner, primeiro autor do estudo. "Os nossos resultados revelaram uma diferença importante: Enquanto os humanos se concentram principalmente em dimensões relacionadas com o significado - o que é um objeto e o que sabemos sobre ele - os modelos de IA dependem mais das dimensões que captam as propriedades visuais, como a forma ou a cor do objeto. Chamamos a este fenómeno "preconceito visual" na IA. Mesmo quando a IA parece reconhecer objectos tal como os humanos, utiliza frequentemente estratégias fundamentalmente diferentes. Esta diferença é importante porque significa que os sistemas de IA, apesar de se comportarem de forma semelhante aos humanos, podem pensar e tomar decisões de formas totalmente diferentes, afectando o grau de confiança que podemos ter neles".
No que diz respeito ao comportamento humano, os cientistas utilizaram cerca de 5 milhões de juízos de valor disponíveis publicamente sobre 1 854 imagens de objectos diferentes. Por exemplo, a um participante era mostrada a imagem de uma guitarra, um elefante e uma cadeira e era-lhe perguntado qual o objeto que não correspondia. Os cientistas trataram então várias redes neuronais profundas (DNN) que podem reconhecer imagens análogas às dos participantes humanos e recolheram juízos de semelhança para imagens dos mesmos objectos utilizados para os humanos. De seguida, aplicaram o mesmo algoritmo para identificar as caraterísticas-chave destas imagens - designadas pelos cientistas por "dimensões" - que estão na base das decisões de não correspondência. Ao tratar a rede neuronal de forma análoga à dos seres humanos, assegurou-se a comparabilidade direta entre os dois. "Quando olhámos pela primeira vez para as dimensões que descobrimos nas redes neuronais profundas, pensámos que eram de facto muito semelhantes às encontradas nos seres humanos", explica Martin Hebart, último autor do artigo. "Mas quando começámos a olhar mais de perto e as comparámos com os humanos, notámos diferenças importantes."
Para além do enviesamento visual identificado pelos cientistas, estes utilizaram técnicas de interpretabilidade comuns na análise de redes neuronais para avaliar se as dimensões que encontraram faziam realmente sentido. Por exemplo, uma dimensão pode apresentar muitos animais e ser designada por "relacionada com animais". Para verificar se a dimensão correspondia efetivamente a animais, os cientistas efectuaram vários testes: Verificaram que partes das imagens eram utilizadas pela rede neural, geraram novas imagens que melhor correspondiam às dimensões individuais e até manipularam as imagens para remover determinadas dimensões. "Todos estes testes rigorosos indicaram dimensões muito interpretáveis", acrescenta Florian Mahner. "Mas quando comparámos diretamente as dimensões correspondentes entre os humanos e as redes neuronais profundas, descobrimos que a rede apenas aproximava realmente estas dimensões. Para uma dimensão relacionada com animais, não foram incluídas muitas imagens de animais e, do mesmo modo, foram incluídas muitas imagens que não eram de todo animais. Isto é algo que nos teria escapado com as técnicas normais". Os cientistas esperam que a investigação futura utilize abordagens semelhantes que comparem diretamente os seres humanos com a IA para compreender melhor a forma como a IA dá sentido ao mundo. "A nossa investigação fornece um método claro e interpretável para estudar estas diferenças, o que nos ajuda a compreender melhor a forma como a IA processa a informação em comparação com os seres humanos", afirma Martin Hebart, "este conhecimento pode não só ajudar-nos a melhorar a tecnologia da IA, mas também fornece informações valiosas sobre a cognição humana".
Observação: Este artigo foi traduzido usando um sistema de computador sem intervenção humana. A LUMITOS oferece essas traduções automáticas para apresentar uma gama mais ampla de notícias atuais. Como este artigo foi traduzido com tradução automática, é possível que contenha erros de vocabulário, sintaxe ou gramática. O artigo original em Inglês pode ser encontrado aqui.
Publicação original
Outras notícias do departamento ciência
