 [ LINK ]

 [ LINK ]

 Alguns Problemas de Filosofia da IA

 Sofia Miguens

 O objecto de investigação da IA é a natureza da cognição , e ter uma teoria da

 cognição nomeadamente de fenómenos como a categorização e identificação de

 objectos , a resolução de problemas , a decisão , a consciência sempre foi a

 ambição dos filósofos .
 Por isso , desde os inícios da disciplina , os filósofos

 interessam-se pelas investigações em IA e pelo que elas podem mostrar quanto à

 inteligência humana e quanto à inteligência em geral .

 Curiosamente , os filósofos têm adoptado posições extremas quanto à IA , desde a

 defesa de uma impossibilidade por princípio da criação de inteligência e

 consciência não naturais , por razões várias , até á convicção de que através da

 IA poderá surgir uma concepção mais geral e mais abstracta sobre a natureza da

 inteligência , que coloque os humanos e todos os seres biológicos inteligentes

 como apenas casos particulares de um fenómeno geral .
 Basicamente , a ideia é que

 se qualquer sistema com o tipo correcto de organização funcional pode ser

 inteligente e até mesmo consciente , e se essa condição pode ser formulada

 independentemente da matéria de que fôr constituído o sistema e

 independentemente das suas origens , outros sistemas que não os humanos e outros

 seres biológicos poderão , pelas mesmas razões que estes , ser inteligentes e

 conscientes .

 A crítica filosófica à IA : H. Dreyfus e J. Searle Hubert Dreyfus

 ( http : // socrates.berkeley.edu / ~ hdreyfus ) e John Searle

 ( http : // socrates.berkeley.edu / ~ jsearle ) são dois filósofos com posições

 críticas face à IA .

 Hubert Dreyfus

 Hubert Dreyfus foi talvez o primeiro filósofo a notar a sobreposição de

 interesses da IA e da filosofia .
 Escreveu como resultado desse encontro textos

 polémicos nomeadamente um relatório intitulado Alchemy and Artifical

 Inteligence ( Rand Corporation , Santa Monica , California , 1965 ) e depois o livro

 What Computers Can't Do ( 1972 ) , criticando as pretensões da IA .. Dreyfus parte

 do princípio de que a IA trabalha os mesmos problemas que a filosofia ,

 problemas como a natureza do entendimento e do conhecimento .
 A sua crítica

 insiste sobretudo na relação entre os modelos então desenvolvidos na IA ,

 baseados na ideia de mente como sistema simbólico e na ideia de inteligência

 como resolução de problemas e a tradição racionalista e intelectualista em

 filosofia , tradição essa que Dreyfus critica .
 Para Dreyfus , a IA repetia

 portanto os erros ' intelectualistas ' da filosofia , erros já apontados por

 filósofos como Heidegger , Wittgenstein e Merleau-Ponty .

 A crítica de Dreyfus tinha como centro a ideia de que o pensamento não pode ser

 considerado como consistindo em representações simbólicas do mundo , nem a mente

 como um sistema governado por regras ocupado com a resolução de problemas , pois

 essas definições excluem partes importantes e básicas do mental .
 As ' partes

 excluídas ' do mental eram para Dreyfus por exemplo os movimentos corporais e o

 reconhecimento de padrões e estas estariam subjacentes á própria possibilidade

 das habilidades ( skills ) explícitas envolvidas nas representações e na

 resolução de problemas .

 Os escritos de Dreyfus foram muito mal recebidos , mas apresentavam uma

 perspectiva sóbria sobre alguns exageros de previsão que acompanharam os

 primórdios da IA .
 Apesar de algumas das previsões do próprio Dreyfus terem sido

 simplesmente desmentidas ( por exemplo a ideia de que um computador não poderia

 vencer um humano num jogo de xadrez ) , o que Dreyfus queria criticar era a

 suposição apriorista não argumentada defendida , na sua opinião , por exemplo por

 A. Newell .
 H. Simon e M. Minsky segundo a qual regras e representações seriam a

 natureza da mente .
 De acordo com o intelectualismo dessa visão até a percepção

 seria pensamento e resolução de problemas através da manipulação de regras .

 Esta concepção ocultava o conhecimento do fundo ( background knowledge ) ou de

 senso comum , que na perspectiva de Dreyfus era fundamental para a própria

 cognição .
 O conhecimento do fundo não é conhecimento de factos mas sim , no caso

 das pessoas , aquilo que elas sabem sem saberem que sabem e que nunca foi

 aprendido ( como por exemplo que as pessoas se movem mais facilmente para a

 frente do que para trás , num exemplo de Dreyfus , ou que se se entornar água em

 cima da toalha ela passará para as pernas de quem está por baixo ) .

 Dreyfus insistiu ainda noutras características do pensamento humano , ausentes

 nas simulações computacionais que então considerava como exemplos : as margens

 da consciência ( fringe consciousness ) , a tolerância da ambiguidade , a ligação a

 um corpo no mundo que organiza e unifica a experiência de objectos e as

 impressões subjectivas , a capacidade de aborrecimento , cansaço e perda de

 motivação e os propósito e interesses que gerem o confronto do sujeito com a

 situação no mundo , fazendo com que nem todos os factos no mundo sejam

 igualmente relevantes num dado instante , com que o mundo não seja ' liso ' .

 O teor das críticas de Dreyfus foi então para cá incorporado no natural

 desenvolvimento da IA e actualmente Dreyfus admite a proximidade entre os

 princípios do conexionismo e a tradição anti-racionalista em filosofia .

 John Searle John Searle foi conduzido às Ciência Cognitivas a partir do seu

 trabalho em filosofia da linguagem .
 É um crítico famoso dos limites do modelo

 computacional da mente .
 Searle pensa que as ciências cognitivas são um campo de

 investigação excitante mas fundado num erro conceptual acerca da natureza da

 mente , e que a ' hipótese da IA forte ' ( a ideia segundo a qual qualquer sistema

 que implemente o programa correcto poderá ter realmente uma mente e

 consciência , logo não será apenas uma simulação ) , é refutável via o Argumento

 do Quarto Chinês .
 O Argumento do Quarto Chinês pretende ainda ' refutar ' o Teste

 de Turing ( Turing 1950 ) .

 O artigo Minds , Brains and Programs , onde o argumento é defendido , apareceu na

 revista Behavioral and Brain Sciences em 1980 , juntamente com 28 respostas de

 críticos .
 Desde então a experiência mental do Quarto Chinês é incontornável na

 filosofia da mente , associada à ideia de que não se pode falar de processos

 mentais sintácticos sem falar de semântica ( e , de facto , Searle liga a semânica

 à consciência ) .

 A experiência mental do Quarto Chinês ( QC ) consiste no seguinte : alguém , que

 não fala chinês , está fechado dentro de um quarto onde há símbolos chineses em

 caixas .
 Tem um livro de instruções em inglês , que explica como combinar os

 símbolos chineses e como enviar sequências de símbolos chineses para fora do

 quarto , quando são introduzidos no quarto outros símbolos chineses , através de

 uma pequena janela .
 A pessoa que está dentro do quarto não sabe nada acerca

 disso , mas as pessoas que estão fora do quarto chamam aos símbolos que

 introduzem ' perguntas ' e aos símbolos que saem ' respostas ' .
 O sistema fala

 portanto chinês , na perspectiva das pessoas que estão fora .
 Então , o sistema

 passa o Teste de Turing , embora a pessoa lá dentro saiba que não percebe uma

 palavra de chinês .
 Searle afirma que a experiência mental do QC torna clara a

 possibilidade de um sistema que tem ' intencionalidade atribuída ' mas não

 ' intencionalidade intrínseca ' ou ' semântica genuína ' .

 O problema é saber exctamente que é que o argumento de Searle mostra .
 Antes de

 mais , note-se que o QC é mais propriamente uma parábola , e que posto em forma

 de argumento daria o seguinte :

 Os programas são sintácticos

 A sintaxe não é suficiente para a semântica

 As mentes têm semântica

 Implementar um programa é insuficiente para haver mente

 O QC mostraria então que a mente não é um programa e que por isso programar

 apropriadamente alguma coisa nunca poderia dar-lhe uma mente , já que as

 propriedades formais não constituem a ' intencionalidade genuína ' .

 O filósofo David Chalmers parodia este argumento do seguinte modo ( Chalmers

 1996 : 327 ) :

 As receitas são sintácticas

 A sintaxe não é suficiente para ser-saboroso

 Os bolos são saborosos

 As receitas não são suficientes para fazer bolos

 Chalmers pretende mostrar que o argumento de Searle não distingue entre sintaxe

 e implementação de sintaxe , entre um programa ' na prateleira ' e um programa

 correndo numa máquina física .

 O próprio Searle sublinha sempre que o seu argumento não tem nada a ver com um

 estádio evolutivo particular da tecnologia , mas antes diz respeito a princípios

 conceptuais .
 O que o QC pretenderia fazer ver seria que o cognitivismo no qual

 é central a ideia de que ' a mente está para o cérebro como o software para o

 hardware ' está errado ao considerar que não existe nada de essencialmente

 biológico acerca da mente humana ( é esta posição que tem como corolário a

 defesa da IA forte , a ideia , recorde-se , de que qualquer coisa que

 implementasse o programa correcto poderia ter realmente uma mente .
 Para Searle ,

 pelo contrário , a mente é essencialmente consciência , e a existência de

 consciência é um facto biológico .

 De facto , na formulação inicial do Quarto Chinês , Searle fala mais propriamente

 de semântica , e afirma que ' a sintaxe não é suficiente para a semântica ' .
 Mas o

 que Searle pensa é que não há possibilidade de considerar qualquer coisa como

 mental a não por relação com a consciência .

 A fraqueza da posição de Searle é não dar um critério claro do que se entende

 por intencionalidade originária ou intrínseca por oposição a intencionalidade

 atribuída , as noções de que se serve para analisar o QC .
 O único critério que

 Searle dá são os poderes causais que alguns sistemas físicos ( nomeadamente os

 cérebros humanos ) teriam e outros não .

 Variadíssimas objecções foram levantadas ao Quarto Chinês , algumas das quais as

 a seguir listadas :

 a .
 Com o QC Searle pretende provocar a nossa identificação com o ser humano que

 simula ' à mão ' um programa de IA .
 Ora , isso não faz sentido pois Searle oculta

 a questão da escala : um ser humano não poderia simular à mão um programa de IA

 suficientemente complexo para a tarefa em causa .
 Isso envolveria meses ou anos ,

 para não falar de horrivel aborrecimento .
 Searle passa ' por baixo do pano ' , com

 o apelo à identificação , uma concepção irrealista da relação entre inteligência

 e manipulação simbólica , ao impedir que se considere a enorme diferença de

 complexidade entre o nível do programa e o nível da pessoa e ao sugerir que

 ' sintamos ' a falta de entendimento da pessoa ao levar a cabo um programa .

 b .
 A resposta básica à situação ao QC é a resposta dos sistemas : é um erro

 imputar o entendimento ao executor do programa ( incidentalmente animado ) .
 O

 entendimento pertence ao sistema como um todo , que inclui os " pedaços de papel "

 com as regras / símbolos ( aliás , nos nossos neurónios também não há entendimento

 do português que falamos , e no entanto , nós , o sistema global , falamos

 português , e a falta de intencionalidade genuína dos nossos neurónios não

 constitui prova da falta de entendimento genuíno em nós )

 Vários autores ( cf .
 Hofstadter & Dennett 1981 ) contrapuseram a Searle ,

 situações semelhantes à do QC , mas em que a nossa intuição vai em sentido

 contrário ao que se passa no QC :

 O psicólogo canadiano Zenon Pylyshyn propôs o seguinte : e se se fosse

 substituindo célula a célula as células do nosso cérebro por chips programados

 para manterem exactamente as mesmas funções ?
 Neste caso continuariamos a falar

 e agir do mesmo modo , mas Searle teria que dizer que deixariamos de significar

 ( mean ) progressivamente ( a nossa interioridade desapareceria de nós , sem

 ninguém notar , nem nós próprios ) .
 O problema é que neste caso não ' tendemos ' a

 ter essa intuição o que mostra , de novo , Searle não dá critérios para dizer

 quando é que a intencionalidade genuína está presente ou ausente do sistema .

 O filósofos americano John Haugeland propõe a seguinte caso : o cérebro de uma

 mulher real tem uma lesão , e há um ' agente artificial ' que intervem para

 " conduzir " os neurotransmissores de forma idêntica ao que antes da lesão

 acontecia naturalmente .
 O cérebro funciona então exactamente como se a mulher

 estivesse saudável .
 Haugeland pergunta a Searle se esta mulher pensaria ou não

 teria entendimento nenhum do seu próprio pensamento .
 O próprio Searle concorda

 que nesse caso devemos olhar para o ponto de vista da mulher e não para o do

 agente ( embora este pudesse , por hipótese ter o seguinte ponto de vista :

 ' Loucos !
 Não lhe dêem atenção !
 Ela é um fantoche cujas acções são causadas por

 mim !
 ' )

 O ponto destes contra-exemplos imaginários é mostrar que o QC depende

 exclusivamente da nossa intuição , e as nossas intuições podem ser feitas variar

 ( é o caso das intuições do próprio Searle ) .
 Por isso nenhum bom argumento

 acerca daquilo a que Searle chama intencionalidade intrínseca deverá depender

 exclusivamente de intuições .

 Ninguém nega que a experiência de Searle é provocadora , sobretudo porque ela

 diz respeito ao facto de no estudo da cognição estarem sempre em causa vários

 níveis .
 Aliás , Hofstadter sugere que o que precisamos para pensar no QC é

 precisamente do conceito de níveis de implementação , da ideia de que um sistema

 pode emular outra sistema e , assim sendo , : o ' encaixe ' de uma ' máquina ' noutra

 dá origem a ' maquinas virtuais ' .
 Debaixo de cada máquina virtual há sempre

 outra máquina , sendo apenas num certo sentido a máquina de baixo a ' máquina

 real ' .
 Em princípio os níveis estão selados uns aos outros ( como a pessoa que

 não fala o chinês que o sistema fala , como os neurónios que não falam o

 português que nós falamos ) .
 Mas os níveis poderiam ' comunicar ' e Hofstadter

 sugere que talvez isto seja o que se passa por exemplo quando um sistema humano

 aprende uma nova língua , que quando é bem aprendida não corre simplesmente

 sobre a primeira , como uma espécie de parasita de software , antes deixa de

 precisar de ser traduzida e torna-se mais fundamental .
 Hofstadter associa ,

 aliás , esta ' comunicação ' entre níveis de um sistema à consciência ( que , note ,

 é o verdadeiro problema de Searle no QC ) .

 Em suma , saber o que quer dizer ' nível ' parece essencial para conceber a

 natureza do pensamento e da consciência .
 Enquanto os níveis estão isolados uns

 dos outro , como no Quarto Chinês , tudo é claro , mas se eles interferem e se

 confundem deixa de o ser .
 Note-se que o próprio Searle admite que há dois

 níveis no QC , mas não admite que poderia haver dois pontos de vista ( ou

 abrir-se-ia uma caixa de Pandora e a experiência e a mente começariam a

 espalhar-se por toda a parte - de facto Searle pensa que o panpsiquismo é o

 risco do cognitivismo ) .

 Aqueles que como Dennett e Hofstadter se recusam a admitir que o QC mostre

 qualquer coisa de importante ( i.e. , que evidencie a ausência do que quer que

 seja ) defendem que mentes existem em cérebros e podem vir a existir em máquinas

 programadas .
 Se e quando essas máquinas vierem a existir os seus poderes

 causais não derivarão das substâncias de que elas são feitas mas dos programas

 que instanciam .
 E poder-se-á saber que elas têm mentes falando com elas e

 ouvindo com atenção o que têm para dizer ...

 Em A Redescoberta da Mente Searle apresenta um segundo argumento

 anti-cognitivista : Esse argumento é , grosseiramente , o seguinte :

 A sintaxe não é uma propriedade física

 O cognitivismo supõe o tratamento de fenómenos físicos como sintáticos

 O cognitivismo incorre na falácia do homúnculo

 ( i.e. , o cognitivismo descreve como se fossem propriedades naturais

 propriedades que só existem ' para um observador ' no caso , a sintaxe , que não é

 para Searle uma característica do mundo natural mas uma interpretação por um

 observador )

 As críticas de Searle ao cognitivismo podem ser unificadas notando que para

 Searle , o princípio da conexão é fundamental para pensarmos na mente .
 O

 principio da conexão é o princípio segundo o qual só entendemos como mental o

 que é actualmente inconsciente porque o entendemos como conteúdo possível da

 consciência .
 A consciência é a essência da mente , i.e. , só entendemos alguma

 coisa como mental e não física porque a reportamos à consciência ( senão como

 distinguiriamos um neurónio de uma memória ?
 ) .

 Searle chama à sua posição em teoria da mente um materialismo não reducionista ,

 embora os seus críticos afirmem que não é possivel distinguir esta solução

 anti-reducionista , segundo a qual os Estados Mentais são causados por e são

 caracteristicas de , mas não são idênticos a , Estados Cerebrais de um dualismo

 de propriedades ( segundo o qual os fenómenos mentais envolvem propriedades que

 não são fisicas ) .
 No entanto , Searle de modo algum admite ser um dualista .

 Searle é anti-reducionista porque defende que a consciência , por ser

 ontologicamente subjectiva , torna a redução impossivel .
 Assim , todas as teorias

 reducionistas do mental falhariam na distinção entre um zombie e um ser

 consciente .
 A posição de Searle depende portanto da noção de ' redução ' .

 A redução é um termo e um problema da filosofia da ciência , um termo para a

 análise de alguma coisa identificada num nivel de descrição em termos de outro

 nivel , mais fundamental , permitindo-nos dizer que a 1ª coisa não é mais nada

 além da 2ª .
 O problema da redução aplicado ao mental consiste em saber se o

 mental poderia ser descrito em termos totalmente não mentais .
 Searle pensa que

 não , devido à subjectividade ontológica da consciência .

 Alguma coisa é ' ontologicamente subjectiva ' para Searle se não conseguimos

 descrever as suas caracteristicas em 3ª pessoa , que é o que estamos a fazer

 mesmo quando fazemos por exemplo neurofisiologia da consciência .
 Para Searle , a

 consciência é uma propriedade física do cerebro apesar da sua subjectividade

 ontológica e ela é irredutivel a qualquer outra caracteristica fisica .
 A

 subjectividade ontológica não deve ser confundida com a subjectividade

 epistemológica .
 Uma coisa é a objectividade como a boa tentativa de eliminação

 das pre-concepções subjectivas , eliminação essa que faz parte do espírito da

 ciência , outra é a afirmação de que o mundo não contem elementos

 irredutívelmente subjectivos .
 Não há razão para a segunda afirmação .
 A 1ª noção

 de objectividade é epistemológica , a 2ª é ontológica .

 Ora , se se aceita esta distinção , a verdadeira questão é a seguinte : Como é que

 podemos ter uma concepção objectiva dos factos ontologicamente subjectivos da

 consciência ?
 A isto Searle responde com o naturalismo biologico : a ideia de que

 a consciência é uma caracteristica biológica do cérebro humano e de outros

 animais e uma propriedade emergente ( como a liquidez , a partir da energia

 cinética molecular ) .

 Searle põe a questão nestes termos porque pensa que muitos materialistas estão

 errados quando pensam que sem admitir a redução se aceita necessariamente o

 dualismo .

 Os computadores , a filosofia e o funcionalismo

 Se através de Dreyfus e Searle se apontou algumas críticas aos fundamentos

 filosóficos da IA , é preciso por outro lado sublinhar que , não especificamente

 a IA mas a própria existência de computadores , foi extremamete importante para

 toda a filosofia da mente dos últimos 40 anos , e central na ideia de

 funcionalismo .

 O funcionalismo é um posição filosófica hoje muito espalhada quanto à natureza

 da cognição ( teorizada por exemplo por H.Putnam ) .
 De acordo com o

 funcionalismo , é essencial para conceber a natureza da cognição a distinção

 entre hardware e software .
 I.e. , o funcionalismo acentua aquilo a que L. Moniz

 Pereira ( Moniz Pereira 1990 ) chama a « não obrigatoriedade de correspondência

 entre o processamento de uma certa função cogntiva e o suporte material que

 executa esse processamento » .
 Para além de possibiitarem exemplos reais de

 intencionalidade e racionalidade em sistemas físicos sem necessidade de

 ' homúnculos ' ou observadores cartesianos , os computadores desligaram

 conceptualmente a ideia de inteligência da particular realização biológica das

 inteligência nos humanos , e na medida em que a inteligência foi ao longo do

 tempo considerada definidora daquilo que é ser humano , mudaram a concepção do

 humano .

 Limites ?

 Actualmente , o debate filosófico em torno da naturalização da cognição ,

 centra-se em dois aparentes limites a uma teoria integralmente científica ,

 feita exclusivamente em 3ª pessoa : os estados qualitativos , i.e. , o

 experienciar , o what-it's-like-to-be-x nageliano e a racionalidade , com os seus

 aspectos normativos .

 Sofia Miguens

 Bibliografia

 BODEN , Margaret ( ed ) , 1990 , Philosphy of AI , Oxford , Oxford University Press

 CHALMERS , David , 1996 , The Conscious Mind , Oxford , Oxford University Press

 DENNETT , Daniel e HOFSTADTER , Douglas ( eds. ) , 1981 , The Mind's I , New York ,

 Bantam Books

 DREYFUS , Hubert , 1972 , What Computers Can't Do , New York , Harper & Row

 MINSKY , Marvin , 1985 , The Society of Mind , New York , Simon & Schuster

 MONIZ PEREIRA , Luís , 2000 , Inteligência Artificial , Intelecto , 3 NEWELL , Allen ,

 1990 , Unified Theories of Cognition , Cambridge MA , Harvard University Press

 PINTO , Joâo Alberto , 1999 , Materialismo , Superveniência e Experiência ,

 Dissertação de Mestrado , Faculdade de Letras da Universidade do Porto

 PUTNAM , Hilary , Minds and Machines , 1960 , in Philosophical Papers , vol. 2 ,

 Cambridge , Cambridge University Press , 1975

 SEARLE , John , 1989 , Minds , Brains and Programs , Behavioral and Brain Sciences ,

 3

 SEARLE , John , 1998 , A Redescoberta da Mente , Lisboa , Instituto Piaget

 SIMON , Herbert , 1969 , The Sciences of the Artificial , Cambridge Mass. , MIT

 Press

 TURING , Alan , Computing Machinery and Intelligence ( 1950 ) , in DENNETT e

 HOFSTADTER 1981

 Para uma bibliografia relativa às questões filosóficas da IA : 4ª parte da

 Bibliografia da Filosofia da Mente organizada por David Chalmers , em

 http : // www.u.arizona.edu / ~ chalmers / biblio.html .

 [ LINK ]

 setstats 1

