 [ LINK ]

 [ LINK ]

 Alguns Problemas de Filosofia da IA

 Sofia Miguens

 O objecto de investigao da IA  a natureza da cognio , e ter uma teoria da

 cognio nomeadamente de fenmenos como a categorizao e identificao de

 objectos , a resoluo de problemas , a deciso , a conscincia sempre foi a

 ambio dos filsofos .
 Por isso , desde os incios da disciplina , os filsofos

 interessam-se pelas investigaes em IA e pelo que elas podem mostrar quanto 

 inteligncia humana e quanto  inteligncia em geral .

 Curiosamente , os filsofos tm adoptado posies extremas quanto  IA , desde a

 defesa de uma impossibilidade por princpio da criao de inteligncia e

 conscincia no naturais , por razes vrias , at  convico de que atravs da

 IA poder surgir uma concepo mais geral e mais abstracta sobre a natureza da

 inteligncia , que coloque os humanos e todos os seres biolgicos inteligentes

 como apenas casos particulares de um fenmeno geral .
 Basicamente , a ideia  que

 se qualquer sistema com o tipo correcto de organizao funcional pode ser

 inteligente e at mesmo consciente , e se essa condio pode ser formulada

 independentemente da matria de que fr constitudo o sistema e

 independentemente das suas origens , outros sistemas que no os humanos e outros

 seres biolgicos podero , pelas mesmas razes que estes , ser inteligentes e

 conscientes .

 A crtica filosfica  IA : H. Dreyfus e J. Searle Hubert Dreyfus

 ( http : // socrates.berkeley.edu / ~ hdreyfus ) e John Searle

 ( http : // socrates.berkeley.edu / ~ jsearle ) so dois filsofos com posies

 crticas face  IA .

 Hubert Dreyfus

 Hubert Dreyfus foi talvez o primeiro filsofo a notar a sobreposio de

 interesses da IA e da filosofia .
 Escreveu como resultado desse encontro textos

 polmicos nomeadamente um relatrio intitulado Alchemy and Artifical

 Inteligence ( Rand Corporation , Santa Monica , California , 1965 ) e depois o livro

 What Computers Can't Do ( 1972 ) , criticando as pretenses da IA .. Dreyfus parte

 do princpio de que a IA trabalha os mesmos problemas que a filosofia ,

 problemas como a natureza do entendimento e do conhecimento .
 A sua crtica

 insiste sobretudo na relao entre os modelos ento desenvolvidos na IA ,

 baseados na ideia de mente como sistema simblico e na ideia de inteligncia

 como resoluo de problemas e a tradio racionalista e intelectualista em

 filosofia , tradio essa que Dreyfus critica .
 Para Dreyfus , a IA repetia

 portanto os erros ' intelectualistas ' da filosofia , erros j apontados por

 filsofos como Heidegger , Wittgenstein e Merleau-Ponty .

 A crtica de Dreyfus tinha como centro a ideia de que o pensamento no pode ser

 considerado como consistindo em representaes simblicas do mundo , nem a mente

 como um sistema governado por regras ocupado com a resoluo de problemas , pois

 essas definies excluem partes importantes e bsicas do mental .
 As ' partes

 excludas ' do mental eram para Dreyfus por exemplo os movimentos corporais e o

 reconhecimento de padres e estas estariam subjacentes  prpria possibilidade

 das habilidades ( skills ) explcitas envolvidas nas representaes e na

 resoluo de problemas .

 Os escritos de Dreyfus foram muito mal recebidos , mas apresentavam uma

 perspectiva sbria sobre alguns exageros de previso que acompanharam os

 primrdios da IA .
 Apesar de algumas das previses do prprio Dreyfus terem sido

 simplesmente desmentidas ( por exemplo a ideia de que um computador no poderia

 vencer um humano num jogo de xadrez ) , o que Dreyfus queria criticar era a

 suposio apriorista no argumentada defendida , na sua opinio , por exemplo por

 A. Newell .
 H. Simon e M. Minsky segundo a qual regras e representaes seriam a

 natureza da mente .
 De acordo com o intelectualismo dessa viso at a percepo

 seria pensamento e resoluo de problemas atravs da manipulao de regras .

 Esta concepo ocultava o conhecimento do fundo ( background knowledge ) ou de

 senso comum , que na perspectiva de Dreyfus era fundamental para a prpria

 cognio .
 O conhecimento do fundo no  conhecimento de factos mas sim , no caso

 das pessoas , aquilo que elas sabem sem saberem que sabem e que nunca foi

 aprendido ( como por exemplo que as pessoas se movem mais facilmente para a

 frente do que para trs , num exemplo de Dreyfus , ou que se se entornar gua em

 cima da toalha ela passar para as pernas de quem est por baixo ) .

 Dreyfus insistiu ainda noutras caractersticas do pensamento humano , ausentes

 nas simulaes computacionais que ento considerava como exemplos : as margens

 da conscincia ( fringe consciousness ) , a tolerncia da ambiguidade , a ligao a

 um corpo no mundo que organiza e unifica a experincia de objectos e as

 impresses subjectivas , a capacidade de aborrecimento , cansao e perda de

 motivao e os propsito e interesses que gerem o confronto do sujeito com a

 situao no mundo , fazendo com que nem todos os factos no mundo sejam

 igualmente relevantes num dado instante , com que o mundo no seja ' liso ' .

 O teor das crticas de Dreyfus foi ento para c incorporado no natural

 desenvolvimento da IA e actualmente Dreyfus admite a proximidade entre os

 princpios do conexionismo e a tradio anti-racionalista em filosofia .

 John Searle John Searle foi conduzido s Cincia Cognitivas a partir do seu

 trabalho em filosofia da linguagem .
  um crtico famoso dos limites do modelo

 computacional da mente .
 Searle pensa que as cincias cognitivas so um campo de

 investigao excitante mas fundado num erro conceptual acerca da natureza da

 mente , e que a ' hiptese da IA forte ' ( a ideia segundo a qual qualquer sistema

 que implemente o programa correcto poder ter realmente uma mente e

 conscincia , logo no ser apenas uma simulao ) ,  refutvel via o Argumento

 do Quarto Chins .
 O Argumento do Quarto Chins pretende ainda ' refutar ' o Teste

 de Turing ( Turing 1950 ) .

 O artigo Minds , Brains and Programs , onde o argumento  defendido , apareceu na

 revista Behavioral and Brain Sciences em 1980 , juntamente com 28 respostas de

 crticos .
 Desde ento a experincia mental do Quarto Chins  incontornvel na

 filosofia da mente , associada  ideia de que no se pode falar de processos

 mentais sintcticos sem falar de semntica ( e , de facto , Searle liga a semnica

  conscincia ) .

 A experincia mental do Quarto Chins ( QC ) consiste no seguinte : algum , que

 no fala chins , est fechado dentro de um quarto onde h smbolos chineses em

 caixas .
 Tem um livro de instrues em ingls , que explica como combinar os

 smbolos chineses e como enviar sequncias de smbolos chineses para fora do

 quarto , quando so introduzidos no quarto outros smbolos chineses , atravs de

 uma pequena janela .
 A pessoa que est dentro do quarto no sabe nada acerca

 disso , mas as pessoas que esto fora do quarto chamam aos smbolos que

 introduzem ' perguntas ' e aos smbolos que saem ' respostas ' .
 O sistema fala

 portanto chins , na perspectiva das pessoas que esto fora .
 Ento , o sistema

 passa o Teste de Turing , embora a pessoa l dentro saiba que no percebe uma

 palavra de chins .
 Searle afirma que a experincia mental do QC torna clara a

 possibilidade de um sistema que tem ' intencionalidade atribuda ' mas no

 ' intencionalidade intrnseca ' ou ' semntica genuna ' .

 O problema  saber exctamente que  que o argumento de Searle mostra .
 Antes de

 mais , note-se que o QC  mais propriamente uma parbola , e que posto em forma

 de argumento daria o seguinte :

 Os programas so sintcticos

 A sintaxe no  suficiente para a semntica

 As mentes tm semntica

 Implementar um programa  insuficiente para haver mente

 O QC mostraria ento que a mente no  um programa e que por isso programar

 apropriadamente alguma coisa nunca poderia dar-lhe uma mente , j que as

 propriedades formais no constituem a ' intencionalidade genuna ' .

 O filsofo David Chalmers parodia este argumento do seguinte modo ( Chalmers

 1996 : 327 ) :

 As receitas so sintcticas

 A sintaxe no  suficiente para ser-saboroso

 Os bolos so saborosos

 As receitas no so suficientes para fazer bolos

 Chalmers pretende mostrar que o argumento de Searle no distingue entre sintaxe

 e implementao de sintaxe , entre um programa ' na prateleira ' e um programa

 correndo numa mquina fsica .

 O prprio Searle sublinha sempre que o seu argumento no tem nada a ver com um

 estdio evolutivo particular da tecnologia , mas antes diz respeito a princpios

 conceptuais .
 O que o QC pretenderia fazer ver seria que o cognitivismo no qual

  central a ideia de que ' a mente est para o crebro como o software para o

 hardware ' est errado ao considerar que no existe nada de essencialmente

 biolgico acerca da mente humana (  esta posio que tem como corolrio a

 defesa da IA forte , a ideia , recorde-se , de que qualquer coisa que

 implementasse o programa correcto poderia ter realmente uma mente .
 Para Searle ,

 pelo contrrio , a mente  essencialmente conscincia , e a existncia de

 conscincia  um facto biolgico .

 De facto , na formulao inicial do Quarto Chins , Searle fala mais propriamente

 de semntica , e afirma que ' a sintaxe no  suficiente para a semntica ' .
 Mas o

 que Searle pensa  que no h possibilidade de considerar qualquer coisa como

 mental a no por relao com a conscincia .

 A fraqueza da posio de Searle  no dar um critrio claro do que se entende

 por intencionalidade originria ou intrnseca por oposio a intencionalidade

 atribuda , as noes de que se serve para analisar o QC .
 O nico critrio que

 Searle d so os poderes causais que alguns sistemas fsicos ( nomeadamente os

 crebros humanos ) teriam e outros no .

 Variadssimas objeces foram levantadas ao Quarto Chins , algumas das quais as

 a seguir listadas :

 a .
 Com o QC Searle pretende provocar a nossa identificao com o ser humano que

 simula '  mo ' um programa de IA .
 Ora , isso no faz sentido pois Searle oculta

 a questo da escala : um ser humano no poderia simular  mo um programa de IA

 suficientemente complexo para a tarefa em causa .
 Isso envolveria meses ou anos ,

 para no falar de horrivel aborrecimento .
 Searle passa ' por baixo do pano ' , com

 o apelo  identificao , uma concepo irrealista da relao entre inteligncia

 e manipulao simblica , ao impedir que se considere a enorme diferena de

 complexidade entre o nvel do programa e o nvel da pessoa e ao sugerir que

 ' sintamos ' a falta de entendimento da pessoa ao levar a cabo um programa .

 b .
 A resposta bsica  situao ao QC  a resposta dos sistemas :  um erro

 imputar o entendimento ao executor do programa ( incidentalmente animado ) .
 O

 entendimento pertence ao sistema como um todo , que inclui os " pedaos de papel "

 com as regras / smbolos ( alis , nos nossos neurnios tambm no h entendimento

 do portugus que falamos , e no entanto , ns , o sistema global , falamos

 portugus , e a falta de intencionalidade genuna dos nossos neurnios no

 constitui prova da falta de entendimento genuno em ns )

 Vrios autores ( cf .
 Hofstadter & Dennett 1981 ) contrapuseram a Searle ,

 situaes semelhantes  do QC , mas em que a nossa intuio vai em sentido

 contrrio ao que se passa no QC :

 O psiclogo canadiano Zenon Pylyshyn props o seguinte : e se se fosse

 substituindo clula a clula as clulas do nosso crebro por chips programados

 para manterem exactamente as mesmas funes ?
 Neste caso continuariamos a falar

 e agir do mesmo modo , mas Searle teria que dizer que deixariamos de significar

 ( mean ) progressivamente ( a nossa interioridade desapareceria de ns , sem

 ningum notar , nem ns prprios ) .
 O problema  que neste caso no ' tendemos ' a

 ter essa intuio o que mostra , de novo , Searle no d critrios para dizer

 quando  que a intencionalidade genuna est presente ou ausente do sistema .

 O filsofos americano John Haugeland prope a seguinte caso : o crebro de uma

 mulher real tem uma leso , e h um ' agente artificial ' que intervem para

 " conduzir " os neurotransmissores de forma idntica ao que antes da leso

 acontecia naturalmente .
 O crebro funciona ento exactamente como se a mulher

 estivesse saudvel .
 Haugeland pergunta a Searle se esta mulher pensaria ou no

 teria entendimento nenhum do seu prprio pensamento .
 O prprio Searle concorda

 que nesse caso devemos olhar para o ponto de vista da mulher e no para o do

 agente ( embora este pudesse , por hiptese ter o seguinte ponto de vista :

 ' Loucos !
 No lhe dem ateno !
 Ela  um fantoche cujas aces so causadas por

 mim !
 ' )

 O ponto destes contra-exemplos imaginrios  mostrar que o QC depende

 exclusivamente da nossa intuio , e as nossas intuies podem ser feitas variar

 (  o caso das intuies do prprio Searle ) .
 Por isso nenhum bom argumento

 acerca daquilo a que Searle chama intencionalidade intrnseca dever depender

 exclusivamente de intuies .

 Ningum nega que a experincia de Searle  provocadora , sobretudo porque ela

 diz respeito ao facto de no estudo da cognio estarem sempre em causa vrios

 nveis .
 Alis , Hofstadter sugere que o que precisamos para pensar no QC 

 precisamente do conceito de nveis de implementao , da ideia de que um sistema

 pode emular outra sistema e , assim sendo , : o ' encaixe ' de uma ' mquina ' noutra

 d origem a ' maquinas virtuais ' .
 Debaixo de cada mquina virtual h sempre

 outra mquina , sendo apenas num certo sentido a mquina de baixo a ' mquina

 real ' .
 Em princpio os nveis esto selados uns aos outros ( como a pessoa que

 no fala o chins que o sistema fala , como os neurnios que no falam o

 portugus que ns falamos ) .
 Mas os nveis poderiam ' comunicar ' e Hofstadter

 sugere que talvez isto seja o que se passa por exemplo quando um sistema humano

 aprende uma nova lngua , que quando  bem aprendida no corre simplesmente

 sobre a primeira , como uma espcie de parasita de software , antes deixa de

 precisar de ser traduzida e torna-se mais fundamental .
 Hofstadter associa ,

 alis , esta ' comunicao ' entre nveis de um sistema  conscincia ( que , note ,

  o verdadeiro problema de Searle no QC ) .

 Em suma , saber o que quer dizer ' nvel ' parece essencial para conceber a

 natureza do pensamento e da conscincia .
 Enquanto os nveis esto isolados uns

 dos outro , como no Quarto Chins , tudo  claro , mas se eles interferem e se

 confundem deixa de o ser .
 Note-se que o prprio Searle admite que h dois

 nveis no QC , mas no admite que poderia haver dois pontos de vista ( ou

 abrir-se-ia uma caixa de Pandora e a experincia e a mente comeariam a

 espalhar-se por toda a parte - de facto Searle pensa que o panpsiquismo  o

 risco do cognitivismo ) .

 Aqueles que como Dennett e Hofstadter se recusam a admitir que o QC mostre

 qualquer coisa de importante ( i.e. , que evidencie a ausncia do que quer que

 seja ) defendem que mentes existem em crebros e podem vir a existir em mquinas

 programadas .
 Se e quando essas mquinas vierem a existir os seus poderes

 causais no derivaro das substncias de que elas so feitas mas dos programas

 que instanciam .
 E poder-se- saber que elas tm mentes falando com elas e

 ouvindo com ateno o que tm para dizer ...

 Em A Redescoberta da Mente Searle apresenta um segundo argumento

 anti-cognitivista : Esse argumento  , grosseiramente , o seguinte :

 A sintaxe no  uma propriedade fsica

 O cognitivismo supe o tratamento de fenmenos fsicos como sintticos

 O cognitivismo incorre na falcia do homnculo

 ( i.e. , o cognitivismo descreve como se fossem propriedades naturais

 propriedades que s existem ' para um observador ' no caso , a sintaxe , que no 

 para Searle uma caracterstica do mundo natural mas uma interpretao por um

 observador )

 As crticas de Searle ao cognitivismo podem ser unificadas notando que para

 Searle , o princpio da conexo  fundamental para pensarmos na mente .
 O

 principio da conexo  o princpio segundo o qual s entendemos como mental o

 que  actualmente inconsciente porque o entendemos como contedo possvel da

 conscincia .
 A conscincia  a essncia da mente , i.e. , s entendemos alguma

 coisa como mental e no fsica porque a reportamos  conscincia ( seno como

 distinguiriamos um neurnio de uma memria ?
 ) .

 Searle chama  sua posio em teoria da mente um materialismo no reducionista ,

 embora os seus crticos afirmem que no  possivel distinguir esta soluo

 anti-reducionista , segundo a qual os Estados Mentais so causados por e so

 caracteristicas de , mas no so idnticos a , Estados Cerebrais de um dualismo

 de propriedades ( segundo o qual os fenmenos mentais envolvem propriedades que

 no so fisicas ) .
 No entanto , Searle de modo algum admite ser um dualista .

 Searle  anti-reducionista porque defende que a conscincia , por ser

 ontologicamente subjectiva , torna a reduo impossivel .
 Assim , todas as teorias

 reducionistas do mental falhariam na distino entre um zombie e um ser

 consciente .
 A posio de Searle depende portanto da noo de ' reduo ' .

 A reduo  um termo e um problema da filosofia da cincia , um termo para a

 anlise de alguma coisa identificada num nivel de descrio em termos de outro

 nivel , mais fundamental , permitindo-nos dizer que a 1 coisa no  mais nada

 alm da 2 .
 O problema da reduo aplicado ao mental consiste em saber se o

 mental poderia ser descrito em termos totalmente no mentais .
 Searle pensa que

 no , devido  subjectividade ontolgica da conscincia .

 Alguma coisa  ' ontologicamente subjectiva ' para Searle se no conseguimos

 descrever as suas caracteristicas em 3 pessoa , que  o que estamos a fazer

 mesmo quando fazemos por exemplo neurofisiologia da conscincia .
 Para Searle , a

 conscincia  uma propriedade fsica do cerebro apesar da sua subjectividade

 ontolgica e ela  irredutivel a qualquer outra caracteristica fisica .
 A

 subjectividade ontolgica no deve ser confundida com a subjectividade

 epistemolgica .
 Uma coisa  a objectividade como a boa tentativa de eliminao

 das pre-concepes subjectivas , eliminao essa que faz parte do esprito da

 cincia , outra  a afirmao de que o mundo no contem elementos

 irredutvelmente subjectivos .
 No h razo para a segunda afirmao .
 A 1 noo

 de objectividade  epistemolgica , a 2  ontolgica .

 Ora , se se aceita esta distino , a verdadeira questo  a seguinte : Como  que

 podemos ter uma concepo objectiva dos factos ontologicamente subjectivos da

 conscincia ?
 A isto Searle responde com o naturalismo biologico : a ideia de que

 a conscincia  uma caracteristica biolgica do crebro humano e de outros

 animais e uma propriedade emergente ( como a liquidez , a partir da energia

 cintica molecular ) .

 Searle pe a questo nestes termos porque pensa que muitos materialistas esto

 errados quando pensam que sem admitir a reduo se aceita necessariamente o

 dualismo .

 Os computadores , a filosofia e o funcionalismo

 Se atravs de Dreyfus e Searle se apontou algumas crticas aos fundamentos

 filosficos da IA ,  preciso por outro lado sublinhar que , no especificamente

 a IA mas a prpria existncia de computadores , foi extremamete importante para

 toda a filosofia da mente dos ltimos 40 anos , e central na ideia de

 funcionalismo .

 O funcionalismo  um posio filosfica hoje muito espalhada quanto  natureza

 da cognio ( teorizada por exemplo por H.Putnam ) .
 De acordo com o

 funcionalismo ,  essencial para conceber a natureza da cognio a distino

 entre hardware e software .
 I.e. , o funcionalismo acentua aquilo a que L. Moniz

 Pereira ( Moniz Pereira 1990 ) chama a  no obrigatoriedade de correspondncia

 entre o processamento de uma certa funo cogntiva e o suporte material que

 executa esse processamento  .
 Para alm de possibiitarem exemplos reais de

 intencionalidade e racionalidade em sistemas fsicos sem necessidade de

 ' homnculos ' ou observadores cartesianos , os computadores desligaram

 conceptualmente a ideia de inteligncia da particular realizao biolgica das

 inteligncia nos humanos , e na medida em que a inteligncia foi ao longo do

 tempo considerada definidora daquilo que  ser humano , mudaram a concepo do

 humano .

 Limites ?

 Actualmente , o debate filosfico em torno da naturalizao da cognio ,

 centra-se em dois aparentes limites a uma teoria integralmente cientfica ,

 feita exclusivamente em 3 pessoa : os estados qualitativos , i.e. , o

 experienciar , o what-it's-like-to-be-x nageliano e a racionalidade , com os seus

 aspectos normativos .

 Sofia Miguens

 Bibliografia

 BODEN , Margaret ( ed ) , 1990 , Philosphy of AI , Oxford , Oxford University Press

 CHALMERS , David , 1996 , The Conscious Mind , Oxford , Oxford University Press

 DENNETT , Daniel e HOFSTADTER , Douglas ( eds. ) , 1981 , The Mind's I , New York ,

 Bantam Books

 DREYFUS , Hubert , 1972 , What Computers Can't Do , New York , Harper & Row

 MINSKY , Marvin , 1985 , The Society of Mind , New York , Simon & Schuster

 MONIZ PEREIRA , Lus , 2000 , Inteligncia Artificial , Intelecto , 3 NEWELL , Allen ,

 1990 , Unified Theories of Cognition , Cambridge MA , Harvard University Press

 PINTO , Joo Alberto , 1999 , Materialismo , Supervenincia e Experincia ,

 Dissertao de Mestrado , Faculdade de Letras da Universidade do Porto

 PUTNAM , Hilary , Minds and Machines , 1960 , in Philosophical Papers , vol. 2 ,

 Cambridge , Cambridge University Press , 1975

 SEARLE , John , 1989 , Minds , Brains and Programs , Behavioral and Brain Sciences ,

 3

 SEARLE , John , 1998 , A Redescoberta da Mente , Lisboa , Instituto Piaget

 SIMON , Herbert , 1969 , The Sciences of the Artificial , Cambridge Mass. , MIT

 Press

 TURING , Alan , Computing Machinery and Intelligence ( 1950 ) , in DENNETT e

 HOFSTADTER 1981

 Para uma bibliografia relativa s questes filosficas da IA : 4 parte da

 Bibliografia da Filosofia da Mente organizada por David Chalmers , em

 http : // www.u.arizona.edu / ~ chalmers / biblio.html .

 [ LINK ]

 setstats 1

