 Alguns Problemas de Filosofia da IA

 Sofia Miguens

 O objecto de investigao da IA  a natureza da cognio , e ter uma

 teoria da cognio nomeadamente de fenmenos como a categorizao e

 identificao de objectos , a resoluo de problemas , a deciso , a

 conscincia sempre foi a ambio dos filsofos .
 Por isso , desde os

 incios da disciplina , os filsofos interessam-se pelas investigaes

 em IA e pelo que elas podem mostrar quanto  inteligncia humana e

 quanto  inteligncia em geral .

 Curiosamente , os filsofos tm adoptado posies extremas quanto  IA ,

 desde a defesa de uma impossibilidade por princpio da criao de

 inteligncia e conscincia no naturais , por razes vrias , at 

 convico de que atravs da IA poder surgir uma concepo mais geral

 e mais abstracta sobre a natureza da inteligncia , que coloque os

 humanos e todos os seres biolgicos inteligentes como apenas casos

 particulares de um fenmeno geral .
 Basicamente , a ideia  que se

 qualquer sistema com o tipo correcto de organizao funcional pode ser

 inteligente e at mesmo consciente , e se essa condio pode ser

 formulada independentemente da matria de que fr constitudo o

 sistema e independentemente das suas origens , outros sistemas que no

 os humanos e outros seres biolgicos podero , pelas mesmas razes que

 estes , ser inteligentes e conscientes .

 A crtica filosfica  IA : H. Dreyfus e J. Searle Hubert Dreyfus

 ( http : // socrates.berkeley.edu / ~ hdreyfus ) e John Searle

 ( http : // socrates.berkeley.edu / ~ jsearle ) so dois filsofos com

 posies crticas face  IA .

 Hubert Dreyfus

 Hubert Dreyfus foi talvez o primeiro filsofo a notar a sobreposio

 de interesses da IA e da filosofia .
 Escreveu como resultado desse

 encontro textos polmicos nomeadamente um relatrio intitulado Alchemy

 and Artifical Inteligence ( Rand Corporation , Santa Monica , California ,

 1965 ) e depois o livro What Computers Can't Do ( 1972 ) , criticando as

 pretenses da IA .. Dreyfus parte do princpio de que a IA trabalha os

 mesmos problemas que a filosofia , problemas como a natureza do

 entendimento e do conhecimento .
 A sua crtica insiste sobretudo na

 relao entre os modelos ento desenvolvidos na IA , baseados na ideia

 de mente como sistema simblico e na ideia de inteligncia como

 resoluo de problemas e a tradio racionalista e intelectualista em

 filosofia , tradio essa que Dreyfus critica .
 Para Dreyfus , a IA

 repetia portanto os erros ' intelectualistas ' da filosofia , erros j

 apontados por filsofos como Heidegger , Wittgenstein e Merleau-Ponty .

 A crtica de Dreyfus tinha como centro a ideia de que o pensamento no

 pode ser considerado como consistindo em representaes simblicas do

 mundo , nem a mente como um sistema governado por regras ocupado com a

 resoluo de problemas , pois essas definies excluem partes

 importantes e bsicas do mental .
 As ' partes excludas ' do mental eram

 para Dreyfus por exemplo os movimentos corporais e o reconhecimento de

 padres e estas estariam subjacentes  prpria possibilidade das

 habilidades ( skills ) explcitas envolvidas nas representaes e na

 resoluo de problemas .

 Os escritos de Dreyfus foram muito mal recebidos , mas apresentavam uma

 perspectiva sbria sobre alguns exageros de previso que acompanharam

 os primrdios da IA .
 Apesar de algumas das previses do prprio

 Dreyfus terem sido simplesmente desmentidas ( por exemplo a ideia de

 que um computador no poderia vencer um humano num jogo de xadrez ) , o

 que Dreyfus queria criticar era a suposio apriorista no argumentada

 defendida , na sua opinio , por exemplo por A. Newell .
 H. Simon e M .

 Minsky segundo a qual regras e representaes seriam a natureza da

 mente .
 De acordo com o intelectualismo dessa viso at a percepo

 seria pensamento e resoluo de problemas atravs da manipulao de

 regras .
 Esta concepo ocultava o conhecimento do fundo ( background

 knowledge ) ou de senso comum , que na perspectiva de Dreyfus era

 fundamental para a prpria cognio .
 O conhecimento do fundo no 

 conhecimento de factos mas sim , no caso das pessoas , aquilo que elas

 sabem sem saberem que sabem e que nunca foi aprendido ( como por

 exemplo que as pessoas se movem mais facilmente para a frente do que

 para trs , num exemplo de Dreyfus , ou que se se entornar gua em cima

 da toalha ela passar para as pernas de quem est por baixo ) .

 Dreyfus insistiu ainda noutras caractersticas do pensamento humano ,

 ausentes nas simulaes computacionais que ento considerava como

 exemplos : as margens da conscincia ( fringe consciousness ) , a

 tolerncia da ambiguidade , a ligao a um corpo no mundo que organiza

 e unifica a experincia de objectos e as impresses subjectivas , a

 capacidade de aborrecimento , cansao e perda de motivao e os

 propsito e interesses que gerem o confronto do sujeito com a situao

 no mundo , fazendo com que nem todos os factos no mundo sejam

 igualmente relevantes num dado instante , com que o mundo no seja

 ' liso ' .

 O teor das crticas de Dreyfus foi ento para c incorporado no

 natural desenvolvimento da IA e actualmente Dreyfus admite a

 proximidade entre os princpios do conexionismo e a tradio

 anti-racionalista em filosofia .

 John Searle John Searle foi conduzido s Cincia Cognitivas a partir

 do seu trabalho em filosofia da linguagem .
  um crtico famoso dos

 limites do modelo computacional da mente .
 Searle pensa que as cincias

 cognitivas so um campo de investigao excitante mas fundado num erro

 conceptual acerca da natureza da mente , e que a ' hiptese da IA forte '

 ( a ideia segundo a qual qualquer sistema que implemente o programa

 correcto poder ter realmente uma mente e conscincia , logo no ser

 apenas uma simulao ) ,  refutvel via o Argumento do Quarto Chins .
 O

 Argumento do Quarto Chins pretende ainda ' refutar ' o Teste de Turing

 ( Turing 1950 ) .

 O artigo Minds , Brains and Programs , onde o argumento  defendido ,

 apareceu na revista Behavioral and Brain Sciences em 1980 , juntamente

 com 28 respostas de crticos .
 Desde ento a experincia mental do

 Quarto Chins  incontornvel na filosofia da mente , associada  ideia

 de que no se pode falar de processos mentais sintcticos sem falar de

 semntica ( e , de facto , Searle liga a semnica  conscincia ) .

 A experincia mental do Quarto Chins ( QC ) consiste no seguinte :

 algum , que no fala chins , est fechado dentro de um quarto onde h

 smbolos chineses em caixas .
 Tem um livro de instrues em ingls , que

 explica como combinar os smbolos chineses e como enviar sequncias de

 smbolos chineses para fora do quarto , quando so introduzidos no

 quarto outros smbolos chineses , atravs de uma pequena janela .
 A

 pessoa que est dentro do quarto no sabe nada acerca disso , mas as

 pessoas que esto fora do quarto chamam aos smbolos que introduzem

 ' perguntas ' e aos smbolos que saem ' respostas ' .
 O sistema fala

 portanto chins , na perspectiva das pessoas que esto fora .
 Ento , o

 sistema passa o Teste de Turing , embora a pessoa l dentro saiba que

 no percebe uma palavra de chins .
 Searle afirma que a experincia

 mental do QC torna clara a possibilidade de um sistema que tem

 ' intencionalidade atribuda ' mas no ' intencionalidade intrnseca ' ou

 ' semntica genuna ' .

 O problema  saber exctamente que  que o argumento de Searle mostra .

 Antes de mais , note-se que o QC  mais propriamente uma parbola , e

 que posto em forma de argumento daria o seguinte :

 Os programas so sintcticos

 A sintaxe no  suficiente para a semntica

 As mentes tm semntica

 Implementar um programa  insuficiente para haver mente

 O QC mostraria ento que a mente no  um programa e que por isso

 programar apropriadamente alguma coisa nunca poderia dar-lhe uma

 mente , j que as propriedades formais no constituem a

 ' intencionalidade genuna ' .

 O filsofo David Chalmers parodia este argumento do seguinte modo

 ( Chalmers 1996 : 327 ) :

 As receitas so sintcticas

 A sintaxe no  suficiente para ser-saboroso

 Os bolos so saborosos

 As receitas no so suficientes para fazer bolos

 Chalmers pretende mostrar que o argumento de Searle no distingue

 entre sintaxe e implementao de sintaxe , entre um programa ' na

 prateleira ' e um programa correndo numa mquina fsica .

 O prprio Searle sublinha sempre que o seu argumento no tem nada a

 ver com um estdio evolutivo particular da tecnologia , mas antes diz

 respeito a princpios conceptuais .
 O que o QC pretenderia fazer ver

 seria que o cognitivismo no qual  central a ideia de que ' a mente

 est para o crebro como o software para o hardware ' est errado ao

 considerar que no existe nada de essencialmente biolgico acerca da

 mente humana (  esta posio que tem como corolrio a defesa da IA

 forte , a ideia , recorde-se , de que qualquer coisa que implementasse o

 programa correcto poderia ter realmente uma mente .
 Para Searle , pelo

 contrrio , a mente  essencialmente conscincia , e a existncia de

 conscincia  um facto biolgico .

 De facto , na formulao inicial do Quarto Chins , Searle fala mais

 propriamente de semntica , e afirma que ' a sintaxe no  suficiente

 para a semntica ' .
 Mas o que Searle pensa  que no h possibilidade

 de considerar qualquer coisa como mental a no por relao com a

 conscincia .

 A fraqueza da posio de Searle  no dar um critrio claro do que se

 entende por intencionalidade originria ou intrnseca por oposio a

 intencionalidade atribuda , as noes de que se serve para analisar o

 QC .
 O nico critrio que Searle d so os poderes causais que alguns

 sistemas fsicos ( nomeadamente os crebros humanos ) teriam e outros

 no .

 Variadssimas objeces foram levantadas ao Quarto Chins , algumas das

 quais as a seguir listadas :

 a .
 Com o QC Searle pretende provocar a nossa identificao com o ser

 humano que simula '  mo ' um programa de IA .
 Ora , isso no faz sentido

 pois Searle oculta a questo da escala : um ser humano no poderia

 simular  mo um programa de IA suficientemente complexo para a tarefa

 em causa .
 Isso envolveria meses ou anos , para no falar de horrivel

 aborrecimento .
 Searle passa ' por baixo do pano ' , com o apelo 

 identificao , uma concepo irrealista da relao entre inteligncia

 e manipulao simblica , ao impedir que se considere a enorme

 diferena de complexidade entre o nvel do programa e o nvel da

 pessoa e ao sugerir que ' sintamos ' a falta de entendimento da pessoa

 ao levar a cabo um programa .

 b .
 A resposta bsica  situao ao QC  a resposta dos sistemas :  um

 erro imputar o entendimento ao executor do programa ( incidentalmente

 animado ) .
 O entendimento pertence ao sistema como um todo , que inclui

 os " pedaos de papel " com as regras / smbolos ( alis , nos nossos

 neurnios tambm no h entendimento do portugus que falamos , e no

 entanto , ns , o sistema global , falamos portugus , e a falta de

 intencionalidade genuna dos nossos neurnios no constitui prova da

 falta de entendimento genuno em ns )

 Vrios autores ( cf .
 Hofstadter & Dennett 1981 ) contrapuseram a Searle ,

 situaes semelhantes  do QC , mas em que a nossa intuio vai em

 sentido contrrio ao que se passa no QC :

 O psiclogo canadiano Zenon Pylyshyn props o seguinte : e se se fosse

 substituindo clula a clula as clulas do nosso crebro por chips

 programados para manterem exactamente as mesmas funes ?
 Neste caso

 continuariamos a falar e agir do mesmo modo , mas Searle teria que

 dizer que deixariamos de significar ( mean ) progressivamente ( a nossa

 interioridade desapareceria de ns , sem ningum notar , nem ns

 prprios ) .
 O problema  que neste caso no ' tendemos ' a ter essa

 intuio o que mostra , de novo , Searle no d critrios para dizer

 quando  que a intencionalidade genuna est presente ou ausente do

 sistema .

 O filsofos americano John Haugeland prope a seguinte caso : o crebro

 de uma mulher real tem uma leso , e h um ' agente artificial ' que

 intervem para " conduzir " os neurotransmissores de forma idntica ao

 que antes da leso acontecia naturalmente .
 O crebro funciona ento

 exactamente como se a mulher estivesse saudvel .
 Haugeland pergunta a

 Searle se esta mulher pensaria ou no teria entendimento nenhum do seu

 prprio pensamento .
 O prprio Searle concorda que nesse caso devemos

 olhar para o ponto de vista da mulher e no para o do agente ( embora

 este pudesse , por hiptese ter o seguinte ponto de vista : ' Loucos !
 No

 lhe dem ateno !
 Ela  um fantoche cujas aces so causadas por

 mim !
 ' )

 O ponto destes contra-exemplos imaginrios  mostrar que o QC depende

 exclusivamente da nossa intuio , e as nossas intuies podem ser

 feitas variar (  o caso das intuies do prprio Searle ) .
 Por isso

 nenhum bom argumento acerca daquilo a que Searle chama

 intencionalidade intrnseca dever depender exclusivamente de

 intuies .

 Ningum nega que a experincia de Searle  provocadora , sobretudo

 porque ela diz respeito ao facto de no estudo da cognio estarem

 sempre em causa vrios nveis .
 Alis , Hofstadter sugere que o que

 precisamos para pensar no QC  precisamente do conceito de nveis de

 implementao , da ideia de que um sistema pode emular outra sistema e ,

 assim sendo , : o ' encaixe ' de uma ' mquina ' noutra d origem a

 ' maquinas virtuais ' .
 Debaixo de cada mquina virtual h sempre outra

 mquina , sendo apenas num certo sentido a mquina de baixo a ' mquina

 real ' .
 Em princpio os nveis esto selados uns aos outros ( como a

 pessoa que no fala o chins que o sistema fala , como os neurnios que

 no falam o portugus que ns falamos ) .
 Mas os nveis poderiam

 ' comunicar ' e Hofstadter sugere que talvez isto seja o que se passa

 por exemplo quando um sistema humano aprende uma nova lngua , que

 quando  bem aprendida no corre simplesmente sobre a primeira , como

 uma espcie de parasita de software , antes deixa de precisar de ser

 traduzida e torna-se mais fundamental .
 Hofstadter associa , alis , esta

 ' comunicao ' entre nveis de um sistema  conscincia ( que , note ,  o

 verdadeiro problema de Searle no QC ) .

 Em suma , saber o que quer dizer ' nvel ' parece essencial para conceber

 a natureza do pensamento e da conscincia .
 Enquanto os nveis esto

 isolados uns dos outro , como no Quarto Chins , tudo  claro , mas se

 eles interferem e se confundem deixa de o ser .
 Note-se que o prprio

 Searle admite que h dois nveis no QC , mas no admite que poderia

 haver dois pontos de vista ( ou abrir-se-ia uma caixa de Pandora e a

 experincia e a mente comeariam a espalhar-se por toda a parte - de

 facto Searle pensa que o panpsiquismo  o risco do cognitivismo ) .

 Aqueles que como Dennett e Hofstadter se recusam a admitir que o QC

 mostre qualquer coisa de importante ( i.e. , que evidencie a ausncia do

 que quer que seja ) defendem que mentes existem em crebros e podem vir

 a existir em mquinas programadas .
 Se e quando essas mquinas vierem a

 existir os seus poderes causais no derivaro das substncias de que

 elas so feitas mas dos programas que instanciam .
 E poder-se- saber

 que elas tm mentes falando com elas e ouvindo com ateno o que tm

 para dizer ...

 Em A Redescoberta da Mente Searle apresenta um segundo argumento

 anti-cognitivista : Esse argumento  , grosseiramente , o seguinte :

 A sintaxe no  uma propriedade fsica

 O cognitivismo supe o tratamento de fenmenos fsicos como sintticos

 O cognitivismo incorre na falcia do homnculo

 ( i.e. , o cognitivismo descreve como se fossem propriedades naturais

 propriedades que s existem ' para um observador ' no caso , a sintaxe ,

 que no  para Searle uma caracterstica do mundo natural mas uma

 interpretao por um observador )

 As crticas de Searle ao cognitivismo podem ser unificadas notando que

 para Searle , o princpio da conexo  fundamental para pensarmos na

 mente .
 O principio da conexo  o princpio segundo o qual s

 entendemos como mental o que  actualmente inconsciente porque o

 entendemos como contedo possvel da conscincia .
 A conscincia  a

 essncia da mente , i.e. , s entendemos alguma coisa como mental e no

 fsica porque a reportamos  conscincia ( seno como distinguiriamos

 um neurnio de uma memria ?
 ) .

 Searle chama  sua posio em teoria da mente um materialismo no

 reducionista , embora os seus crticos afirmem que no  possivel

 distinguir esta soluo anti-reducionista , segundo a qual os Estados

 Mentais so causados por e so caracteristicas de , mas no so

 idnticos a , Estados Cerebrais de um dualismo de propriedades ( segundo

 o qual os fenmenos mentais envolvem propriedades que no so

 fisicas ) .
 No entanto , Searle de modo algum admite ser um dualista .

 Searle  anti-reducionista porque defende que a conscincia , por ser

 ontologicamente subjectiva , torna a reduo impossivel .
 Assim , todas

 as teorias reducionistas do mental falhariam na distino entre um

 zombie e um ser consciente .
 A posio de Searle depende portanto da

 noo de ' reduo ' .

 A reduo  um termo e um problema da filosofia da cincia , um termo

 para a anlise de alguma coisa identificada num nivel de descrio em

 termos de outro nivel , mais fundamental , permitindo-nos dizer que a 1

 coisa no  mais nada alm da 2 .
 O problema da reduo aplicado ao

 mental consiste em saber se o mental poderia ser descrito em termos

 totalmente no mentais .
 Searle pensa que no , devido  subjectividade

 ontolgica da conscincia .

 Alguma coisa  ' ontologicamente subjectiva ' para Searle se no

 conseguimos descrever as suas caracteristicas em 3 pessoa , que  o

 que estamos a fazer mesmo quando fazemos por exemplo neurofisiologia

 da conscincia .
 Para Searle , a conscincia  uma propriedade fsica do

 cerebro apesar da sua subjectividade ontolgica e ela  irredutivel a

 qualquer outra caracteristica fisica .
 A subjectividade ontolgica no

 deve ser confundida com a subjectividade epistemolgica .
 Uma coisa  a

 objectividade como a boa tentativa de eliminao das pre-concepes

 subjectivas , eliminao essa que faz parte do esprito da cincia ,

 outra  a afirmao de que o mundo no contem elementos

 irredutvelmente subjectivos .
 No h razo para a segunda afirmao .
 A

 1 noo de objectividade  epistemolgica , a 2  ontolgica .

 Ora , se se aceita esta distino , a verdadeira questo  a seguinte :

 Como  que podemos ter uma concepo objectiva dos factos

 ontologicamente subjectivos da conscincia ?
 A isto Searle responde com

 o naturalismo biologico : a ideia de que a conscincia  uma

 caracteristica biolgica do crebro humano e de outros animais e uma

 propriedade emergente ( como a liquidez , a partir da energia cintica

 molecular ) .

 Searle pe a questo nestes termos porque pensa que muitos

 materialistas esto errados quando pensam que sem admitir a reduo se

 aceita necessariamente o dualismo .

 Os computadores , a filosofia e o funcionalismo

 Se atravs de Dreyfus e Searle se apontou algumas crticas aos

 fundamentos filosficos da IA ,  preciso por outro lado sublinhar que ,

 no especificamente a IA mas a prpria existncia de computadores , foi

 extremamete importante para toda a filosofia da mente dos ltimos 40

 anos , e central na ideia de funcionalismo .

 O funcionalismo  um posio filosfica hoje muito espalhada quanto 

 natureza da cognio ( teorizada por exemplo por H.Putnam ) .
 De acordo

 com o funcionalismo ,  essencial para conceber a natureza da cognio

 a distino entre hardware e software .
 I.e. , o funcionalismo acentua

 aquilo a que L. Moniz Pereira ( Moniz Pereira 1990 ) chama a  no

 obrigatoriedade de correspondncia entre o processamento de uma certa

 funo cogntiva e o suporte material que executa esse processamento  .

 Para alm de possibiitarem exemplos reais de intencionalidade e

 racionalidade em sistemas fsicos sem necessidade de ' homnculos ' ou

 observadores cartesianos , os computadores desligaram conceptualmente a

 ideia de inteligncia da particular realizao biolgica das

 inteligncia nos humanos , e na medida em que a inteligncia foi ao

 longo do tempo considerada definidora daquilo que  ser humano ,

 mudaram a concepo do humano .

 Limites ?

 Actualmente , o debate filosfico em torno da naturalizao da

 cognio , centra-se em dois aparentes limites a uma teoria

 integralmente cientfica , feita exclusivamente em 3 pessoa : os

 estados qualitativos , i.e. , o experienciar , o what-it's-like-to-be-x

 nageliano e a racionalidade , com os seus aspectos normativos .

 Sofia Miguens

 Bibliografia

 BODEN , Margaret ( ed ) , 1990 , Philosphy of AI , Oxford , Oxford University

 Press

 CHALMERS , David , 1996 , The Conscious Mind , Oxford , Oxford University

 Press

 DENNETT , Daniel e HOFSTADTER , Douglas ( eds. ) , 1981 , The Mind's I , New

 York , Bantam Books

 DREYFUS , Hubert , 1972 , What Computers Can't Do , New York , Harper & Row

 MINSKY , Marvin , 1985 , The Society of Mind , New York , Simon & Schuster

 MONIZ PEREIRA , Lus , 2000 , Inteligncia Artificial , Intelecto , 3

 NEWELL , Allen , 1990 , Unified Theories of Cognition , Cambridge MA ,

 Harvard University Press

 PINTO , Joo Alberto , 1999 , Materialismo , Supervenincia e Experincia ,

 Dissertao de Mestrado , Faculdade de Letras da Universidade do Porto

 PUTNAM , Hilary , Minds and Machines , 1960 , in Philosophical Papers ,

 vol. 2 , Cambridge , Cambridge University Press , 1975

 SEARLE , John , 1989 , Minds , Brains and Programs , Behavioral and Brain

 Sciences , 3

 SEARLE , John , 1998 , A Redescoberta da Mente , Lisboa , Instituto Piaget

 SIMON , Herbert , 1969 , The Sciences of the Artificial , Cambridge Mass. ,

 MIT Press

 TURING , Alan , Computing Machinery and Intelligence ( 1950 ) , in DENNETT

 e HOFSTADTER 1981

 Para uma bibliografia relativa s questes filosficas da IA : 4 parte

 da Bibliografia da Filosofia da Mente organizada por David Chalmers ,

 em http : // www.u.arizona.edu / ~ chalmers / biblio.html .

