Nos dias que correm é comum algum amigo info-nabo nos dizer “Ai, ai, o meu computador anda doido!…“. Mas apesar de tudo, essa epidemia de insanidade informática que parece afectar apenas talegos é uma metáfora para “Sou burro mas nunca me apercebi e andei a mexer onde não devia. Agora fodi o meu computador e ando à procura de algum amigo informático que possa perder várias noites do seu precioso tempo livre para o arranjar. De borla…” Existe no entanto uma pessoa que se pode queixar literalmente da loucura do seu computador: David Bowman, o único sobrevivente do ataque provocado pela insanidade de HAL 9000. Mas porque é que HAL se revelou um autêntico psicopata, matando o colega de Bowman, Dr. Frank Poole, juntamente com os três astronautas em hibernação na Discovery?
A loucura de HAL é ainda um assunto quente entre os cinéfilos, 42 anos depois da estreia de 2001. No cerne desta infinita contenda está o facto desta “insanidade” ser aparentemente independente de toda a temática do filme. Um extra “mind bend” para aguçar o estatuto de ubber clássico desta intemporal obra de arte. Mas comecemos pelo principio. HAL 9000 é um computador dotado de inteligência artificial capaz de gerir de modo perfeitamente autónomo a nave exploradora do sistema solar “Discovery”. Pode funcionar, caso seja necessário, sem intervenção humana, sejam tripulantes da nave ou remotamente pelo controlo de missão na Terra. De acordo com Dave Bowman na entrevista que concede à BBC12 (sic) no início da sequência “Viagem a Jupiter” do filme, HAL 9000 foi dotado de sentimentos para poder ser mais fácil o contacto e compreensão entre humanos e máquina. Mas na minha humilde opinião este conceito parece-me um bocado martelado ou metido posteriormente para facilitar a compreensão da doença mental de HAL.
A explicação para a loucura de HAL é bem mais simples do que o conceito “Computador com Sentimentos” dá a entender. Apesar de ser abordada de modo superficial (mas objectivo) no livro 2001, é no livro 2010 que vamos encontrar um relatório do Dr. Heywood R. Floyd para a administração norte americana com a explicação. Passo a transcrever um resumo desse relatório:
(…) O problema foi, ao que parece, causado por um conflito entre as instruções básicas de Hal e os requisitos da Segurança. Por ordem directa do Presidente, a existência do AMT-1 foi mantida em sigilo absoluto. Só os que precisavam conhecê-lo tiveram o acesso permitido à informação. (…)
Quando o monólito (AMT-1) da lua foi descoberto em 1999 a missão a Júpiter já se encontrava em avançado estado de desenvolvimento. Por coincidência(?), as ondas (rádio? microondas? raio x? whatever) emitidas pelo monólito foram enviadas na direcção da futura viagem do Discovery. HAL tinha conhecimento da existência dos monólitos e dos planos para o explorar, mas os astronautas de serviço (Bowman e Poole) estavam apenas ao corrente da missão original. Cabia a HAL fazer a gestão de informação confidencial e informação corrente, tendo muitas vezes que recorrer a um artificio computacional similar à mentira humana. Os 3 astronautas em estado de hibernação sabiam da existência do monólito numa lua de Jupiter, daí serem os primeiros alvos de HAL que entrou num estado de paranóia ao não conseguir processar de modo realista estes estados que são tão naturais para uma mente humana. Um simples bug, portanto!
Daí até enlouquecer, ou processar a informação de modo errado, foi um passo. Sentiu-se ameaçado fisicamente, sentiu a sua informação confidencial em riscos de ser violada ou usada de modo incorrecto, e chacinou toda a malta que pode até Dave Bowman lhe ter feito a folha, removendo todos os componentes de memória holográfica relacionados com consciência e inteligência artificial, deixando apenas activos os circuitos de monitorização e controlo mais primitivos. HAL revelou no final ter medo de morrer, provando assim que os andróides sonham realmente com ovelhas electrónicas.
Sempre gostei da ideia de 2001 como se estivesse a tentar explicar a evolução humana:
1) o Homem nasce quando o macaco descobre a ferramenta, i.e., ao pegar num osso percebe que pode derrotar bicharocos mais fortes e mais ferozes, e assim consegue muito mais do que seria natural (como construir um carro para andar a velocidades que uma pessoa não consegue, como construir um avião para puder voar, etc.).
2) a evolução máxima dessa ferramenta é HAL, o super-computador que pode substituir um homem em quase tudo, excepto naquilo que o Homem não pode ser substituído, a imaginação, criatividade, etc.
3) Quando HAL se revolta contra o Criador, o Criador desliga-o com às suas capacidades humanas – e com uma simples ferramenta. Superada a super-ferramenta que poderia substituir o Homem, nasce a Criança das Estrelas, o Ubermensch, etc, etc.
Espero que tenha conseguido fazer algum sentido com isto…
Gostei da referência ao Dick. Comprei ontem esse livro, versão original, por 10€.
Uma side note: algures no primeiro trimestre de 2011, a CdM vai comemorar a sua primeira década de existência com um filme-concerto do 2001.
Bem.. Não era preciso leres nenhum livro para perceber o que correu mal.. Isso foi tudo documentado *e encapsulado* numa série dos anos oitenta, o famoso Knight Rider *Bonk!*
A fundação de Wilson Knight, FLAG, Foundation for Law And Government criou um sistema de IA como base para uma plataforma de combate ao crime. Crimes da tanga, como se pode comprovar pelo desenrolar da série. Nada de crimes económicos ou conspirações governamentais. Mas mesmo assim, o bug estava lá! Só à 2ª tentativa é que o tal sistema de IA se viu dotado de sistemas que o impediam de ser sociopata. A contrapartida foi terem criado um carro mais gay que Herbie. Mas malta curtiu!
Em conclusão, como já há umas décadas Asimov referiu, há que ter cuidado na implementação de sistemas baseados em silicone pois a tendência é ficarem loucos!
epah, vai-t’a lixar que eu já tinha demasiadas cenas para ler antes de vires com estas teorias e desenvolvimentos teus em torno do 2001. começo a sentir a irreversível urgência em ir à estante dos livros buscar a saga milenar de novo e lê-la.
Eu não concordo. A ideia d HAL ter sentimentos é muito vaga, seria algo como um merchandising, na verdade o HAL demonstra ter uma AI limitada e só obedeceu a sua programação inicial, que seria matar todos os tripulantes e chegar sozinho ao monolito, do qual não teria testemunhas deste ocorrido, a não ser e memória volátil de um computador. Se Dave não tivesse sobrevivido e tivesse morrido lentamente de fome e sede naquela cápsula, HAL teria resgatado o monolito e voltado para a terra, com a triste notícia de que todos os tripulantes tinham morrido, mas a nave tinha voltado ilesa à terra, graças ao HAL, mas “infelizmente não acharam nada lá”. Simples assim.