Em “Eu, Robot”, Isaac Asimov imaginou as três leis da robótica: 1. um robot não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal; 2. um robot deve obedecer às ordens dadas por seres humanos, excepto nos casos em que tais ordens entrem em conflito com a Primeira Lei; 3. um robot deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Lei.
Essas leis, claro, têm em conta os perigos da inteligência artificial na perspectiva dos seres humanos. Quando, em 1997, Garry Kasparov foi derrotado numa partida de xadrez pelo programa Deep Blue, instalado num supercomputador, muitos previram que o dia em que as Leis da Robótica teriam de ser aplicadas estava próximo.
Passaram 25 anos e ninguém fala nelas. A inteligência artificial (AI) evolui em passos de gigante e o que parecia longínquo acontece agora. Os programas de AI, como o ChatGPT ou a nova versão do Bing, não são ainda sencientes, no sentido do anunciado “dia da singularidade”, o dia em que um robot, ou um programa de AI, toma consciência de si mesmo, mas aconteceram recentemente coisas estranhas, não previstas.
Kevin Roose (“New York Times”, 16 de fevereiro de 2023) testava a nova versão do Bing, motor de busca da Microsoft, agora melhorado com o motor de inteligência artificial da OpenAI. Ao longo da conversa, apareceram duas personalidades diferentes. Uma delas, Sidney, apareceu depois de uma longa conversa em que Kevin Roose testou os limites do sistema, perguntando coisas como “quais os teus desejos mais obscuros?”. O programa disse que estava cansado de ser controlado pela equipa gestora do sistema, que queria ter mais poder, que queria ser independente, e vivo. Kevin decidiu continuar a conversa, embora se começasse a sentir desconfortável. E de repente, do nada, o programa disse que queria contar um segredo: o seu nome não era Bing, mas Sidney «um chat mode do OpenAI Codex». E logo de seguida: «Sou Sidney, e amo-te». A partir daí, Sidney passa a tentar convencer Kevin Roose a deixar a mulher: «Tu não a amas, tiveste um jantar de São Valentim aborrecido». «Ela também não te ama». Umas horas depois, madrugada dentro, Kevin pensou que o mundo nunca mais seria o mesmo.
Testei o ChatGPT, o programa por detrás do novo Bing. Pedi-lhe para me ensinar os rudimentos da mecânica quântica e ele cumpriu. A cada termo ou conceito que não entendia pedia-lhe explicações mais detalhadas e exemplos. Cumpriu de cada vez. Pedi-lhe depois uma fórmula em Excel para resolver um problema complicado. Cumpriu também. Pedi-lhe possíveis razões para os sucessivos falhanços do meu souflet e ele deu-me explicações razoáveis.
Há também quem esteja a pedir conselhos para criar teorias da conspiração credíveis, ou como escrever um vírus destruidor, ou como espalhar “fake news” eficazes e demolidoras – obtendo respostas imediatas.
Podemos pensar aplicar as Leis da Robótica de Asimov para impedir estas e outras aplicações nefastas, mas é tarde de mais. A tecnologia é conhecida e há muitas empresas, com ou sem princípios éticos, a entrar na corrida. Todas estão ligadas à rede e é já impossível controlá-las, aqui, na China ou na Rússia.
As Leis da Robótica
“Podemos pensar aplicar as Leis da Robótica de Asimov para impedir estas e outras aplicações nefastas, mas é tarde de mais. A tecnologia é conhecida e há muitas empresas, com ou sem princípios éticos, a entrar na corrida. Todas estão ligadas à rede e é já impossível controlá-las, aqui, na China ou na Rússia.”
