Uma Terra totalmente automatizada, na qual os robôs trabalham com a humanidade de todas as formas possíveis, foi imaginada um milhão de vezes em livros de ficção científica, filmes, jogos e televisão. De acordo com nossos sonhos, podemos acabar vivendo em um mundo remanescente de “WALL-E”, no qual máquinas ajudaram a humanidade em nossa busca destruidora do meio ambiente por mais-mais-mais que arruinou o planeta; um resultado pós-apocalíptico da IA ​​vendo o Homo sapiens como uma praga a ser retratada em “O Exterminador do Futuro”; ou um Sistema Solar e da Terra, onde robokind e humanos existem juntos em uma estranha dicotomia de harmonia e desconfiança, conforme previsto pelas obras de Isaac Asimov.

Se colocarmos todas as nossas versões imaginadas de um futuro aprimorado com robo em um gráfico de dispersão, em que o eixo X é a linha do tempo começando no presente (às 0) e indo para o futuro (digamos, daqui a mil anos) ), e o eixo Y representa o grau em que nos damos bem com nossos companheiros de robô em porcentagem – com 0 sendo “Robopocalypse” – destruição mutuamente garantida em nível 100 e 100 representando algum tipo de utopia perfeita na qual a humanidade e as máquinas existem juntas. harmonia perfeita ou, de outra forma, se misturaram a uma nova espécie – pode parecer um pouco com isso:

A maioria do que muitas pessoas esperam no futuro próximo tende ao lado mais sombrio das coisas. Comparamos a robótica e a pesquisa em inteligência artificial que geralmente acompanha isso com outros avanços igualmente grandes na tecnologia, que muitas vezes tiveram alguns resultados assustadores. De fato, o trabalho sobre energia atômica começou com bombas, lideradas por programas militares, e é aí que grande parte do progresso está sendo feita hoje com a robótica.

Hoje em dia, todo mundo que trabalha com robótica e IA geralmente concorda que nossas criações precisam ser projetadas desde o início com regras distintas para a forma como encararão a vida humana. A IA de um robô deve ser capaz de reconhecer inconfundivelmente os humanos e, a todo custo, evitar prejudicá-los …

Mas então voltamos às forças armadas do mundo, sendo algumas das principais organizações que lideram o trabalho de robótica. Enquanto escrevo isso, Estados Unidos, Rússia, China e outros países estão executando programas ativamente para criar drones e robôs de campo de batalha controlados por IA expressamente projetados para matar pessoas.

Robôs semelhantes ao do vídeo abaixo serão, um dia em breve, autodirigidos pela IA integrada.

É nessa contradição que está o problema, porque já, antes de realmente entrarmos na nossa era transumana e robótica, estamos aparentemente ignorando o conselho de duas gerações de cientistas e futuristas que pensaram coletivamente sobre esses problemas em milhões de horas . Gênios, visionários e pioneiros da tecnologia como Kurzweil, Musk, Hawking, Page & Brin, Asimov, Vinge e muitos outros alertam sobre os perigos inerentes à IA e à robótica há décadas.

Nós, como na maioria dos cidadãos do mundo, não queremos uma Terra dominada por robôs assassinos. Queremos o tipo de mundo visualizado nos Jetsons.

Queremos um mundo em que robôs e IA trabalhem ao nosso lado para melhorar tudo. Mas se a maioria dos primeiros robôs autônomos for construída com objetivos militares em mente, estaremos nos preparando para um futuro sombrio.

Isaac Asimov expôs sua marca registrada Três leis da robótica em “Runaround”, um conto de 1942. Mais tarde, ele acrescentou uma lei “zero”, que ele percebeu que precisava vir antes dos outros. Eles são:

Lei 0: Um robô não pode prejudicar a humanidade ou, por inação, permitir que a humanidade venha a prejudicar.

Primeira lei: um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano seja prejudicado.

Segunda Lei: Um robô deve obedecer às ordens dadas por seres humanos, exceto onde essas ordens entrem em conflito com a Primeira Lei.

Terceira lei: Um robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei.

Asimov aplicaria essas leis a quase todos os robôs que ele apresentava em suas obras fictícias seguintes, e elas são consideradas pela maioria dos roboticistas e cientistas da computação atuais ainda como extremamente válidas.

Desde que a ideia de robôs reais, existindo ao lado dos humanos na sociedade, se tornou uma possibilidade real, e não apenas um produto da ficção científica, a ideia da roboética tornou-se um verdadeiro subcampo na tecnologia, incorporando todo o nosso conhecimento de IA e máquina aprender com direito, sociologia e filosofia. À medida que a tecnologia e as possibilidades progrediram, muitas pessoas adicionaram suas idéias ao discurso.

Como presidente da EPIC (Centro de Informações de Privacidade Eletrônica), Marc Rotenberg acredita que mais duas leis devem ser incluídas na lista de Asimov:

Quarta Lei: Os robôs sempre devem revelar sua identidade e natureza como um robô aos seres humanos quando solicitados.

Quinta Lei: Os robôs sempre devem revelar seu processo de tomada de decisão aos seres humanos quando solicitados.

É evidente que o principal objetivo da maioria desses princípios é que devemos fazer o nosso melhor para impedir que nossas criações de robôs nos matem. Se os considerarmos os “filhos” da humanidade, certamente teremos nosso trabalho cortado para nós. Como um todo, a maioria dos pais faz um bom trabalho em criar filhos que acabam respeitando a vida humana. Mas uma porcentagem não desprezível da população acaba por ser um óvulo ruim. Às vezes a causa são maus pais, às vezes são genes ruins e outras vezes não há causa evidente.

Se nos encontrarmos vivendo na Singularidade, e nossos filhos excederem rapidamente qualquer uma de nossas habilidades para ficar de olho neles, talvez não consigamos confiar nas regras que estabelecemos para eles. A evolução deles estará fora de nosso controle. Poderíamos rapidamente nos encontrar em uma posição semelhante à de onde colocamos o gorila da planície ou o panda gigante.

Por causa disso, pode ser melhor incutir neles a moral que esperamos que nós mesmos sigamos melhor, e que nossos filhos possam se policiar.
Obrigado por ler e compartilhar.