A inteligência artificial na perspectiva de um dilema ético policial
Por Robson Belo ¹ e Marlon Rogério ²
Outubro de 2023.
Em 1950 na coleção de livros “I, robot”, Isaac Asimov apresentou uma perspectiva de evolução dos autômatos que mesmo hoje norteia o ramo da computação, sobretudo no campo da inteligência artificial. Ainda que se trate de uma obra de ficção científica, Asimov propôs três grandes limites de atuação das máquinas considerando sempre o bem-estar humano, de modo que nenhuma máquina pudesse fazer mal a qualquer ser humano.
As ações das máquinas são então regisdas pelas três leis de Asimov, que ditam que:
- um robô não pode causar dano a um ser humano ou, por inação, permitir que um ser humano sofra algum mal;
- um robô deve obedecer às ordens dadas por seres humanos, desde que essas ordens não entrem em conflito com a primeira lei; e
- um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a primeira ou segunda lei.
Algo semelhante acontece com os seres humanos. Em vias de regra, a humanidade estabeleceu suas próprias leis com o objetivo principal de garantir o bem-estar e a perpetuação da espécie humana e para isso outorgou poderes para algumas pessoas e instituições a fim de fazer cumprir este contrato social. Este paralelo implica que tanto no contexto da inteligência artificial (IA) quanto no mundo real, máquinas e seres humanos podem se deparar com situações conflitantes, exigindo uma ação ou inação contrária ao escopo de leis e costumes que têm como base.
Imagine, por exemplo, o cenário em que um policial vê-se em uma situação de crise com reféns, exigindo dele decisões rápidas e fora do parâmetros estabelecidos, ou seja, parâmetros que estão além do escopo moral que rege uma sociedade. Em situações como esta, o princípio norteador geral é o de garantia da vida humana, no entanto, este ainda possui critérios que podem colocar vidas em detrimentos de um ou outra.
Neste mesmo cenário, uma máquina ou robô enfrentaria os mesmos dilemas pelo qual passara o policial, o que sugere um nível alto de complexidade de programação para situações desse tipo. Por exemplo: se um refém corre o risco de ser ferido ou morto por um sequestrador e o robô tem a capacidade de neutralizar o agressor, qual deveria ser a ação dele? Agir ou deixar de agir incorre na violação das leis de Asimov.
Por fim, é importante lembrar que os robôs não possuem autonomia para agir além dos limites estabelecidos pelos humanos responsáveis por sua programação e operação. Eles são ferramentas projetadas para auxiliar e complementar as ações humanas, não substituí-las completamente. A responsabilidade final recai sobre os operadores humanos, que devem tomar decisões informadas e éticas ao utilizar robôs em eventos de crise.