Suponha que um carro autónomo vai na direcção de 5 pessoas que atravessam uma estrada, que a sua velocidade/distância torna potencialmente mortal o embate e que tem apenas uma opção: nada fazer, mantendo este embate, ou desviar o carro para uma parede matando a/o passageira/o. Quem mataria? Isto nos questiona a “moral machine”, plataforma de um consórcio de Universidades que pretende reunir uma perspectiva humana em torno de decisões morais e dilemáticas tomadas pela inteligência artificial, nomeadamente por softwares de condução de carros autónomos. Variantes de cenários e decisões, de pertenças comunitárias, de idades ou de familiaridades das pessoas que conduzem ou se encontram na situação sobre a qual temos de tomar uma decisão, tudo a fazer-nos reflectir e a permitir confrontar as nossas decisões com as de outras e outros. A colocar-nos na posição de “máquinas morais”, que decidem vidas de outras pessoas. Quem mataríamos nós? Quem e com que pressupostos escolheríamos nós alguém para programar estas decisões?
Basta que olhemos à volta, enquanto lemos estas palavras, para nos fascinarmos com as evoluções sociais e tecnológicas que estão ao nosso redor. Basta que olhemos à forma como lemos estas palavras para pensarmos o quanto o absurdo da guerra para isso tem contribuído, desde logo no desenvolvimento da internet que hoje praticamente todas, todos e tudo liga. Enquanto a guerra na Ucrânia nos inquieta, nos horroriza e nos relembra a volatilidade do tempo e Mundo (em) que vivemos, continuamos, sem fim à vista, a discutir um potencial tratado internacional vinculativo sobre sistemas de armas autónomos letais. Enquanto a guerra regressa com impacto e potencial de escalada à Europa, discutimos, sem acordo, um potencial futuro onde algoritmos decidem, não sobre um obstáculo na estrada, mas sobre quem e em que condições deve uma arma disparar ou face a que alvo e quando deve ser disparado um determinado míssil. Um passo em frente num processo de desumanização da guerra, já realidade nos exércitos da Rússia (“drones vadios” com capacidade de decisão autónoma); da China (reconhecimento facial de alvos inimigos sem intervenção humana); dos EUA (munições/mísseis com sistemas e capacidades autónomas) e que já terá sido utilizada na Líbia pelo exército turco (drones Kargu-2) em 2020, tendo resultado na morte dos primeiros seres humanos em contexto de guerra por decisão de um sistema sem intervenção humana, segundo indica um relatório do Conselho da Segurança das Nações Unidas.
Ao tempo dos significativos e sem precedentes riscos na sua dimensão, velocidade e potencial de impacto (pandemias, genocídios, crise climática ou ameaças biológicas, químicas e nucleares), junta-se a inversão do caminho de maior democratização dos sistemas políticos e a (re)emergência do autoritarismo, bem como a ameaça da despersonalização potencial que a inteligência artificial e a aprendizagem automática comportam. Ao tempo dos significativos e sem precedentes riscos, deveria corresponder uma ordem mundial assente em compromissos vinculativos de direito internacional e de generalização dos direitos humanos que prevenisse a perda de valor da vida/decisão individual face às significativas ameaças, suportada na partilha e tomada de decisão individual sustentada na ética.
Na ética e num modelo ético não baseado num homo super-rationale (ser humano super-racional), capaz da tomada das melhores decisões para si e para toda a comunidade a qualquer momento e em qualquer circunstância, homo que claramente não somos. Antes, num modelo ético que nos alinhasse, num processo de co-construção e co-reflexão permanente, numa miríade de princípios e de orientações morais transparentes e partilhadas, capazes de nos guiar nas decisões em situações específicas, priorizando valores, criando previsibilidade e prevenindo experimentalismo e decisões salvíficas. Mas, quando distantes disso estamos? Regresso ao software dos carros autónomos e a Joshua Greene e à sua afirmação de que as engenheiras e os engenheiros que os programam não “têm o luxo da vaga abstração que opinadoras/es ou políticas/os detêm”, não podendo sugerir às máquinas que respeitem “diretos humanos ou sejam justas”, particularmente quando nós, seres humanos, não conseguimos ser claros e consistentes sobre direitos humanos ou justiça. Estamos tão distantes quanto muitas e muitos estamos, incluindo outras e outros líderes, da visão de direito internacional, de direitos humanos ou de justiça de Putin e do actual governo e regime russo.
Sabemos, porém, que emoções como a raiva ou sentimentos de vingança individuais e coletivos diminuem a Paz e aumentam a possibilidade e probabilidade de conflito violento. Não sendo estas emoções e sentimentos base da acção das máquinas, são, a par dos vieses cognitivos, factores fundamentais do seu desenvolvimento e programação por seres humanos, e elementos nucleares na vivência em sociedade e na projecção de uma ideia de construção de Paz para o futuro, não só mas também pós-conflitos e pós-guerras. A humanização, a compaixão, a empatia, mas também o perdão, são valores fulcrais a perseguir para que tal seja possível e, além de indicadores importantes de saúde psicológica e de bem-estar das populações, são o melhor garante para uma utilização ética e baseada nos direitos e no interesse colectivo da tecnologia e da inteligência artificial.
Sabemos, também, que pessoas, líderes, particularmente em contextos não democráticos, de forma personalista, podem subjugar direitos e a ideia do colectivo a interesses, eventualmente ainda que partilhados, decididos não com a prioridade da universalidade dos direitos e da possibilidade de auto-determinação de pessoas e países. Sabemos como, por vezes, estas pessoas se rodeiam de outras que apenas confirmam e reforçam narrativas, encerrando o discurso e a propaganda, impossibilitando ou mesmo promovendo a eliminação (por vezes literal) da dissidência e do contraditório.
Sabemos, ainda, que a coesão harmoniosa (estado em que os princípios humanitários são os prioritários e existe equidade na valorização de cada pessoa) é o caminho para nos aproximarmos de países, instituições transnacionais e de um Mundo mais protegido dessa imprevisibilidade, do experimentalismo e de posições e decisões salvíficas. Isso constrói-se com base na empatia e na despolarização da sociedade. Com base na compaixão e na promoção da resolução não violenta de conflitos, desde os da nossa casa, aos das nossas Escolas e contextos de trabalho, aos dos países. Com base no reforço dos sentimentos de pertença e de abertura à e ao outro e a outras realidades. Com base, ainda, na prevenção de uma coesão baseada na rivalidade que cresce (e é, por alguns, incluindo decisoras e decisores aproveitado) em contexto de incerteza, de menor controlo ou de percepção de ameaça de outras/os.
Na verdade, aqui e ali, no Mundo ao redor, quando por vezes se fala, simplificando o complexo, em “ocidente”, creio falar-se de uma visão, por vezes mais idealista que realista, de uma ética partilhada e co-construida, de uma coesão harmoniosa e de valores democráticos, de direitos humanos globais e de equidade. De valores assentes na confiança, em nós, nas outras/os e nas nossas instituições, feitas por nós e, por isso, na liberdade, na abertura, na diversidade, na possibilidade de conflito (não violento) e na auto-determinação. Isso assusta autocracias, autocratas e déspotas. Isso proteger-nos-á das potenciais guerras do futuro, cuja evolução não podemos prever. “Não escolhemos o tempo que vivemos, a única escolha que temos é como lhe reagimos”, diz Von Hartmann, personagem do filme “Munique, à beira da guerra” que trata o acordo de Munique de 1938 que não travou a escalada que nos conduziu à II Guerra Mundial. Munique, a mesma cidade que em 2007 ouviu um célebre discurso prelúdio da Rússia hoje, onde Putin afirmou que “ninguém mais pode sentir-se seguro porque ninguém se pode esconder atrás da lei internacional”. Não escolhemos este tempo e Mundo complexo, de mil oportunidades e de mil significativos e sem precedentes riscos, mas podemos e devemos escolher como lhe reagir. Como e pelo que lutar.
Tiago Pereira
in Sábado (Ao redor…); 22.03.2022
https://www.sabado.pt/opiniao/convidados/tiago-pereira/detalhe/e-voce-quem-mataria