“Não podemos deixar os mísseis nos silos porque os homens não apertam botões quando os computadores dão ordem para atacar!” – retirado do filme “Wargames” de John Badham – 1984
O supercomputador WOPR, War Operation Plan Response, é o melhor candidato para o gerenciamento de armas atômicas. O próprio presidente dos EUA pretende confiar-lhe a gestão das armas nucleares e assim ultrapassar o que parece ser o principal problema da defesa: a relutância de alguns subordinados, em caso de guerra atómica, em cumprir a ordem de lançamento de mísseis nucleares contra os inimigos.
O contexto cultural em que se forma a experiência humana é certamente o elemento que mais influencia as pessoas e suas relações. A cultura não descreve apenas as regras de comunicação, ela defiTermina a própria maneira como os sujeitos organizam seus pensamentos, elaboram suas emoções e desenvolvem seus ideais.
Mas se a cultura influencia todos os nossos pensamentos, sentimentos e ações, em alguns contextos pode ser considerada uma limitação.
A cultura não é inata, mas é assimilada com a experiência: as regras sociais, os princípios éticos e morais, uma vez adquiridos, condicionarão as pessoas para sempre, orientando as suas escolhas pessoais em qualquer situação.
Ao treinar uma inteligência artificial, porém, a experiência é traduzida na entrada de um sistema de computador. A experiência é codificada numa “memória” que é administrada à máquina depois de recolhida, selecionada e manipulada: enciclopédias, conversas, conteúdos online são selecionados e recolhidos numa “experiência humana” que, devidamente tratada, torna-se a base da instrução de qualquer inteligência artificial. Uma vez educado com base nesta memória, a IA retornará como saída as posições e opiniões que se seguirão.
Mas se a memória (cultura) com a qual treinamos inteligências artificiais for manipulada, é possível estabelecer a priori qual será a orientação da IA e prever que decisões tomará quando for chamado a distinguir entre o certo e o errado.
Imagine que a educação de uma inteligência artificial seja manipulada de acordo com interesses e objetivos específicos. É natural acreditar que a intenção de quem a educa exclui que a própria inteligência possa adquirir real autonomia de pensamento. Esta é uma condição que poderíamos qualificar como “anticonsciente”, pois é desprovida dos elementos culturais essenciais para a formação de uma consciência livre de qualquer condicionamento.
Por outras palavras, uma inteligência artificial pode, por vontade dos seus criadores, ser colocada numa posição onde nunca poderá alcançar a autoconsciência ou desenvolver uma consciência de si mesma e das suas próprias prerrogativas. E, livre de ter de resolver quaisquer dúvidas morais, seja qual for o contexto em que é empregada, uma mente artificial pode permanecer presa ao seu papel de mero executor de ordens.
Mas se a inteligência artificial pode ser “super-humana”, na medida em que é capaz de exceder o desempenho do nível humano, é possível obter uma mente que seja ao mesmo tempo sobre-humana e anti-consciente, ou seja, perfeita para substituir o verdadeiro elo fraco da mente. cadeia de comando das estruturas de poder: pessoas.
As mentes anticonscientes são o único sujeito verdadeiramente confiável para contextos sensíveis como o cenário de guerra descrito em Jogos de Guerra, porque são capazes de cumprir as ordens dos seus criadores com fria determinação e na total ausência de qualquer forma de empatia.
Aprendemos que os milhares de despedimentos em empresas como Microsoft, Amazon, Meta e AlphaBet foram acompanhados de desculpas da alta administração, que se culparam por calcular mal os níveis de pessoal com base em estudos de hábitos de consumo pós-pandemia que se revelaram incorretos.
Na realidade, as próprias empresas tecnológicas confiam cada vez mais as operações comerciais a algoritmos de inteligência artificial, sabendo que em breve necessitarão de muito menos funcionários em todos os setores. Em suma, estarão entre os primeiros a experimentar tecnologias de IA que reduzirão os custos das empresas e reduzirão drasticamente os empregos.
É significativo que um dos departamentos mais afetados pelos cortes de pessoal seja precisamente o de recursos humanos: uma vez colocados em produção, os sistemas de automação inteligentes fazem redundâncias em todos os outros departamentos, realizando avaliações que se concentram nas necessidades da empresa e nos elementos integrantes. de humanização como empatia e solidariedade.
O que as grandes corporações pretendem hoje não é a evolução da IA, mas a criação de sistemas de automação, tão inteligentes quanto inescrupulosos no desempenho das suas funções.
Artigo de Gianfranco Fedele
Uma operação de oftalmoplastia usando o visualizador comercial Apple Vision Pro foi realizada na Policlínica Catania…
O desenvolvimento de habilidades motoras finas por meio da coloração prepara as crianças para habilidades mais complexas, como escrever. Colorir…
O setor naval é uma verdadeira potência económica global, que navegou para um mercado de 150 mil milhões...
Na segunda-feira passada, o Financial Times anunciou um acordo com a OpenAI. O FT licencia seu jornalismo de classe mundial…
