Singularidade tecnológica: os seres humanos serão dominados pelas máquinas?

13/02/2014 às 00:02

Quanto mais a tecnologia, a robótica e a inteligência artificial avançam, mais a pergunta nos assombra: será que um dia as máquinas que construímos poderão nos superar, criar autonomia e, eventualmente, nos escravizar?

A ficção, tanto literária quanto cinematográfica, nos traz muitos exemplos e projeções de um futuro possível. Entre apocalípticos e integrados, há previsões e prognósticos dos mais variados, tanto de quem acredita no convívio harmonioso de homens e robôs quanto daqueles que dão como certo o extermínio da raça humana.

Filósofos e cientistas discutem cada vez mais essa questão, preocupados com as questões éticas e de prevenção no que se trata da evolução tecnológica; afinal, o que acontece se perdermos o controle de nossas máquinas? E se dermos autonomia de decisão para seus sistemas, de forma que elas finalmente adquirissem consciência?

O consenso no debate atual diz que é simplesmente impossível prever o que pode acontecer. Afinal, talvez esse cenário nunca venha a acontecer e os homens jamais concedam tanto controle às máquinas.

E, mesmo na pior hipótese, não temos como adivinhar o comportamento de robôs inteligentes. Veríamos uma rebelião como nos filmes do “Exterminador do Futuro” ou uma escravidão da humanidade, transformada em bateria para os sistemas computacionais, como em “Matrix”?

(Fonte da imagem: Reprodução/The Guardian)

A singularidade tecnológica

A ideia de que em algum momento futuro a inteligência artificial vai superar a humana recebeu o termo de singularidade tecnológica a partir do texto do cientista e escritor Vernor Vinge. O artigo “The Coming Technological Singularity: How to Survive in the Post-Human Era”, de 1993, considera o evento iminente, previsto para ocorrer antes de 2030, e que transformará radicalmente a civilização.

Vinge compara a singularidade tecnológica ao surgimento da inteligência humana no mundo e aponta as possibilidades de como esse estágio de desenvolvimento pode acontecer. O autor enumera quatro campos científicos que podem levar à superação dos homens pelas máquinas: o avanço dos sistemas de inteligência artificial, as redes computacionais se tornarem autoconscientes, as interfaces entre homem e máquina se tornarem tão complexas que produziriam um estágio evolutivo do homem e a ampliação da inteligência humana natural através de melhores técnicas da ciência biológica.

Dessas considerações, Vinge parece mais interessado em discutir as probabilidades de evolução da inteligência artificial. Uma das justificativas teóricas para explicar essa possibilidade é a Lei de Moore, em vigor há mais de 30 anos, segundo a qual a cada 18 meses a capacidade de processamento dos computadores dobra. De acordo com o autor, nesse ritmo é apenas uma questão de tempo até que o homem crie máquinas capazes de pensar como nós.

Com maior processador, softwares poderão ser desenvolvidos para que os sistemas computacionais possam analisar dados e tomar decisões de forma autônoma. Se hoje máquinas já são utilizadas na construção de peças, carros e chips eletrônicos, não é difícil imaginá-las projetando modelos melhores e mais avançados, caso venham a ter autonomia e maior inteligência.

Com a possibilidade de máquinas e robôs se autorreplicarem, e ainda por cima sabendo como melhorarem a si mesmos, os seres humanos se tornariam obsoletos para o avanço da tecnologia. Assim que os processos envolvidos no setor forem maiores do que a capacidade de entendimento dos humanos, chegaríamos ao momento da singularidade tecnológica, com a inteligência humana superada pela artificial.

(Fonte da imagem: Reprodução/Teach Thought)

Ameaça à humanidade

Apesar de teorizar a respeito dos cenários futuros possíveis, Vinge não defende a singularidade tecnológica como uma certeza e uma inevitabilidade. O próprio autor argumenta que talvez a tecnologia não crie as condições para esse evento histórico, e cientistas preveem que estamos próximos de um limite físico fundamental no que diz respeito à capacidade dos processadores – que eles não poderão ser muito mais avançados do que já são hoje.

Porém, a possibilidade de que isso possa acontecer gera muita discussão, especialmente sobre os perigos e as ameaças que a situação representa para a humanidade. O maior temor é que os homens percam o controle sobre as máquinas, e que elas possam se revoltar contra os humanos, provocando uma guerra, a escravidão ou até mesmo o extermínio da nossa raça.

Em uma perspectiva menos apocalíptica, podemos nos tornar dependentes demais da inteligência das máquinas para resolver questões sociais mais complexas e de ordem global, o que nos obrigaria a aceitar as decisões desses sistemas – o que também não é tão improvável considerando como já confiamos bastante nas informações que recebemos por meios computacionais.

Outras formas de ameaças podem surgir pelo uso da inteligência artificial para propagar a segregação de classe, a exclusão digital, econômica ou social, especialmente em regiões não democráticas, mais pobres ou sob regimes totalitários. É possível imaginar até mesmo um Big Brother comandado em rede pelas máquinas.

(Fonte da imagem: Reprodução/Pics to Pin)

Mesmo quem acredita que o homem pode definir leis como as de Asimov para assegurar o controle dos robôs pelos humanos cogita que, se a inteligência artificial superar a humana, as máquinas não teriam razão para se manterem submissas a nós.

Por enquanto, tudo o que podemos antecipar sobre o futuro não passa de especulações e teorias que parecem mesmo saídas de obras de ficção científica. Porém, elas revelam dilemas cada vez mais presentes no meio científico, filosófico e acadêmico, o que sugere que talvez seja hora de tomar a pílula vermelha e se conscientizar sobre o rumo da humanidade.