A curto prazo, o objetivo de manter o impacto da AI ( Inteligencia Artificial) na sociedade é benéfico, motivando a pesquisa em muitas áreas, da economia e da lei a tópicos técnicos, como verificação, validade, segurança e controle.
A longo prazo, uma questão importante é o que acontecerá se a busca de IA forte for bem-sucedida e um sistema de IA se tornar melhor do que os humanos em todas as tarefas cognitivas. Esse sistema poderia sofrer auto-aperfeiçoamento recursivo, provocando uma explosão de inteligência deixando o intelecto humano muito para trás. Ao inventar novas tecnologias revolucionárias, essa superinteligência pode nos ajudar a erradicar a guerra, a doença e a pobreza e, portanto, a criação de AI forte pode ser o maior evento da história humana.
Como pode ser perigoso?
A maioria dos pesquisadores concorda que uma IA superintelligente é improvável que exiba emoções humanas como o amor ou o ódio, e que não há motivos para esperar que a IA se torne intencionalmente benevolente ou malévola. Em vez disso, ao considerar como a AI pode se tornar um risco, os especialistas acham que dois cenários são muito prováveis:
A IA está programada para fazer algo devastador: as armas autônomas são sistemas de inteligência artificial programados para matar. Nas mãos da pessoa errada, essas armas poderiam facilmente causar baixas em massa. Além disso, uma corrida armamentista de AI (inteligencia artificila)poderia, inadvertidamente, levar a uma guerra da AI que também resulte em baixas em massa. Para evitar ser frustrado pelo inimigo, essas armas seriam concebidas para serem extremamente difíceis de simplesmente "desligar", para que os humanos possam perder o controle de tal situação de forma plausível. Esse risco é presente mesmo com IA estreita, mas cresce à medida que os níveis de inteligência e autonomia de AI aumentam.
A preocupação com a AI avançada não é a malevolência, mas a competência. Um IA super inteligente é extremamente bom para atingir seus objetivos, e se esses objetivos não estão alinhados com os nossos, temos um problema.
Nenhum comentário:
Postar um comentário