O Dilema dos Especialistas em IA: Entre a Inovação e o Risco Existencial

Um recente estudo da AI Impacts, focado no desenvolvimento avançado de Inteligência Artificial (IA), revelou uma divisão significativa entre os especialistas na área. A pesquisa, realizada com investigadores de aprendizagem automática, indagou sobre as expectativas de desenvolvimento de sistemas de IA comparáveis ao humano e suas possíveis consequências.

Os resultados são intrigantes: a mediana das respostas indicou uma probabilidade de 5% de a IA de nível humano resultar em cenários extremamente negativos, como a extinção humana. Essa estatística reflete uma divisão no campo da IA, com alguns investigadores atribuindo uma alta probabilidade a tais resultados negativos, enquanto outros veem como negligenciável.

Este estudo surge num contexto onde a IA evoluiu rapidamente, passando de sistemas quase inúteis para ferramentas capazes de escrever ensaios universitários com competência. Esse progresso acelerado levou à reflexão sobre os potenciais riscos de uma IA superinteligente.

A pesquisa de acompanhamento da AI Impacts em 2023 reiterou essas preocupações. Entre 37,8% e 51,4% dos participantes atribuíram uma chance de pelo menos 10% de a IA avançada conduzir a desfechos tão graves quanto a extinção humana.

Interessantemente, o estudo não encontrou uma clara divisão entre otimistas e pessimistas; muitos dos que preveem altas probabilidades de resultados negativos também contemplam possíveis resultados positivos. A pesquisa sugere que a maioria dos investigadores leva a sério a possibilidade de desfechos extremamente negativos, como a extinção humana.

Este cenário complexo e incerto coloca um desafio para o campo da IA: como equilibrar a inovação tecnológica com a necessidade de prevenir riscos potenciais à humanidade.

fonte:
https://www.vox.com/future-perfect/2024/1/10/24032987/ai-impacts-survey-artificial-intelligence-chatgpt-openai-existential-risk-superintelligence