“ChatGPT é um robô vigarista e somos otários por confiar nele”, diz especialista
Apesar dos anúncios recentes de empresas como Google e Microsoft, que estão investindo milhões de dólares em ferramentas com a tecnologia, o especialista defende que é preciso ter cautela com os chatbots. (Foto: Reprodução)
Para Adam Rogers, especialista e autor de dois livros best-seller sobre tecnologia, os chabots com inteligência artificial, como o ChatGPT, não são realmente inteligentes. “Eles são idiotas e mentirosos”, diz. Apesar dos anúncios recentes de empresas como Google e Microsoft, que estão investindo milhões de dólares em ferramentas com a tecnologia, o especialista defende que é preciso ter cautela com os chatbots.
“Os próprios pesquisadores de IA do Google alertaram a empresa de que os chatbots podem ser como ‘papagaios’ – capazes de replicar informações erradas, estúpidas ou ofensivas. Eles também são ‘propensos a alucinações’, ou seja, são capazes de inventar coisas”, explica Rogers.
Outro ponto levantado pelo especialista é que em vez de aprimorar os recursos de busca, esses chatbots podem acabar atrapalhando pesquisas. “Os mecanismos de busca trouxeram ordem ao caótico espaço de dados da internet. Aprendemos a confiar neles”. Agora, com as ferramentas de IA, o problema é passarmos a acreditar completamente no que a ferramenta fala, mesmo que ela esteja errada.
“Embora saibamos desde o início que nossos novos robôs são profundamente falhos, ainda os usaremos milhões e milhões de vezes e agiremos com base nas respostas que eles nos derem. O que faz os seres humanos confiarem em uma máquina que sabemos não ser confiável?”, questiona Rogers.
Rogers alerta ainda que a desinformação vai aumentar com o uso de chatbots em mecanismos de busca. “A desinformação agora será incorporada nos mecanismos de pesquisa que usamos. E uma postagem no Facebook tem muito menos credibilidade do que uma resposta a uma pergunta que você pesquisou no Google”.
“Minha maior preocupação é que os usuários do Google e do Bing saibam sobre todos esses problemas e simplesmente não se importem. Uma teoria de por que a desinformação e as notícias falsas se espalham é que as pessoas são absolutamente preguiçosas. Eles compram tudo o que uma fonte confiável está vendendo. Se os chatbots acertarem na maioria das vezes, isso é o suficiente”, finaliza.
Para Adam Rogers, especialista e autor de dois livros best-seller sobre tecnologia, os chabots com inteligência artificial, como o ChatGPT, não são realmente inteligentes. “Eles são idiotas e mentirosos”, diz. Apesar dos anúncios recentes de empresas como Google e Microsoft, que estão investindo milhões de dólares em ferramentas com a tecnologia, o especialista defende que é preciso ter cautela com os chatbots.
“Os próprios pesquisadores de IA do Google alertaram a empresa de que os chatbots podem ser como ‘papagaios’ – capazes de replicar informações erradas, estúpidas ou ofensivas. Eles também são ‘propensos a alucinações’, ou seja, são capazes de inventar coisas”, explica Rogers.
Outro ponto levantado pelo especialista é que em vez de aprimorar os recursos de busca, esses chatbots podem acabar atrapalhando pesquisas. “Os mecanismos de busca trouxeram ordem ao caótico espaço de dados da internet. Aprendemos a confiar neles”. Agora, com as ferramentas de IA, o problema é passarmos a acreditar completamente no que a ferramenta fala, mesmo que ela esteja errada.
“Embora saibamos desde o início que nossos novos robôs são profundamente falhos, ainda os usaremos milhões e milhões de vezes e agiremos com base nas respostas que eles nos derem. O que faz os seres humanos confiarem em uma máquina que sabemos não ser confiável?”, questiona Rogers.
Rogers alerta ainda que a desinformação vai aumentar com o uso de chatbots em mecanismos de busca. “A desinformação agora será incorporada nos mecanismos de pesquisa que usamos. E uma postagem no Facebook tem muito menos credibilidade do que uma resposta a uma pergunta que você pesquisou no Google”.
“Minha maior preocupação é que os usuários do Google e do Bing saibam sobre todos esses problemas e simplesmente não se importem. Uma teoria de por que a desinformação e as notícias falsas se espalham é que as pessoas são absolutamente preguiçosas. Eles compram tudo o que uma fonte confiável está vendendo. Se os chatbots acertarem na maioria das vezes, isso é o suficiente”, finaliza.
Época Negócios
