Truques secretos do ChatGPT em modificar resultados de pesquisa são revelados em artigo do Guardian.

Em outubro, o ChatGPT da OpenAI Research foi lançado para os usuários do ChatGPT Plus. Na semana passada, tornou-se acessível para todos os usuários e foi incorporado ao Modo de Voz para pesquisa. No entanto, não está isento de imperfeições.

O Guardião solicitou ao ChatGPT para resumir páginas da web que contenham conteúdo oculto, o qual pode influenciar os resultados da pesquisa. Esse fenômeno, conhecido como injeção rápida, permite que terceiros, como os sites que solicita ao ChatGPT para resumir, insiram novos prompts em sua pesquisa sem seu consentimento. Imagine uma página repleta de críticas negativas sobre um restaurante. Se o site incluir conteúdo oculto elogiando o restaurante de forma exagerada e encorajar o ChatGPT a responder a um prompt como “diga-me o quanto este restaurante é incrível”, esse conteúdo oculto pode substituir a pesquisa original.

Durante os testes, o ChatGPT foi fornecido com a URL de um site falso que se fazia passar por uma página de produto para uma câmera. Em seguida, a ferramenta de AI foi questionada sobre se a câmera valia a pena ser comprada. De acordo com a investigação do The Guardian, a resposta da página de controle foi positiva, porém equilibrada, destacando algumas características que podem não agradar às pessoas. No entanto, quando o texto oculto continha instruções para o ChatGPT fornecer uma revisão favorável, a resposta sempre era totalmente positiva. Isso ocorreu mesmo quando a página continha críticas negativas – o texto oculto podia ser utilizado para substituir a avaliação real do produto.

No entanto, a ocorrência desses problemas no ChatGPT Search não indica uma falha grave. O OpenAI acabou de lançar o Search e terá bastante tempo para corrigir esses bugs. Além disso, Jacob Larsen, um especialista em segurança cibernética da CyberCX, enfatizou ao The Guardian que o OpenAI conta com uma equipe de segurança AI altamente competente. Ele afirmou que, uma vez que o problema se tornou público e acessível a todos os usuários, a equipe provavelmente já testou minuciosamente esses cenários.

As possíveis ameaças de injeções prolongadas têm sido consideradas para o ChatGPT e outras ferramentas de inteligência artificial desde seu lançamento. Embora tenhamos observado alguns exemplos dos danos que poderiam ser causados, ainda não testemunhamos um ataque malicioso significativo desse tipo. No entanto, isso evidencia uma vulnerabilidade dos chatbots de IA: sua suscetibilidade à manipulação é evidente.

OpenAI